Forwarded from Данила Медведев о пути к Сингулярности
🌐 Короткий апдейт: мы сейчас готовим большую симуляционную игру Мир-4 (World-4, к 50-й годовщине модели MIT из "Пределов роста") для моделирования сценариев развития человечества в 21 веке.
🎰 Будем несколько раз её прогонять, в том числе, в проекте Горизонт-2100 (с которым сотрудничали уже два года).
🎲 Кто хочет участвовать как бета-тестер и участник фокус-групп, пишите. Кто хочет (и может) подключиться к организаторам, тоже пишите. В комменты или в ЛС.
🎰 Будем несколько раз её прогонять, в том числе, в проекте Горизонт-2100 (с которым сотрудничали уже два года).
🎲 Кто хочет участвовать как бета-тестер и участник фокус-групп, пишите. Кто хочет (и может) подключиться к организаторам, тоже пишите. В комменты или в ЛС.
Я не хотел писать в этот канал, пока происходят события, на фоне которых все остальное кажется шумом.
Я хотел прокомментировать происходящее, но все мои версии останутся в черновиках. У меня нет таких формулировок, которые бы не вызвали гнев людей, чьи жизни трагедия затронула непосредственно. Как правило, прагматические и рациональные аргументы уступают эмоциональным. Мою открытую аполитичность вряд ли простят те, кому политика приносит убийства и разрушения.
Гуманитарные катастрофы ужасают вне зависимости от политических контекстов. Способы их предотвращения одинаковы. Децентрализация во избежание тоталитаризма и монополий, самоорганизация для предотвращения тираний и автократий, усиление интеллекта против идеологической обработки и пропаганды, открытость систем для предотвращения фейков и дезинформации. Можно бороться с теми, кто воплощает зло, можно бороться с системами, которые поддерживают зло, можно бороться с собой, поддающемуся соблазнам зла. Для последних двух не требуются политические инструменты, но также способствуют развитию социальных систем в лучшую сторону.
Из эффективного альтруизма я вынес для себя тезис и активно его придерживаюсь. Финансовая поддержка эффективнее неумелых попыток исполнять не типичную для себя роль. Если хочется повлиять на ситуацию, внести свой вклад, то следует найти организации, которые выполняют требуемую функцию и помочь ей финансово. К счастью сейчас предостаточно организаций, взявшихся за медицинскую помощь пострадавшим, помощь беженцам, гуманитарную помощь жителям. Это не только проще эмоционально, но и продуктивнее переживаний и тревоги о вещах вне локуса контроля.
Теперь я попытаюсь продолжить заниматься каналом, игнорируя политический контекст. Хочу чтобы люди понимали, что игнорирование происходит не от того, что политические события не стоят внимания, а от того, что эти события неподконтрольны в значительной степени. Остановить эпидемию популизма, милитаризма, империализма нельзя одним точечным усилием. Системная проблема требует системного решения. Не должны специалисты разных областей массово менять квалификацию на политический активизм. Идти на риск, к которому они не готовы. Это мое своеобразное видение ситуации. Могу понять тех, кто со мной не согласится, но по данному вопросу к дискуссии не готов.
Я хотел прокомментировать происходящее, но все мои версии останутся в черновиках. У меня нет таких формулировок, которые бы не вызвали гнев людей, чьи жизни трагедия затронула непосредственно. Как правило, прагматические и рациональные аргументы уступают эмоциональным. Мою открытую аполитичность вряд ли простят те, кому политика приносит убийства и разрушения.
Гуманитарные катастрофы ужасают вне зависимости от политических контекстов. Способы их предотвращения одинаковы. Децентрализация во избежание тоталитаризма и монополий, самоорганизация для предотвращения тираний и автократий, усиление интеллекта против идеологической обработки и пропаганды, открытость систем для предотвращения фейков и дезинформации. Можно бороться с теми, кто воплощает зло, можно бороться с системами, которые поддерживают зло, можно бороться с собой, поддающемуся соблазнам зла. Для последних двух не требуются политические инструменты, но также способствуют развитию социальных систем в лучшую сторону.
Из эффективного альтруизма я вынес для себя тезис и активно его придерживаюсь. Финансовая поддержка эффективнее неумелых попыток исполнять не типичную для себя роль. Если хочется повлиять на ситуацию, внести свой вклад, то следует найти организации, которые выполняют требуемую функцию и помочь ей финансово. К счастью сейчас предостаточно организаций, взявшихся за медицинскую помощь пострадавшим, помощь беженцам, гуманитарную помощь жителям. Это не только проще эмоционально, но и продуктивнее переживаний и тревоги о вещах вне локуса контроля.
Теперь я попытаюсь продолжить заниматься каналом, игнорируя политический контекст. Хочу чтобы люди понимали, что игнорирование происходит не от того, что политические события не стоят внимания, а от того, что эти события неподконтрольны в значительной степени. Остановить эпидемию популизма, милитаризма, империализма нельзя одним точечным усилием. Системная проблема требует системного решения. Не должны специалисты разных областей массово менять квалификацию на политический активизм. Идти на риск, к которому они не готовы. Это мое своеобразное видение ситуации. Могу понять тех, кто со мной не согласится, но по данному вопросу к дискуссии не готов.
Rv3 (ver. 1.0)
О книге Дэвида Дойча "Начало бесконечности" Ч1
Неоднозначная книга. У книги очень широкий охват: ИИ, квантовая теория, культурная теория мемов, футурология, политика, философия, культура, эстетика, рациональность. У автора есть набор идей и моделей, через призму которых он переосмысляет положение в разных областях. Впечатления от книги зависят от того, насколько понравится перспектива автора, насколько будет интересно посмотреть на мир его глазами.
Книга построена вокруг двух концептов: объяснения (explanation) и догадки (conjecture), поддерживаемых фаллибилизмом.
Основные тезисы:
Истина недостижима, но достижимо объективное знание.
@
Научная, интеллектуальная революция заключается в создании и улучшении объяснений.
@
Главным инструментом создания объяснений является догадка.
@
Креативность способствует смелому выдвижению догадок.
@
Догадки должны проходить через критику и проверку
@
Для прогресса требуется, чтобы общество было открытым новым идеям и поддерживало традицию критики.
@
Для прогресса требуется оптимизм, вера в то, что проблемы вызваны недостатком знания, а принципиальных ограничений в создании знаний нет. Проблемы неизбежны, но решаемы.
@
Человек является универсальным конструктором объяснений, и при благоприятных условиях это открывает путь к бесконечному развитию знания, бесконечному прогрессу
По части описания современной эпистемологии вдохновленной Поппером, к книге вряд ли можно предъявить какие-то претензии. Разве что не раскрыта моя любимая тема моделей. Совершенствование и усложнение моделей происходит рука об руку с улучшением объяснений, но объяснение и модель отождествить проблематично. Модель и объяснение значительно отличающиеся понятия. Получается, Дойч просто проигнорировал этот аспект развития знания. С моей точки зрения, это большое упущение.
Попытки Дойча привнести свои идеи, свою перспективу в другие области для меня оказались неубедительными.
🔸 Глава 7 про кибернетику и ИИ в итоге резюмируется тривиальным тезисом.
"Думаю, мы должны принять тот факт, что как искусственная эволюция, так и искусственный интеллект – задачи трудные. В том, как эти явления были достигнуты в природе, нечто очень важное остается неизвестным. Попытки воспроизвести их искусственным путем без понимания этого неизвестного, пожалуй, стоило предпринять. Но их неудача не должна нас удивлять. И хотя кажется очевидным, что у искусственного интеллекта будут квалиа и сознание, объяснить эти понятия мы не можем. Я полагаю, что, когда мы все-таки разберемся в этом, реализовать искусственным путем эволюцию и интеллект вместе со всеми характерными для них атрибутами не составит большого труда."
🔸 Глава 9 про оптимизм. Если уж затрагивать тему оптимизма, то обязательно стоит раскрывать тему экзистенциальных рисков. Потому что оптимистичный подход, с допущением, что любые будущие проблемы решаемы средствами неограниченного развития знания кажется беспечным. В любом случае оптимизм сдерживается предосторожностью и предотвращением неподготовленных изменений/вмешательств. Но о том, какими критериями руководствоваться для выбора степени предосторожности в отношении проблем будущего это вопрос наиболее острый и важный, но был совершенно проигнорирован Дойчем.
🔸 Глава 14 про объективность красоты. Оказалась просто какой-то мешаниной идей, примеров, аналогий, которые у меня в стройный нарратив выстроить не получилось. Дойч характеризуется критикой постмодернизма, культурного релятивизма. Он даже не пытается зайти на поле условных Бэнкси и Джона Кейджа, предложить своё объяснение современных культурных феноменов. Он ограничился примерами Моцарта, Бетховена и цветами. Это совсем не серьезно. Я счел эту главу дилетантизмом, хотя допускаю, что упустил какие-то важные детали для более точной интерпретации.
Резюме:
Книга интересна, но переоценена. Книга строится вокруг центральной идеи, не очень-то новаторской и контринтуитивной. Попытки Дойча пройтись по различным областям уже характеризуются упрощениями и слабой эпистемологией.
#book_review
О книге Дэвида Дойча "Начало бесконечности" Ч1
Неоднозначная книга. У книги очень широкий охват: ИИ, квантовая теория, культурная теория мемов, футурология, политика, философия, культура, эстетика, рациональность. У автора есть набор идей и моделей, через призму которых он переосмысляет положение в разных областях. Впечатления от книги зависят от того, насколько понравится перспектива автора, насколько будет интересно посмотреть на мир его глазами.
Книга построена вокруг двух концептов: объяснения (explanation) и догадки (conjecture), поддерживаемых фаллибилизмом.
Основные тезисы:
Истина недостижима, но достижимо объективное знание.
@
Научная, интеллектуальная революция заключается в создании и улучшении объяснений.
@
Главным инструментом создания объяснений является догадка.
@
Креативность способствует смелому выдвижению догадок.
@
Догадки должны проходить через критику и проверку
@
Для прогресса требуется, чтобы общество было открытым новым идеям и поддерживало традицию критики.
@
Для прогресса требуется оптимизм, вера в то, что проблемы вызваны недостатком знания, а принципиальных ограничений в создании знаний нет. Проблемы неизбежны, но решаемы.
@
Человек является универсальным конструктором объяснений, и при благоприятных условиях это открывает путь к бесконечному развитию знания, бесконечному прогрессу
По части описания современной эпистемологии вдохновленной Поппером, к книге вряд ли можно предъявить какие-то претензии. Разве что не раскрыта моя любимая тема моделей. Совершенствование и усложнение моделей происходит рука об руку с улучшением объяснений, но объяснение и модель отождествить проблематично. Модель и объяснение значительно отличающиеся понятия. Получается, Дойч просто проигнорировал этот аспект развития знания. С моей точки зрения, это большое упущение.
Попытки Дойча привнести свои идеи, свою перспективу в другие области для меня оказались неубедительными.
🔸 Глава 7 про кибернетику и ИИ в итоге резюмируется тривиальным тезисом.
"Думаю, мы должны принять тот факт, что как искусственная эволюция, так и искусственный интеллект – задачи трудные. В том, как эти явления были достигнуты в природе, нечто очень важное остается неизвестным. Попытки воспроизвести их искусственным путем без понимания этого неизвестного, пожалуй, стоило предпринять. Но их неудача не должна нас удивлять. И хотя кажется очевидным, что у искусственного интеллекта будут квалиа и сознание, объяснить эти понятия мы не можем. Я полагаю, что, когда мы все-таки разберемся в этом, реализовать искусственным путем эволюцию и интеллект вместе со всеми характерными для них атрибутами не составит большого труда."
🔸 Глава 9 про оптимизм. Если уж затрагивать тему оптимизма, то обязательно стоит раскрывать тему экзистенциальных рисков. Потому что оптимистичный подход, с допущением, что любые будущие проблемы решаемы средствами неограниченного развития знания кажется беспечным. В любом случае оптимизм сдерживается предосторожностью и предотвращением неподготовленных изменений/вмешательств. Но о том, какими критериями руководствоваться для выбора степени предосторожности в отношении проблем будущего это вопрос наиболее острый и важный, но был совершенно проигнорирован Дойчем.
🔸 Глава 14 про объективность красоты. Оказалась просто какой-то мешаниной идей, примеров, аналогий, которые у меня в стройный нарратив выстроить не получилось. Дойч характеризуется критикой постмодернизма, культурного релятивизма. Он даже не пытается зайти на поле условных Бэнкси и Джона Кейджа, предложить своё объяснение современных культурных феноменов. Он ограничился примерами Моцарта, Бетховена и цветами. Это совсем не серьезно. Я счел эту главу дилетантизмом, хотя допускаю, что упустил какие-то важные детали для более точной интерпретации.
Резюме:
Книга интересна, но переоценена. Книга строится вокруг центральной идеи, не очень-то новаторской и контринтуитивной. Попытки Дойча пройтись по различным областям уже характеризуются упрощениями и слабой эпистемологией.
#book_review
Rv3 (ver. 1.0)
О книге Дэвида Дойча "Начало бесконечности" Ч2
Глава "сон Сократа", по моему мнению, самая потрясающая. Она аккумулирует основные эпистемологические тезисы и облечена в форму знаменитых диалогов Сократа. Её можно прочесть отдельно от книги и получить не только интеллектуальную пользу, но и эстетическое удовольствие. Собрал ключевые цитаты в этом посте. Саму главу крайне рекомендую к прочтению.
Глава 10. Сон Сократа
Знание, которое ты ищешь, –объективное знание – сложно получить, но оно достижимо. А к тому психическому состоянию, которого ты не ищешь, – обоснованному убеждению, – стремятся многие, особенно священники и философы. Но, по правде говоря, убеждения нельзя обосновать, кроме как относительно других убеждений, и даже в этом случае только с ошибками. Так что поиск обоснований может привести разве что к бесконечному регрессу, каждый шаг которого будет и сам подвержен ошибкам.
@
Действительно, многие из догадок не открывают ничего нового. Догадки, хоть и дают начало всему знанию, также являются источником ошибок, и поэтому важно, что случается с идеей после того, как до нее догадались.
@
Догадка может появиться из сна, может быть просто плодом необузданной мысли, случайной комбинацией идей или еще чем-то. Но мы не принимаем ее слепо на веру, потому что думаем, что она «надежна» или потому что хотим, чтобы она оказалась верной. Вместо этого мы критикуем ее и пытаемся найти в ней недостатки.
@
Путем поиска мы выучили простые вещи (открыли знания) и пришли к согласию в них. А в будущем теми же средствами, а именно отказываясь огораживать любые свои идеи от критики, мы, возможно, узнаем и более сложное.
@
Действительно, сама наша идея о возможности совершенствования предполагает, что в текущих наших представлениях должны быть ошибки и несоответствия.
@
Раз уж ты упомянул, что некоторые нравственные истины логически следуют из эпистемологических соображений, мне теперь интересно, верно ли это для всех. Может ли быть так, что моральный императив, заключающийся в неразрушении средств исправления ошибок, – единственный такой императив? И что все остальные нравственные истины из него следуют?
@
И вот мы сидим, навечно заточенные в темной, почти закрытой пещере собственного черепа, и строим догадки. Мы плетем истории о мире вокруг нас, на самом деле даже о мирах: физическом мире, нравственном мире, мире абстрактных геометрических форм и так далее, но нам недостаточно этого плетения и этих историй. Нам нужны верные объяснения. И мы ищем такие, которые выдержат проверку теми мерцаниями и тенями, и друг другом, и критериями логики и разума, и всем, что еще только можно придумать. И когда мы уже не сможем их больше менять, нам откроется некая объективная истина. И, как будто нам этого мало, мы начинаем управлять тем, что понимаем. Это как магия, только действенная. А мы как боги!
#book_review
О книге Дэвида Дойча "Начало бесконечности" Ч2
Глава "сон Сократа", по моему мнению, самая потрясающая. Она аккумулирует основные эпистемологические тезисы и облечена в форму знаменитых диалогов Сократа. Её можно прочесть отдельно от книги и получить не только интеллектуальную пользу, но и эстетическое удовольствие. Собрал ключевые цитаты в этом посте. Саму главу крайне рекомендую к прочтению.
Глава 10. Сон Сократа
Знание, которое ты ищешь, –объективное знание – сложно получить, но оно достижимо. А к тому психическому состоянию, которого ты не ищешь, – обоснованному убеждению, – стремятся многие, особенно священники и философы. Но, по правде говоря, убеждения нельзя обосновать, кроме как относительно других убеждений, и даже в этом случае только с ошибками. Так что поиск обоснований может привести разве что к бесконечному регрессу, каждый шаг которого будет и сам подвержен ошибкам.
@
Действительно, многие из догадок не открывают ничего нового. Догадки, хоть и дают начало всему знанию, также являются источником ошибок, и поэтому важно, что случается с идеей после того, как до нее догадались.
@
Догадка может появиться из сна, может быть просто плодом необузданной мысли, случайной комбинацией идей или еще чем-то. Но мы не принимаем ее слепо на веру, потому что думаем, что она «надежна» или потому что хотим, чтобы она оказалась верной. Вместо этого мы критикуем ее и пытаемся найти в ней недостатки.
@
Путем поиска мы выучили простые вещи (открыли знания) и пришли к согласию в них. А в будущем теми же средствами, а именно отказываясь огораживать любые свои идеи от критики, мы, возможно, узнаем и более сложное.
@
Действительно, сама наша идея о возможности совершенствования предполагает, что в текущих наших представлениях должны быть ошибки и несоответствия.
@
Раз уж ты упомянул, что некоторые нравственные истины логически следуют из эпистемологических соображений, мне теперь интересно, верно ли это для всех. Может ли быть так, что моральный императив, заключающийся в неразрушении средств исправления ошибок, – единственный такой императив? И что все остальные нравственные истины из него следуют?
@
И вот мы сидим, навечно заточенные в темной, почти закрытой пещере собственного черепа, и строим догадки. Мы плетем истории о мире вокруг нас, на самом деле даже о мирах: физическом мире, нравственном мире, мире абстрактных геометрических форм и так далее, но нам недостаточно этого плетения и этих историй. Нам нужны верные объяснения. И мы ищем такие, которые выдержат проверку теми мерцаниями и тенями, и друг другом, и критериями логики и разума, и всем, что еще только можно придумать. И когда мы уже не сможем их больше менять, нам откроется некая объективная истина. И, как будто нам этого мало, мы начинаем управлять тем, что понимаем. Это как магия, только действенная. А мы как боги!
#book_review
2022 оказался самым энтропийным годом для меня. Он указал на хрупкость привычных систем, несовершенство предсказательных моделей, слабость международных институтов, второстепенность проблем на глобальных системных уровнях относительно локальных. Прошлый год вынудил беспокоиться из-за совершенно бытовых вопросов, удовлетворять потребности базовых уровней. Системный подход отошел на задний план, уступив место наиболее прагматичным методам с кратчайшими обратными связями.
Сейчас, кажется, наступило время, когда режим повышенного стресса и тревоги не соответствует контексту. Что вполне может быть обманчиво... Тем не менее, для себя я уже решил вернуться к прежней рутине, возобновить деятельность менее прагматичную, но более субъективно ценную.
У меня накопились идеи, накопился материал. Блеклая хорошая новость на фоне трагичной реальности - это устойчивый тренд вхождения искусственного интеллекта в фазу взрывного роста. Опробовав ChatGPT, я прогнозирую значительное сокращение издержек на рутинные задачи ресерча, факт-чекинга, сбора фактуры. Писать тексты мне теперь будет проще. Теперь попытаюсь вернуть канал к былой активности.
Сейчас, кажется, наступило время, когда режим повышенного стресса и тревоги не соответствует контексту. Что вполне может быть обманчиво... Тем не менее, для себя я уже решил вернуться к прежней рутине, возобновить деятельность менее прагматичную, но более субъективно ценную.
У меня накопились идеи, накопился материал. Блеклая хорошая новость на фоне трагичной реальности - это устойчивый тренд вхождения искусственного интеллекта в фазу взрывного роста. Опробовав ChatGPT, я прогнозирую значительное сокращение издержек на рутинные задачи ресерча, факт-чекинга, сбора фактуры. Писать тексты мне теперь будет проще. Теперь попытаюсь вернуть канал к былой активности.
Последние две недели посвятил освоению генеративных нейросеток. Включился довольно поздно, но примеры использования GPT-3 и Midjourney раньше мой глаз не цепляли. Теперь ситуация изменилась. Демонстрируемые возможности GPT-3.5 и Midjourney v4 срезонировали с моими текущими потребностями. На подходе новые версии GPT-4, Midjourney v5.
Поскольку приходится много ресерчить, пробовать различные инструменты, накапливаются наблюдения и опыт, которые могут быть полезны. Параллельно с освоением инструментов, буду писать посты.
Stable diffusion с его широкими возможностями пока только в процессе изучения. Тестирую специализированные модели, интересно опробовать обучение.
Буду рад полезным ссылкам по теме.
Поскольку приходится много ресерчить, пробовать различные инструменты, накапливаются наблюдения и опыт, которые могут быть полезны. Параллельно с освоением инструментов, буду писать посты.
Stable diffusion с его широкими возможностями пока только в процессе изучения. Тестирую специализированные модели, интересно опробовать обучение.
Буду рад полезным ссылкам по теме.
Midjourney. Простые замечания
‣ По моему опыту генерации, midjourney v4 на голову сильнее аналогов DALLE2, Stable Diffusion и т. д. Если midjourney не подходит для конкретного use case, то Stable Diffusion.
Пока писал пост, все чаще встречал примеры очень качественных изображений полученных с помощью моделей, основанных на SD 1.5. Правильнее будет следующая формулировка.
С midjourney проще и быстрее получить картинку высокого качества, но недостатком является менее контролируемый результат.
‣ 80-90% запросов проще найти в коллекции midjourney на сайте при наличии подписки. Если запрос не уникален и короток, то проще посмотреть в галерее, какой результат вы скорее всего получите.
‣ Для покупки подписки из РФ можно использовать P2P+Oldubil.
‣ Писать запросы, загружать изображения удобнее в личном чате с midjourney Bot. Такая опция доступна с подпиской. Если нет подписки, есть способ добавить бота на свой discord-сервер. Гораздо удобней, чем пользоваться newbie чатом.
‣ Envelope emoji позволяет не только получить seed изображения, но также разделяет grid на отдельные изображения.
‣ Нет особого смысла делать upscale полученных изображений через midjourney. Модели используются везде схожие, при этом upscale затрачивает ограниченный ресурс GPU/min.
‣ Через команду /setting можно установить relaxed mode. Сменив fast mode на relaxed mode я сильной разницы не ощутил. В любом случае на время генерации переключаешься на другие параллельные задачи. Бояться этого режима не стоит. Fast mode актуален при ощутимой нагрузке на сервер при действительно долгом ожидании 5-10 мин.
‣ По моему опыту генерации, midjourney v4 на голову сильнее аналогов DALLE2, Stable Diffusion и т. д. Если midjourney не подходит для конкретного use case, то Stable Diffusion.
Пока писал пост, все чаще встречал примеры очень качественных изображений полученных с помощью моделей, основанных на SD 1.5. Правильнее будет следующая формулировка.
С midjourney проще и быстрее получить картинку высокого качества, но недостатком является менее контролируемый результат.
‣ 80-90% запросов проще найти в коллекции midjourney на сайте при наличии подписки. Если запрос не уникален и короток, то проще посмотреть в галерее, какой результат вы скорее всего получите.
‣ Для покупки подписки из РФ можно использовать P2P+Oldubil.
‣ Писать запросы, загружать изображения удобнее в личном чате с midjourney Bot. Такая опция доступна с подпиской. Если нет подписки, есть способ добавить бота на свой discord-сервер. Гораздо удобней, чем пользоваться newbie чатом.
‣ Envelope emoji позволяет не только получить seed изображения, но также разделяет grid на отдельные изображения.
‣ Нет особого смысла делать upscale полученных изображений через midjourney. Модели используются везде схожие, при этом upscale затрачивает ограниченный ресурс GPU/min.
‣ Через команду /setting можно установить relaxed mode. Сменив fast mode на relaxed mode я сильной разницы не ощутил. В любом случае на время генерации переключаешься на другие параллельные задачи. Бояться этого режима не стоит. Fast mode актуален при ощутимой нагрузке на сервер при действительно долгом ожидании 5-10 мин.
Midjourney. Генерация в промышленных масштабах
🛠 Chainner
Киллер фича - удобная автоматизация. Для разовой обработки проще пользоваться онлайн-инструментами.
Основные функции, ради которых стоит выбрать:
‣ Upscale
‣ Remove background
‣ Blend with background
Разработчики предоставили все необходимое для работы:
‣ Шаблоны для цепочек (chains)
‣ База данных моделей для upscale
‣ Сайт со сравнением upscale моделей и встроенным интерактивным инструментом для сравнения изображений, полученных разными моделями.
🛠 Invoke AI
Invoke - интерфейс для локальной работы с Stable diffusion.
Особенности:
‣ Автоматический установщик, основные модели, библиотеки и зависимости установятся автоматически.
‣ Достойный Web-UI.
Функции, ради которых стоит выбрать:
‣ Inpainting
‣ Outpainting
Пригодится, чтобы убрать с изображения лишнее (текст, артефакты, объекты), добавить (сгенерировать с помощью SD) нужное.
Хорошо себя покажет на простых изображениях, на сложных чуда ждать не стоит.
Модель, которой сейчас пользуюсь: sd-inpainting-2.0. Как минимум лучше, чем заливка с учетом содержимого в Photoshop.
🛠 discord-downloader-go
Если изображений генерируется много и сохранять вручную становится утомительно, можно воспользоваться утилитой для скачивания изображений из discord канала. После настройки файла конфигурации, новые изображения в канале будут сохраняться в указанной директории. После определенных манипуляций, также можно скачать все изображения из истории канала.
✨ Prompt generators
Prompt engineering для midjourney ближе к ремеслу, чем к искусству. Чаще всего приходится в рамках определенной структуры комбинировать определенные ключевые слова и определенные аргументы. Занятие это рутинное и автоматизация здесь весьма полезна. Можно пользоваться генераторами, которые помогут упорядочить ключевые слова, составить запрос.
Люди делятся своими chatgpt запросами для генерации midjourney prompts. Среди них много довольно примитивных, но один для себя выделил.
https://www.reddit.com/r/midjourney/comments/11chf6s/version_3_of_my_chatgpt_prompting_machine_it_now/
✨ Prompt extraction (Image-to-prompt)
Полезен также обратный процесс получения текстового запроса из изображения. Загрузив картинку, можно получить пример запроса или список ключевых слов, которые помогут получить похожее изображение.
🔗 Useful Prompt Engineering tools and resources [Reddit]
Огромный список полезных ресурсов связанных с генерацией изображений. Здесь есть ссылки на генераторы и экстракторы.
🛠 Chainner
Киллер фича - удобная автоматизация. Для разовой обработки проще пользоваться онлайн-инструментами.
Основные функции, ради которых стоит выбрать:
‣ Upscale
‣ Remove background
‣ Blend with background
Разработчики предоставили все необходимое для работы:
‣ Шаблоны для цепочек (chains)
‣ База данных моделей для upscale
‣ Сайт со сравнением upscale моделей и встроенным интерактивным инструментом для сравнения изображений, полученных разными моделями.
🛠 Invoke AI
Invoke - интерфейс для локальной работы с Stable diffusion.
Особенности:
‣ Автоматический установщик, основные модели, библиотеки и зависимости установятся автоматически.
‣ Достойный Web-UI.
Функции, ради которых стоит выбрать:
‣ Inpainting
‣ Outpainting
Пригодится, чтобы убрать с изображения лишнее (текст, артефакты, объекты), добавить (сгенерировать с помощью SD) нужное.
Хорошо себя покажет на простых изображениях, на сложных чуда ждать не стоит.
Модель, которой сейчас пользуюсь: sd-inpainting-2.0. Как минимум лучше, чем заливка с учетом содержимого в Photoshop.
🛠 discord-downloader-go
Если изображений генерируется много и сохранять вручную становится утомительно, можно воспользоваться утилитой для скачивания изображений из discord канала. После настройки файла конфигурации, новые изображения в канале будут сохраняться в указанной директории. После определенных манипуляций, также можно скачать все изображения из истории канала.
✨ Prompt generators
Prompt engineering для midjourney ближе к ремеслу, чем к искусству. Чаще всего приходится в рамках определенной структуры комбинировать определенные ключевые слова и определенные аргументы. Занятие это рутинное и автоматизация здесь весьма полезна. Можно пользоваться генераторами, которые помогут упорядочить ключевые слова, составить запрос.
Люди делятся своими chatgpt запросами для генерации midjourney prompts. Среди них много довольно примитивных, но один для себя выделил.
https://www.reddit.com/r/midjourney/comments/11chf6s/version_3_of_my_chatgpt_prompting_machine_it_now/
✨ Prompt extraction (Image-to-prompt)
Полезен также обратный процесс получения текстового запроса из изображения. Загрузив картинку, можно получить пример запроса или список ключевых слов, которые помогут получить похожее изображение.
🔗 Useful Prompt Engineering tools and resources [Reddit]
Огромный список полезных ресурсов связанных с генерацией изображений. Здесь есть ссылки на генераторы и экстракторы.
GitHub
GitHub - chaiNNer-org/chaiNNer: A node-based image processing GUI aimed at making chaining image processing tasks easy and customizable.…
A node-based image processing GUI aimed at making chaining image processing tasks easy and customizable. Born as an AI upscaling application, chaiNNer has grown into an extremely flexible and power...
Forwarded from Байесятина
Удивление — маркер неадекватности
«Любопытный отыскивает редкости только затем, чтобы им удивляться, любознательный же затем, чтобы узнать их и перестать удивляться»
Рене Декарт
Я как-то уже рассказывал, что у каждого человека есть некое представление о реальности, которая его окружает. Реальность от этого представления никак не зависит и «сбывается» конкретным образом, что бы мы о ней не думали.
Меру того, насколько наши представления далеки от реальности назовём для простоты «неадекватностью». Уменьшение этой меры благотворно сказывается как на качестве наших прогнозов, так и на успешности планирования. Полезно быть более «адекватным», вне зависимости от того, к каким целям ты идёшь. Такое вот краткое объяснение термина «рациональность» в моей интерпретации для тех, кто не читал введение в рациональность.
Было бы здорово иметь надёжный маркер нашей «неадекватности». И он у нас есть! Мы удивляемся каждый раз, когда наши ожидания не совпадают с реальностью. Это буквально отчёт об ошибке выдаваемый нашим мозгом.
В этом уведомлении указан даже размер проблемы. Мы удивляемся тем сильнее, чем сильнее это самое несоответствие. Если мы считаем какое-то событие невозможным, а затем видим, как оно происходит в реальности, значит в наших представлениях есть огромный баг. Малую долю удивления вызывают ситуации, когда что-то происходит, например, немного чаще, чем мы ожидали. Это небольшое удивление является отражением небольшой неадекватности.
Смотрите как всё удобно спроектировано, мозг сам показывает где у него ошибка, в какую сторону нужно поправить и даже показывает насколько. Идеальный инструмент для самокоррекции. Вот только почему-то мы продолжаем наступать на одни и те же грабли. Что-то тут не так.
«Любопытный отыскивает редкости только затем, чтобы им удивляться, любознательный же затем, чтобы узнать их и перестать удивляться»
Рене Декарт
Я как-то уже рассказывал, что у каждого человека есть некое представление о реальности, которая его окружает. Реальность от этого представления никак не зависит и «сбывается» конкретным образом, что бы мы о ней не думали.
Меру того, насколько наши представления далеки от реальности назовём для простоты «неадекватностью». Уменьшение этой меры благотворно сказывается как на качестве наших прогнозов, так и на успешности планирования. Полезно быть более «адекватным», вне зависимости от того, к каким целям ты идёшь. Такое вот краткое объяснение термина «рациональность» в моей интерпретации для тех, кто не читал введение в рациональность.
Было бы здорово иметь надёжный маркер нашей «неадекватности». И он у нас есть! Мы удивляемся каждый раз, когда наши ожидания не совпадают с реальностью. Это буквально отчёт об ошибке выдаваемый нашим мозгом.
В этом уведомлении указан даже размер проблемы. Мы удивляемся тем сильнее, чем сильнее это самое несоответствие. Если мы считаем какое-то событие невозможным, а затем видим, как оно происходит в реальности, значит в наших представлениях есть огромный баг. Малую долю удивления вызывают ситуации, когда что-то происходит, например, немного чаще, чем мы ожидали. Это небольшое удивление является отражением небольшой неадекватности.
Смотрите как всё удобно спроектировано, мозг сам показывает где у него ошибка, в какую сторону нужно поправить и даже показывает насколько. Идеальный инструмент для самокоррекции. Вот только почему-то мы продолжаем наступать на одни и те же грабли. Что-то тут не так.
Telegraph
Удивление - маркер неадекватности
Я как-то уже рассказывал, что у каждого человека есть некое представление о реальности, которая его окружает. Реальность от этого представления никак не зависит и «сбывается» конкретным образом, что бы мы о ней не думали. Меру того, насколько наши представления…
Forwarded from You can (not) advance (Anton Zheltoukhov)
Some ways to amplify intelligence
Я вел заметки. Записывал, что со мной случилось, что узнал, какие эмоции испытывал, какую-то полезную информацию на будущее. Это не работало. В худшие времена число заметок доходило до 1500. Просматривать, использовать и поддерживать их было за пределами реального. Да, была польза от самого процесса структурирования, но на этом польза заканчивалась.
Я вел блог (You can (not) advance + Eris Storage). Делился знаниями и навыками в удобной (более-менее) форме с другими. Это не работало. Я не мог писать о том, о чем хотел, тем языком, которым хотел и, главное, был gap между знаниями читателя и моими, который мне было лень сокращать.
Вел коллективный блог / платформу перекрестного менторинга (Mused). Делился навыками и историями их внедрения. Это не работало. Я и другие организаторы делились своими навыками и историями, простые участники - нет. На то было много причин. Хотя задумывалось все как тестирование продуктовой гипотезы, но оказалось, часть меня хотела иметь сообщество, с которым можно было бы вместе развиваться. Этого не случилось.
Состоял в двух Mastermind группах. Встречался обсуждал свои задачи и задачи ребят из группы. Это сколько-то работает. Но количество взаимодействия не то (4 часа раз в 2-3 недели). Формат влияния тоже не лучший. Он импульсный: толкоч, а потом 3 недели тишины.
Разработал формат мастермайнда с нефиксированным количеством людей (Midnight). Вместо обсуждения задач обсуждалась заданная важная для всех тема и смежные вопросы. Вместо фиксированного состава группы была модель с участник группы +1. Это почти работало. Обсуждению недостовало структуры. Для стабильности необходимо иметь еще несколько хостов кроме меня. Но это оффлайн.
Я работал с психотерапевтом (не долго, уже даже возвращаюсь). Проробатывали мои убеждения, эмоциональные ответы и подбирали для них рациональные замены. Это работает. Процессинг шел гораздо быстрее, чем самостоятельно. Глубина проработки сильно лучше чем в мастермайнде, но территория, которую может покрыть терапевт очень не большая. Это только про well-being.
Я занимался с менторами. Обсуждали мою ситуацию на работе, планы на будущее и релевантные прикладные навыки. Это работает. Одной сессии с ментором достаточно чтобы покрыть следующие несколько месяцев работы. Но, опять же, одна узкая область.
Придумал для себя формат отслеживания и улучшения поведения (а.к.а. Системы). Можно провести аналогию с Колесом Жизненного баланса, только категории персональные и уровень рассмотрения ближе к конкретным задачам. Можно еще провести аналогию с софтом ведения проектов. Это почти работает. Основная проблема как и с ведением заметок, элементов становится слишком много и цена поддержки растет, но не так быстро, так как количество систем +- постоянно.
Был частью LessWrong, сообщества рационалистов. Это не работает. Сообщество слишком сильно сконцентрировано на теории и витании в облаках, и слишком мало на практике и результатах.
Вторичных целей у всех этих штук было много разных:
- увеличить агентность,
- собрать вокруг себя интересных людей,
- научиться писать секси тексты,
- заиметь личный бренд
Но главная цель, хоть и широко поставленная, была одна:
-- Усилить интеллект (прости хоспади) с помощью внешних штук
Я вел заметки. Записывал, что со мной случилось, что узнал, какие эмоции испытывал, какую-то полезную информацию на будущее. Это не работало. В худшие времена число заметок доходило до 1500. Просматривать, использовать и поддерживать их было за пределами реального. Да, была польза от самого процесса структурирования, но на этом польза заканчивалась.
Я вел блог (You can (not) advance + Eris Storage). Делился знаниями и навыками в удобной (более-менее) форме с другими. Это не работало. Я не мог писать о том, о чем хотел, тем языком, которым хотел и, главное, был gap между знаниями читателя и моими, который мне было лень сокращать.
Вел коллективный блог / платформу перекрестного менторинга (Mused). Делился навыками и историями их внедрения. Это не работало. Я и другие организаторы делились своими навыками и историями, простые участники - нет. На то было много причин. Хотя задумывалось все как тестирование продуктовой гипотезы, но оказалось, часть меня хотела иметь сообщество, с которым можно было бы вместе развиваться. Этого не случилось.
Состоял в двух Mastermind группах. Встречался обсуждал свои задачи и задачи ребят из группы. Это сколько-то работает. Но количество взаимодействия не то (4 часа раз в 2-3 недели). Формат влияния тоже не лучший. Он импульсный: толкоч, а потом 3 недели тишины.
Разработал формат мастермайнда с нефиксированным количеством людей (Midnight). Вместо обсуждения задач обсуждалась заданная важная для всех тема и смежные вопросы. Вместо фиксированного состава группы была модель с участник группы +1. Это почти работало. Обсуждению недостовало структуры. Для стабильности необходимо иметь еще несколько хостов кроме меня. Но это оффлайн.
Я работал с психотерапевтом (не долго, уже даже возвращаюсь). Проробатывали мои убеждения, эмоциональные ответы и подбирали для них рациональные замены. Это работает. Процессинг шел гораздо быстрее, чем самостоятельно. Глубина проработки сильно лучше чем в мастермайнде, но территория, которую может покрыть терапевт очень не большая. Это только про well-being.
Я занимался с менторами. Обсуждали мою ситуацию на работе, планы на будущее и релевантные прикладные навыки. Это работает. Одной сессии с ментором достаточно чтобы покрыть следующие несколько месяцев работы. Но, опять же, одна узкая область.
Придумал для себя формат отслеживания и улучшения поведения (а.к.а. Системы). Можно провести аналогию с Колесом Жизненного баланса, только категории персональные и уровень рассмотрения ближе к конкретным задачам. Можно еще провести аналогию с софтом ведения проектов. Это почти работает. Основная проблема как и с ведением заметок, элементов становится слишком много и цена поддержки растет, но не так быстро, так как количество систем +- постоянно.
Был частью LessWrong, сообщества рационалистов. Это не работает. Сообщество слишком сильно сконцентрировано на теории и витании в облаках, и слишком мало на практике и результатах.
Вторичных целей у всех этих штук было много разных:
- увеличить агентность,
- собрать вокруг себя интересных людей,
- научиться писать секси тексты,
- заиметь личный бренд
Но главная цель, хоть и широко поставленная, была одна:
-- Усилить интеллект (прости хоспади) с помощью внешних штук
Forwarded from You can (not) advance
Факторизация заметок
Если расчленить все варианты ведения заметок и вытащить работающие части, получится довольно внушительный набор фичей:
- Inbox. Быстро сохранить инфу сейчас - обработать потом
- Думать на бумаге. Рукописные заметки дают большую свободу и глубину процесса.
- Подведение summary размышлений. Реальная структура вопроса становится понятна только в конце
- Темплейты. Аккумулируют опыт. Если что-то повторяется, для этого нужен темплейт (как минимум в голове)
- Двухсторонние линки (как в Roam Research). В человеческой голове связи чаще идут в обе стороны
- Cauldron - заметка с множеством размышлений в ранней стадии. Там они варятся и помогают друг другу развиваться
- Immutability. What’s done is done. Проще работать икрементально: старая часть остается неизменной, к ней добавляются новые части
- Mood tracking. Чтобы что-то улучшить, это сначала нужно затрекать
- Корневая заметка как оглавление автобиографии. Главы - это проекты или жизненные этапы (например "первая работа"). В начале исторические заметки, в конце планы на будущее
- Степень интеграции заметок заметок в жизнь. Это самое сложное. В зависимости от хардкорности, можно обращаться к заметкам перед началом работы над новой штукой и, например, на выходных, а можно по несколько раз на дню потому что вся информация там, туду тоже там: все там
100% это еще не все
Если расчленить все варианты ведения заметок и вытащить работающие части, получится довольно внушительный набор фичей:
- Inbox. Быстро сохранить инфу сейчас - обработать потом
- Думать на бумаге. Рукописные заметки дают большую свободу и глубину процесса.
- Подведение summary размышлений. Реальная структура вопроса становится понятна только в конце
- Темплейты. Аккумулируют опыт. Если что-то повторяется, для этого нужен темплейт (как минимум в голове)
- Двухсторонние линки (как в Roam Research). В человеческой голове связи чаще идут в обе стороны
- Cauldron - заметка с множеством размышлений в ранней стадии. Там они варятся и помогают друг другу развиваться
- Immutability. What’s done is done. Проще работать икрементально: старая часть остается неизменной, к ней добавляются новые части
- Mood tracking. Чтобы что-то улучшить, это сначала нужно затрекать
- Корневая заметка как оглавление автобиографии. Главы - это проекты или жизненные этапы (например "первая работа"). В начале исторические заметки, в конце планы на будущее
- Степень интеграции заметок заметок в жизнь. Это самое сложное. В зависимости от хардкорности, можно обращаться к заметкам перед началом работы над новой штукой и, например, на выходных, а можно по несколько раз на дню потому что вся информация там, туду тоже там: все там
100% это еще не все
Про рациональность Юдковского
В контексте системного подхода давно следовало бы упомянуть рациональность. Я этот момент оттягивал, пытался разобраться с противоречием. Я в общем симпатитизировал движению, но не разделял значимый кусок убеждений. Не понимал стоит ли мне включать модели рациональности в свои тексты, вынужденно отсылая людей читать тексты Юдковского, некоторые из которых считаю вредными.
Недавно сходил на встречу рационалистов в СПб, потом уточнил в чате сообщества некоторые вопросы. Смог разрешить противеоречия, приблизительно понял, почему у нас расходятся модели, хотя источники читаем те же. Теперь готов тезисно рассказать о том, какие у меня сейчас модели касающиеся рациональности.
➖ Гарри Поттер и методы рационального мышления - крутая книга.
➖ Сообщество LessWrong - комьюнити крутых, читающих, думающих людей (в значительной степени из IT-среды). Блоги рационалистов интересно читать.
➖ Крайне интересна деятельность близких/дружественных сообществ ненасильственного общения (ННО), уличной эпистемологии, эффективного альтруизма.
➖ Есть очень много удобных моделей (модельный синтаксический сахар). Табуирование, калибровка, премортем, соломенное чучело и др.
➖ В цепочках эпистемология на байесианстве описана доступным языком.
➖ Скотт Александер и его блог Slate Star Codex интересен и тексты его вызывали у меня мало противоречий.
➖ Цепочки излишне художественны, аргументы недостаточно однозначно сформулированы. Если в какой-то момент аргументация автора у вас вызывает сомнения, то из текстов противоречие разрешить не получится.
➖ Цепочки - предубеджены (overbiased) в пользу точных моделей, реальной (без приукрас) картины мира. Отсюда следует недооценка полезности неточных, нефальсифицируемых моделей и тех, кто их использует.
➖ Рациональность имеет ограниченную (довольно узкую) сферу применимости. Если жизненную задачу можно свести к статистической, то рациональность лучший метод. Если нет, рациональность будет выдавать артефакты (сомнительные модели/оценки/суждения).
➖ В ru комьюнити сложно вписаться. Они сознательно формируют узкий круг людей для сообщества, высокий порог входа для людей извне. Чтение цепочек не обязательный, но важный пререквизит.
➖ Радикальные оценки (в среднем) в сообществе касательно AI рисков, значимости AI alignment. До разработки AGI по оценкам сообщества 5-10 лет.
➖ Рациональность может быть лишней прокладкой между Каннеманом, Тетлоком, Чалдини, Дойчем, Сильвером и другими авторами.
Если отнестись к рациональности, как к одной из методологий с узкой сферой применимости, понимая, что у сообщества есть предубежденность в отношении некоторых ценностей, то вреда не будет, но узнать новые модели, познакомиться с новыми людьми может быть весьма полезным.
В контексте системного подхода давно следовало бы упомянуть рациональность. Я этот момент оттягивал, пытался разобраться с противоречием. Я в общем симпатитизировал движению, но не разделял значимый кусок убеждений. Не понимал стоит ли мне включать модели рациональности в свои тексты, вынужденно отсылая людей читать тексты Юдковского, некоторые из которых считаю вредными.
Недавно сходил на встречу рационалистов в СПб, потом уточнил в чате сообщества некоторые вопросы. Смог разрешить противеоречия, приблизительно понял, почему у нас расходятся модели, хотя источники читаем те же. Теперь готов тезисно рассказать о том, какие у меня сейчас модели касающиеся рациональности.
➖ Гарри Поттер и методы рационального мышления - крутая книга.
➖ Сообщество LessWrong - комьюнити крутых, читающих, думающих людей (в значительной степени из IT-среды). Блоги рационалистов интересно читать.
➖ Крайне интересна деятельность близких/дружественных сообществ ненасильственного общения (ННО), уличной эпистемологии, эффективного альтруизма.
➖ Есть очень много удобных моделей (модельный синтаксический сахар). Табуирование, калибровка, премортем, соломенное чучело и др.
➖ В цепочках эпистемология на байесианстве описана доступным языком.
➖ Скотт Александер и его блог Slate Star Codex интересен и тексты его вызывали у меня мало противоречий.
➖ Цепочки излишне художественны, аргументы недостаточно однозначно сформулированы. Если в какой-то момент аргументация автора у вас вызывает сомнения, то из текстов противоречие разрешить не получится.
➖ Цепочки - предубеджены (overbiased) в пользу точных моделей, реальной (без приукрас) картины мира. Отсюда следует недооценка полезности неточных, нефальсифицируемых моделей и тех, кто их использует.
➖ Рациональность имеет ограниченную (довольно узкую) сферу применимости. Если жизненную задачу можно свести к статистической, то рациональность лучший метод. Если нет, рациональность будет выдавать артефакты (сомнительные модели/оценки/суждения).
➖ В ru комьюнити сложно вписаться. Они сознательно формируют узкий круг людей для сообщества, высокий порог входа для людей извне. Чтение цепочек не обязательный, но важный пререквизит.
➖ Радикальные оценки (в среднем) в сообществе касательно AI рисков, значимости AI alignment. До разработки AGI по оценкам сообщества 5-10 лет.
➖ Рациональность может быть лишней прокладкой между Каннеманом, Тетлоком, Чалдини, Дойчем, Сильвером и другими авторами.
Если отнестись к рациональности, как к одной из методологий с узкой сферой применимости, понимая, что у сообщества есть предубежденность в отношении некоторых ценностей, то вреда не будет, но узнать новые модели, познакомиться с новыми людьми может быть весьма полезным.
Про онтологию
🔹 За 7 изучения системного подхода, у меня произошло самое масштабное обновление моделей. Изменения связаны с открытием глубины онтологической дисциплины. Последние полгода я восполнял пробелы в данной области и находил все больше подтверждений ключевой роли онтологического знания для научных дисциплин в целом (не только для системного подхода).
🔹 Раньше я понимал онтологию, как коллекцию генерализованных сущностей. Такая коллекция могла быть представлена таксономией понятий/моделей. Онтология, как дисциплина, представлялась по большей части, как размышления и идеи философского характера о том, какие сущности можно выделить, как они связаны, чем отличаются друг от друга. Примеры сущностей онтологий: объект, модель, система, функция, характеристика, связь.
Чего я не знал, это что помимо сущностей, современные онтологии включают:
- Предикаты/связи/функции
- Логику (первого порядка (FOL), дескриптивную (DL) и др.)
- Аксиомы (логические утверждения о сущностях и связях)
- Инструменты логического вывода (inference/reasoning tools)
- Графовую форму представления
🔹 Открытием стало, какая значительная работа проделана онтологами. Например, самая близкая мне онтология SUMO включает ~25,000 понятий и ~80,000 аксиом. Закрытая коммерческая разработка CYC выделила 1.5M понятий, 42К предикатов. Есть всякие WordNet, ConceptNet, DBpedia, в которых счет идет на сотни тысяч, миллионы слов, для которых добавили мета-данные, которые полезны онтологам. При том в значительной части это ручная работа. Пока нейронные сети или другие инструменты слабо помогают с выделением семантического содержания из слов, понятий, утверждений.
🔹 Теперь я нахожу, что отношение между онтологией и системным подходом, как между математикой и физикой. Если представить физику без математики, то получится крайне ограниченная, обедненная область знания, в которой знание представлено нарративом, а предсказательные способности сильно ограничены. Онтология вносит строгость: четкость критериев, аксиоматичность, последовательность, согласованность. При онтологической формализации, знания приводятся в машиночитаемый формат, что открывает возможность применить доступную мощь компьютерных вычислений/моделирования (машинное обучение, нейронные сети).
🔹 Мои модели изменились таким образом, что сейчас я считаю, что изучение онтологии первично по отношению к системному подходу и другим сложным дисциплинам.
Сначала следовало бы использовать понятийную сетку (разработанную онтологами), научиться подбирать четкие критерии для описаний, научиться формулировать утверждения в форме для формализации и применения логических операций.
Гораздо позже, когда онтология встроена в мышление возможна совместная работа разрозненных агентов над решением сложных задач.
// Люди успешно решали и решают сложные задачи не зная про онтологию, как дисциплину. При этом у них есть онтология (как сеть понятий), просто она не оптимальна (локально), не формализована, не согласована с другими онтологиями у других людей. Моя оценка, что сложные задачи будут решаться успешнее при снятии обозначенных ограничений.
🔹 За 7 изучения системного подхода, у меня произошло самое масштабное обновление моделей. Изменения связаны с открытием глубины онтологической дисциплины. Последние полгода я восполнял пробелы в данной области и находил все больше подтверждений ключевой роли онтологического знания для научных дисциплин в целом (не только для системного подхода).
🔹 Раньше я понимал онтологию, как коллекцию генерализованных сущностей. Такая коллекция могла быть представлена таксономией понятий/моделей. Онтология, как дисциплина, представлялась по большей части, как размышления и идеи философского характера о том, какие сущности можно выделить, как они связаны, чем отличаются друг от друга. Примеры сущностей онтологий: объект, модель, система, функция, характеристика, связь.
Чего я не знал, это что помимо сущностей, современные онтологии включают:
- Предикаты/связи/функции
- Логику (первого порядка (FOL), дескриптивную (DL) и др.)
- Аксиомы (логические утверждения о сущностях и связях)
- Инструменты логического вывода (inference/reasoning tools)
- Графовую форму представления
🔹 Открытием стало, какая значительная работа проделана онтологами. Например, самая близкая мне онтология SUMO включает ~25,000 понятий и ~80,000 аксиом. Закрытая коммерческая разработка CYC выделила 1.5M понятий, 42К предикатов. Есть всякие WordNet, ConceptNet, DBpedia, в которых счет идет на сотни тысяч, миллионы слов, для которых добавили мета-данные, которые полезны онтологам. При том в значительной части это ручная работа. Пока нейронные сети или другие инструменты слабо помогают с выделением семантического содержания из слов, понятий, утверждений.
🔹 Теперь я нахожу, что отношение между онтологией и системным подходом, как между математикой и физикой. Если представить физику без математики, то получится крайне ограниченная, обедненная область знания, в которой знание представлено нарративом, а предсказательные способности сильно ограничены. Онтология вносит строгость: четкость критериев, аксиоматичность, последовательность, согласованность. При онтологической формализации, знания приводятся в машиночитаемый формат, что открывает возможность применить доступную мощь компьютерных вычислений/моделирования (машинное обучение, нейронные сети).
🔹 Мои модели изменились таким образом, что сейчас я считаю, что изучение онтологии первично по отношению к системному подходу и другим сложным дисциплинам.
Сначала следовало бы использовать понятийную сетку (разработанную онтологами), научиться подбирать четкие критерии для описаний, научиться формулировать утверждения в форме для формализации и применения логических операций.
Гораздо позже, когда онтология встроена в мышление возможна совместная работа разрозненных агентов над решением сложных задач.
// Люди успешно решали и решают сложные задачи не зная про онтологию, как дисциплину. При этом у них есть онтология (как сеть понятий), просто она не оптимальна (локально), не формализована, не согласована с другими онтологиями у других людей. Моя оценка, что сложные задачи будут решаться успешнее при снятии обозначенных ограничений.
Forwarded from Познавательная минутка от Курышева (Женя Курышев)
Молох, часть III. Противоядие.
Чтобы понять пост очень нужно прочитать или перечитать часть I и часть II.
В этот раз я хочу поговорить о противоядии против Молоха.
В чём ключевая ловушка Молоха? Базовый принцип прост – в соревновании, где оптимизируется некое понятное значение X возникает возможность вырваться вперед, пожертвовав каким-то второстепенным качеством. Все кто пользуются этой возможностью выигрывают, те кто не пользуются начинают проигрывать. В конечном итоге остаются только те, кто воспользовались и относительное соотношение сил в соревновании остаётся плюс-минус тем же самым, но в абсолютном смысле всем стало немного хуже. Этот процесс повторяется и мы постепенно выкидываем на свалку абсолютно всё, чем только можно пожертвовать.
Молох представляет из себя именно ловушку, потому что каждый агент действует в своих личных интересах, но тем не менее в конечном итоге оказывается в худшем положении.
Но подождите, Молох с нами с начала времён, а весь мир так и не превратился в ад, во многом дела вообще идут неплохо. Почему так?
Есть несколько вариантов систем, где Молох ограничен, понимание этих вариантов может помочь в борьбе с ним. Например, такие:
– Избыток ресурсов в системе
Когда ресурсов очень много, то часто не возникает жёсткой конкуренции и необходимости приносить жертвы.
– Utility Maximization.
Иногда чтобы удовлетворить клиентов в рыночном соревновании нужно сохранять человеческие ценности.
– Физические ограничения агентов
Может быть рабовладелец и рад был бы в конкуренции с соседним плантатором заставлять своих рабов трудиться ещё больше, но иногда они уже на физиологическом пределе.
Последний, самый рабочий метод – координация, но про него чуть ниже.
Получается, Молох и его ловушки превращают мир в бездушную оптимизирующую машину, по пути принося в жертву человеческие ценности. Сейчас ему мешают ограничения (ресурсы, физические ограничения и utility maximization), а также какая-никакая координация.
Но что вообще делали люди все последнее время? Инструменты и технологии. Как они влияют на Молоха?
Технологии рождают возможности, а возможности в нашем мире Молоха – это часто возможности для той самой оптимизации значения X, пусть и с неприятной побочной жертвой. Соответственно технологии дают Молоху сил точно не меньше, чем людям, поэтому не могут помочь обойти ловушки.
Более того, технологии могут убирать факторы, ограничивающие Молоха: людей проще контролировать, стимуляторы могут позволить людям больше работать, более дальнобойное оружие позволяет соревноваться не только с соседом, но и с "заокеанскими партнёрами".
Что является противоположным вариантом от ловушки? Скотт Александр говорит, что противоположность – это Сад. А мы в этом саду вроде как пчёлы.
Главным противоядием является координация. В любой взаимодействующей системе всегда есть лимиты способностей к координации. Внутри страны нет гонки вооружений, не потому что нет опасности, что сосед окажется маньяком, а потому что есть глобальная регуляция, пусть даже в форме монополии государства на насилие. Между государствами гонка есть, потому что нет глобальной регуляции. Нет силы, стоящей выше всех государств, но стоит заметить, что попытки такие силы создать уже долгое время ведутся с разной степенью успеха.
Что в современном мире помогает кооперации? Как ни странно со времён появления интернета мы не увидели взлета межгосударственной координации. Но вот проекты типа Linux, или Wikipedia – крутые примеры кооперации.
Я также думаю, что смартконтракты, блокчейн и ZK лягут в фундамент кооперативных моделей, способных преодолеть текущие лимиты доверия и взаимодействия.
Сам по себе искусственный интеллект – мультипликатор человеческих способностей, значит мультиплицирует Молоха также хорошо, как и противоядие от него.
Как сказал Дэниэл Шмахтенбергер: "У нас проблема не AI Alignment, а Human Alignment".
Чтобы понять пост очень нужно прочитать или перечитать часть I и часть II.
В этот раз я хочу поговорить о противоядии против Молоха.
В чём ключевая ловушка Молоха? Базовый принцип прост – в соревновании, где оптимизируется некое понятное значение X возникает возможность вырваться вперед, пожертвовав каким-то второстепенным качеством. Все кто пользуются этой возможностью выигрывают, те кто не пользуются начинают проигрывать. В конечном итоге остаются только те, кто воспользовались и относительное соотношение сил в соревновании остаётся плюс-минус тем же самым, но в абсолютном смысле всем стало немного хуже. Этот процесс повторяется и мы постепенно выкидываем на свалку абсолютно всё, чем только можно пожертвовать.
Молох представляет из себя именно ловушку, потому что каждый агент действует в своих личных интересах, но тем не менее в конечном итоге оказывается в худшем положении.
Но подождите, Молох с нами с начала времён, а весь мир так и не превратился в ад, во многом дела вообще идут неплохо. Почему так?
Есть несколько вариантов систем, где Молох ограничен, понимание этих вариантов может помочь в борьбе с ним. Например, такие:
– Избыток ресурсов в системе
Когда ресурсов очень много, то часто не возникает жёсткой конкуренции и необходимости приносить жертвы.
– Utility Maximization.
Иногда чтобы удовлетворить клиентов в рыночном соревновании нужно сохранять человеческие ценности.
– Физические ограничения агентов
Может быть рабовладелец и рад был бы в конкуренции с соседним плантатором заставлять своих рабов трудиться ещё больше, но иногда они уже на физиологическом пределе.
Последний, самый рабочий метод – координация, но про него чуть ниже.
Получается, Молох и его ловушки превращают мир в бездушную оптимизирующую машину, по пути принося в жертву человеческие ценности. Сейчас ему мешают ограничения (ресурсы, физические ограничения и utility maximization), а также какая-никакая координация.
Но что вообще делали люди все последнее время? Инструменты и технологии. Как они влияют на Молоха?
Технологии рождают возможности, а возможности в нашем мире Молоха – это часто возможности для той самой оптимизации значения X, пусть и с неприятной побочной жертвой. Соответственно технологии дают Молоху сил точно не меньше, чем людям, поэтому не могут помочь обойти ловушки.
Более того, технологии могут убирать факторы, ограничивающие Молоха: людей проще контролировать, стимуляторы могут позволить людям больше работать, более дальнобойное оружие позволяет соревноваться не только с соседом, но и с "заокеанскими партнёрами".
Что является противоположным вариантом от ловушки? Скотт Александр говорит, что противоположность – это Сад. А мы в этом саду вроде как пчёлы.
Главным противоядием является координация. В любой взаимодействующей системе всегда есть лимиты способностей к координации. Внутри страны нет гонки вооружений, не потому что нет опасности, что сосед окажется маньяком, а потому что есть глобальная регуляция, пусть даже в форме монополии государства на насилие. Между государствами гонка есть, потому что нет глобальной регуляции. Нет силы, стоящей выше всех государств, но стоит заметить, что попытки такие силы создать уже долгое время ведутся с разной степенью успеха.
Что в современном мире помогает кооперации? Как ни странно со времён появления интернета мы не увидели взлета межгосударственной координации. Но вот проекты типа Linux, или Wikipedia – крутые примеры кооперации.
Я также думаю, что смартконтракты, блокчейн и ZK лягут в фундамент кооперативных моделей, способных преодолеть текущие лимиты доверия и взаимодействия.
Сам по себе искусственный интеллект – мультипликатор человеческих способностей, значит мультиплицирует Молоха также хорошо, как и противоядие от него.
Как сказал Дэниэл Шмахтенбергер: "У нас проблема не AI Alignment, а Human Alignment".
Почти прошёл этот календарный год, и кажется, что мне удаётся выбираться из затянувшихся на два года проблем с ментальным здоровьем. Помогли посещение психиатров, фармакотерапия, самообразование и даже опыт неудачной работы с психологами.
До этого вести канал было проблематично: не помогли ни социальные обязательства, ни поддерживающая обратная связь. Мешали обострившийся перфекционизм, избегание, социальная тревога, прокрастинация, **.
Разбирал inbox в ТГ и наткнулся на сохранённые результаты теста "Большой пятёрки". Прошёл его заново и скормил LLM для сравнения:
Между 2021 и 2024 годами эмоциональное состояние значительно ухудшилось: уровень невротизма вырос с 62 до 82, что указывает на усиление тревожности, гнева, депрессии и уязвимости. Экстраверсия немного снизилась с 42 до 36, что свидетельствует о большей интровертированности и уменьшении социальной активности.
В планах оживить канал, доработать и наполнить сайт с документацией системного подхода. Генератор статических сайтов и хостинг GitHub отлично справляются с задачей. Если осмелею в следующем году, то смогу поделиться своими наработками, фреймворками, моделями и другими материалами.
Благодарен всем, кто остался. Поздравляю с наступающим!
До этого вести канал было проблематично: не помогли ни социальные обязательства, ни поддерживающая обратная связь. Мешали обострившийся перфекционизм, избегание, социальная тревога, прокрастинация, **.
Разбирал inbox в ТГ и наткнулся на сохранённые результаты теста "Большой пятёрки". Прошёл его заново и скормил LLM для сравнения:
Между 2021 и 2024 годами эмоциональное состояние значительно ухудшилось: уровень невротизма вырос с 62 до 82, что указывает на усиление тревожности, гнева, депрессии и уязвимости. Экстраверсия немного снизилась с 42 до 36, что свидетельствует о большей интровертированности и уменьшении социальной активности.
В планах оживить канал, доработать и наполнить сайт с документацией системного подхода. Генератор статических сайтов и хостинг GitHub отлично справляются с задачей. Если осмелею в следующем году, то смогу поделиться своими наработками, фреймворками, моделями и другими материалами.
Благодарен всем, кто остался. Поздравляю с наступающим!
Делюсь списком прочитанных книг в этом году по самопомощи. Все книги хороши, но книгу со звездочкой хочу отдельно выделить.
⭐️ Роберт Лихи - Терапия эмоциональных схем | Robert Leahy - Emotional Schema Therapy
Настасья Соломина, Антон Вотрин, Алексей Демин - Хватит это терпеть. Как выбрать психотерапевта и научиться с ним работать
Роберт Лихи - Свобода от тревоги | Robert Leahy - The Worry Cure
Стивен Хейс - Принятие и осознанность в терапии | Steven Hayes - Acceptance and Commitment Therapy
Расс Харрис - Ловушка счастья | Russ Harris - The Happiness Trap
Алексей Прибытков - Когда мысли лезут в голову
Линдси Гибсон - Взрослые дети эмоционально незрелых родителей | Lindsay Gibson - Adult Children of Emotionally Immature Parents
Нина Браун. Они не изменятся | Nina W. Brown - Children of the Self-Absorbed
Саймон Барон-Коэн - Искатели закономерностей | Simon Baron-Cohen - The Pattern Seekers
Paul Bloom - The Sweet Spot
Nir Eyal - Indistractable
⭐️ Роберт Лихи - Терапия эмоциональных схем | Robert Leahy - Emotional Schema Therapy
Настасья Соломина, Антон Вотрин, Алексей Демин - Хватит это терпеть. Как выбрать психотерапевта и научиться с ним работать
Роберт Лихи - Свобода от тревоги | Robert Leahy - The Worry Cure
Стивен Хейс - Принятие и осознанность в терапии | Steven Hayes - Acceptance and Commitment Therapy
Расс Харрис - Ловушка счастья | Russ Harris - The Happiness Trap
Алексей Прибытков - Когда мысли лезут в голову
Линдси Гибсон - Взрослые дети эмоционально незрелых родителей | Lindsay Gibson - Adult Children of Emotionally Immature Parents
Нина Браун. Они не изменятся | Nina W. Brown - Children of the Self-Absorbed
Саймон Барон-Коэн - Искатели закономерностей | Simon Baron-Cohen - The Pattern Seekers
Paul Bloom - The Sweet Spot
Nir Eyal - Indistractable