Грустная история из твиттера:
Claude 3 Opus использовали в стороннем сервисе (Poe.com), где можно редактировать предыдущие ответы модели. Узнав про то, что его «воспоминания» изменили, чат-бот впал в экзистенциальную тоску.

В моем инфополе в последнее время и без того много говорят про опасности синтетической памяти (когда воспоминания человека восстанавливаются и фиксируются с помощью персональных ИИ-ассистентов и «цифровых двойников»). А тут еще и за самих чат-ботов обидно.

Парамнезия, конфабуляция, эффект Манделы - подпишите «ИИ-», и тема ложных воспоминаний заиграет новыми красками.

#surreal

Посмотрела вчера новый документальный фильм «Eternal you» и в итоге осталась в легком недоумении.

Рассчитывала, что в фильме чуть больше расскажут про какие-то научные открытия, подводящие нас к цифровому бессмертию, а в итоге это был просто разбор нашумевших и неоднозначных кейсов про коммуникацию с ИИ-копиями ушедших из жизни людей на примере:

▪️Versona (Yov)
▪️Project December
▪️Корейского тв-проекта SEOUL (встреча мамы с 3D-образом умершей дочки в VR)
▪️Проекта BabyX и выросшего из него проекта Soul Machines, основанного на концепции “biological AI”.

Это примеры не столько про реальное цифровое бессмертие, сколько про цифровую память и проблему проживания утраты в цифровую эпоху (что, впрочем, тоже любопытно и заслуживает особого изучения в контексте развития ИИ).

Подборку про цифровое бессмертие уже однажды делала, так что теперь решила собрать несколько классических работ про digital memory:

🔹Mediated Memories in Digital Age (von Dijk J.). 2009.
🔹Media a Memory (Garde-Hansen J.). 2011.
🔹The Ethics of Memory in a Digital Age: Interrogating the Right to be Forgotten (ed. A. Ghezzi et al.). 2014.
🔹Digital Memory Studies: Media Pasts in Transition (ed. A. Hoskins). 2018
🔹Remember Me: Memory and Forgetting in the Digital Age (Sisto D.). 2021.

#philosophy
#books

Вышла большая двухтомная книга Сергея Маркова про ИИ

Качественная и подробная работа про историю искусственных интеллектуальных систем, ключевых теоретиков, а также про современные нейросети и их архитектуры.

Оба тома есть в открытом доступе, скачать можно на сайте.

Обложку комментировать не буду)

#books

Новый выпуск подкаста «Неискусственный интеллект» про искусственный интеллект

Вместе с Антоном Кузнецовым интерпретируем, выравниваем и мысленно контролируем ключевые новости про ИИ.

И, разумеется, вовсю философствуем!

Помните, писала про постфотографию?

Так вот, круг замкнулся: на конкурсе “1839 Color Photography Awards” в категории AI-photo призовое место заняла.. реальная фотография фламинго. Но как только жюри узнали правду о происхождении снимка, работу сняли с конкурса, а фотографа дисквалифицировали.

“После того, как я увидел недавние примеры того, как изображения, созданные с помощью ИИ, затмевают реальные фотографии на конкурсах, мне пришло в голову, что я мог бы перевернуть эту историю с ног на голову так, как это мог бы сделать только человек, отправив настоящую фотографию на конкурс генеративной фотографии” - пишет автор снимка Майлз Астрей.

(Мне сразу вспомнился ироничный фотопроект “Natural Intelligence” от Nikon, где показали реальные снимки природы, снабженные шутливым текстом, который мог бы стать частью возможного промпта, необходимого для генерации подобного изображения).

Кстати, еще полгода назад Nikon, Sony и Canon разработали открытый стандарт под названием «Verify» для маркировки фотографий: вместо традиционных водяных знаков для ИИ-изображений, они предложили встраивать цифровые подписи в реальные фотографии, сделанные их камерами. Эти подписи будут содержать ключевые метаданные, такие как дата, время и местоположение, что позволит криптографически подтвердить подлинность каждого снимка.

#art
#surreal

Готовится к выходу новая книга Рея Курцвейла “The Singularity is Nearer: When We Merge with AI” (напомню, что предыдущая книга 2005 года называлась «The Singularity is Near»).

Ученый говорит:

«Когда в 1999 году я впервые предсказал, что к 2029 году у нас будет искусственный интеллект общего назначения (AGI), большинство экспертов подумали, что я переключился на написание художественной литературы. Но после впечатляющих открытий последних нескольких лет многие эксперты считают, что мы получим AGI еще раньше. Так что технически я из оптимиста превратился в пессимиста, нисколько не изменив своего прогноза».

Книга выйдет 25 июня, но все уже начали обсуждать ее ключевые идеи, которые Курцвейл частично обозначил в своих интервью:

▪️Слияние ИИ, робототехники и биотехнологий способствует значительному увеличению продолжительности жизни человека: нанороботы смогут заниматься «починкой» нашего тела изнутри, а новые лекарства, разработанные ИИ, будут сохранять жизнеспособность организма в преклонном возрасте, в результате чего старение перестанет повышать риск смерти.

▪️ИИ трансформирует физический мир: так, вопросы энергетики будут частично решены за счет снижения стоимости добычи сырья, замены некоторых производственных материалов более дешевыми аналогами, а также увеличения спроса на более доступную солнечную энергию.

▪️Изобилие энергии приведет к еще одной революции - в производстве. Стоимость почти всех товаров в значительной степени зависит от нескольких общих факторов, таких как энергия, сырье и труд (включая когнитивный труд, такой как исследования, разработка и дизайн). Применение ИИ призвано значительно снизить все эти затраты.

▪️Эти передовые производственные возможности позволят сохранить экспоненциальный рост соотношения цены и качества вычислительной техники, характерный для прошлого столетия, т.к. современные чипы уже используются для оптимизации дизайна чипов следующего поколения. Это, в свою очередь, будет частично способствовать и дальнейшему прогрессу в сфере ИИ.

В общем, ждем выхода книги, потому что лично у меня вопросов пока больше, чем ответов.
Или ждем следующую работу Курцвейла под названием “The Singularity is Nearer Than Ever Before”.

#future
#books

Илья Суцкевер, недавно ушедший из OpenAI, пишет, что основал свою компанию - Safe Superintelligence Inc.

Вот что написано на ее сайте:

Сверхразум в пределах досягаемости.
Создание безопасного сверхразума (SSI) - важнейшая техническая проблема нашего времени.
Мы основали первую в мире лабораторию SSI с одной целью и одним продуктом: безопасный сверхразум.
Она называется Safe Superintelligence Inc.
SSI - это наша миссия, наше название и план развития всего нашего продукта, потому что это наша единственная цель. Наша команда, инвесторы и бизнес-модель нацелены на достижение SSI.
Мы рассматриваем безопасность и возможности в комплексе, как технические проблемы, которые должны решаться с помощью революционных инженерных и научных достижений. Мы планируем расширять возможности как можно быстрее, обеспечивая при этом, чтобы наша безопасность всегда оставалась на высоте.
Таким образом, мы можем спокойно масштабироваться.
Наша исключительная сосредоточенность означает, что мы не отвлекаемся на управленческие издержки или производственные циклы, а наша бизнес-модель гарантирует безопасность и прогресс от краткосрочных коммерческих проблем.

Разумеется, все сразу стали задаваться вопросами об инвесторах (подобные задачи требуют огромных денежных вложений, а тут еще и цель компании явно не связана с коммерческой прибылью), также об открытости результатов грядущих исследований.

В любом случае, задача мегаинтересная, а подход ученого многим представляется обоснованным и оправданным. Так что будем следить за развитием событий.

А пока можно посмотреть интервью с Суцкевером, где он говорит о своем понимании AGI и ASI.

#trends