Хочется: праздника, красоты и торжества искусства.
Получается: «Мария-Антуанетта после сингулярности»

В Нью-Йорке отгремел исторический аукцион Christie’s, полностью посвященный ИИ-арту. Из 34 представленных работ 14 ушли с молотка ниже стартовой цены, а 6 лотов и вовсе остались без покупателей. Итоговая выручка — $729 тысяч — для легендарного аукционного дома выглядит очень скромно.

Возможно, выбор лотов мог бы быть и лучше (на одних работах Рефика Анадола и Граймз далеко не уедешь), а может это просто мы еще не готовы к таким аукционам, ведь накануне более 6,5 тысяч художников подписали петицию с требованием отменить мероприятие, утверждая, что некоторые работы было созданы с использованием ИИ, обученного на чужих произведениях (Christie’s, впрочем, отбился элегантно: представители аукциона заявили, что все их картины созданы людьми, а ИИ лишь «улучшал» их).

Пока ясно одно: рынок цифрового искусства только нащупывает почву, а споры о правах и этике будут разгораться с каждым новым экспериментом. Что касается пресловутой беньяминовской ауры, то ситуация с «автором Шредингера», которую я кратко описала в этой статье, сегодня как никогда актуальна.

Но ко всевозможным запутанностям с квантовыми эффектами мы с вами уже хорошо привыкли, не так ли?

#events
#art

Философ и когнитивист Йоша Бах основал Институт Машинного Сознания в Калифорнии (CIMC).

Свои планы об открытии подобного исследовательского центра Бах анонсировал еще в декабре, отметив, что изучение сознания у ИИ - важнейшая проблема современности.

CIMC позиционируется как открытая, трансдисциплинарная, некоммерческая исследовательская инициатива, призванная объединить идеи философии, психологии, нейробиологии, искусства, математики и искусственного интеллекта. Бах рассматривает этот институт как центр, где независимые ученые и эксперты в области ИИ будут проводить собственные практические исследования.

Среди целей СIMC:

- Исследование функционализма в философии сознания;
- Вычислительная формализация различных аспектов сознания;
- Изучение явлений эмерджентности и процессов, происходящих в сложноорганизованных самообучающихся системах;
- Анализ когнитивных архитектур самости, эмпатии и т.д.

Ключевой вопрос, которым задается исследовательская команда, звучит так:

Will we be colonized by digital golems or can we spread live, mind and consciousness onto new substrates?

На сайте CIMC можно найти записи лекций и подкасты, посвященные проблеме машинного сознания, а также список полезных источников по этой теме.

А вот еще несколько исследовательских инициатив, за которыми можно следить:

🔹 Epoch AI - многопрофильный исследовательский институт, изучающий траекторию развития ИИ. Акцент делается на анализе трендов в сфере машинного обучения и прогнозировании их влияния на экономику и общество.

🔹 The Institute for Human & Machine Cognition (IHMC) - некоммерческая исследовательская организация, аффилированная с несколькими университетами и нацеленная на интердисциплинарное изучение ИИ, робототехники, человеко-машинного взаимодействия и философских оснований компьютеционализма.

🔹ConTraSt database - интерактивный веб-сайт, на котором представлена база данных по изучению теорий сознания. Тут можно посмотреть с высоты птичьего полета на то, как развиваются наиболее популярные сегодня научные теории сознания: теория глобального рабочего пространства (GWT), теория интегрированной информации (IIT), теория высшего порядка (HOT) и теория обработки данных первого порядка и прогнозирования (FOT).

#philosophy
#science

Образы сингулярности

В последние годы выражение «грядущая технологическая сингулярность» лезет на нас буквально изо всех щелей. При этом никто не может точно сказать, что это такое, ведь само определение сингулярности предполагает неопределенность.

В современном популярном дискурсе можно отыскать множество образов сингулярности, среди которых лично мне наиболее занимательными кажутся эти пять:

1)      Точка (невозврата)
Технологическую сингулярность часто сравнивают с «точкой сингулярности» в физике и математике - точкой, в которой математический объект (обычно функция) не определён или имеет нерегулярное поведение.
Этот образ чаще используется в популярной культуре (например, кино, видеоиграх, научной фантастике) для упрощения и драматизации нарратива о технологическом прогрессе. Но стоит помнить, что в реальности прогресс всегда фрагментарен и одновременный прорыв во всех ключевых областях (ИИ, биотех, нанотехнологии, квантовые вычисления) вряд ли возможен.
 
2)       Взрыв / Разрыв / Скачок / Ускорение
Отсылка к гипотезе «интеллектуального взрыва» Ирвина Гуда и закону ускоряющейся отдачи Рея Курцвейла. Тут предполагается старт цепной реакции: ИИ улучшит сам себя, создаст еще более умный ИИ, и так до бесконечности. Чаще всего этот образ используют представители e/acc движения и, напротив, технопессимисты, намекающие, что любое радикальное ускорение непременно приводит к разрыву (что-то вроде эффекта спагеттификации).

«Всякий раз, когда технология приближается к барьеру, новые технологии преодолевают его. Сдвиги парадигмы будут происходить всё чаще, приводя к таким быстрым и глубоким технологическим изменениям, что они представляют собой разрыв в ткани человеческой истории» - Рей Курцвейл

  3)      Стена / рубеж / черта / граница / предел / барьер
Эти метафоры чаще всего встречаются в бизнесе и маркетинге и зачастую подразумевают намеренное пересечение некоторой границы (например, создание AGI - это «барьер», который мы должны преодолеть, чтобы достичь сингулярности) и экспансию (пост-сингулярная эпоха как «новая территория», которую предстоит освоить). Подобные образы создают ощущение ясности (черта - это понятный ориентир, в том числе оправдывающий технологическую гонку) и описывают сингулярность как вызов, который нужно принять, попутно романтизируя все сопутствующие риски.

4)      Лента Мёбиуса
Пожалуй, самый любопытный образ, предполагающий фазовый переход, который человечество, возможно, даже не заметит (может ли двумерный человек, идущий по ленте Мебиуса, доказать, что он находится на ленте Мебиуса?). Именно к нему чаще всего прибегают футурологи:

«Когда мы создадим разум, превосходящий наш собственный, человеческая история достигнет интеллектуального перехода,

столь же непроницаемого, как искривлённое пространство-время в центре чёрной дыры, и мир выйдет далеко за пределы нашего понимания

» - Вернор Виндж

 
5)      Туннель
Последователи сингулярианства («сингулярианцы»?), верящие, что сингулярность станет важнейшим этапом эволюции человеческой цивилизации, часто используют метафору перехода по «темному» туннелю, которая призвана подчеркнуть, что:
а) туннель – это узкий коридор, не позволяющий свернуть или остановиться;
б) в начале туннеля не видно конца, ведь социальная паника и культурная адаптация последствий входа в «сингулярный туннель» может занять много времени, но этот этап непременно закончится, и мы увидим «свет» и попадем в «лучший мир».
 
Не буду сейчас комментировать, есть ли вообще смысл верить в технологическую сингулярность (сингулярным скептиком быть просто, но некоторым, возможно, еще проще вооружиться чем-то вроде аргумента Паскаля и спокойно готовиться к неизвестному).

Напомню только, что будущее - это тот образ, который мы выбираем для своего настоящего.

#future

Пара анонсов на эту неделю

Новая визуальная логика, сформированная активной трансформацией цифровых медиа и опирающаяся на идею соединения виртуальных образов с физическими – предмет моего отдельного научного интереса.
Недавно опубликовала статью на эту тему, а в эту пятницу, 28 марта, буду читать лекцию «Новое "новое видение": визуальные повороты современной медиакультуры» в библиотеке им. М.А. Светлова. Поговорим про три ключевых визуальных поворота современности - постмедиальный, постэкранный и постцифровой - и их связь с развитием иммерсивных и технологий и ИИ.

Ну а для любителей совриска - в субботу, 29 марта, в рамках выставки «Свет тишины» буду рассказывать про экологическое искусство и его связь с постгуманизмом, «темным поворотом» в философии и концепцией deep media (интересующимся также рекомендую посетить лекцию моего дорогого коллеги Данилы Бучнева про философские основания экологического мышления).

#events

Настоящий шотландец ИИ

В истории искусственного интеллекта есть одна любопытная закономерность, которую обнаружил еще Джон Маккарти. В англоязычной литературе она именуется "AI effect" и сводится к следующему: каждый раз, когда ИИ-разработчики добиваются крупного успеха (создают модель, которая обыгрывает человека в шахматы / ведёт осмысленные диалоги / решает сложные задачи нобелевского уровня), коллективное научное сообщество делает дружный шаг назад и говорит «это всё ещё не настоящий интеллект».

Подобную логику “подвижной мишени” американский ученый-компьютерщик Ларри Теслер описал лаконичной фразой:

«Искусственный интеллект - это все то, что еще не было создано».

(на самом деле исходная лаконичная фраза звучала иначе: «Intelligence is whatever machines haven't done yet»).

Такая тенденция «понижать громкость» очередной разработки была особенно заметна в 90е, во время второй «зимы ИИ», когда исследователи обнаружили, что они могут получать больше финансирования, если будут всячески маскировать тот факт, что их работа хоть как-то связана с ИИ.

Но почему нам так нужен этот прокручивающийся порог сегодня? Причин несколько:

·       Наивный антропоцентризм: люди подсознательно пытаются сохранить за собой уникальную роль интеллектуальных агентов, поэтому «настоящий ИИ» в этой парадигме просто нереализуем.

·       Принцип новизны: пока задача нова и непонятна для машин, она считается «интеллектуальной». Как только найден алгоритм, она становится «просто программированием» (если выразить это простой формулой, то получится «AI! =>AI»). Жёстко формализовать критерии «интеллектуальности» пока не получается, поэтому конца у этого процесса не видно.

·       Поддержание дискурса о будущем: пресловутый AGI как система, полностью равная человеку по всем способностям, остаётся вечным отодвигаемым горизонтом, мерилом сингулярности и новой вехой цивилизации.
Миф о будущем “true AI”, безусловно, важен для маркетингового позиционирования и обеспечения инвестиционной привлекательности новых ИИ-продуктов, а также для снятия коллективной тревоги от ускоряющегося развития технологий (бояться/возвеличивать абстрактный будущий «настоящий ИИ» в некотором смысле проще, чем сталкиваться лицом к лицу с сегодняшним днём).

Вывод: «эффект ИИ» – это прекрасно осознаваемая всеми ловушка, по структуре напоминающая знаменитую логическую уловку «no true Scotsman»:

А: «Ни один шотландец не разбавляет виски».
Б: «Но мой дядя Дональд — шотландец, и он разбавляет виски».
А: «Но ни один НАСТОЯЩИЙ шотландец не разбавляет виски».

#technology
#philosophy

Апрель – это традиционно месяц неоднозначной погоды и громких академических мероприятий. На этой неделе в Москве пройдут сразу несколько интересных событий, о паре из которых точно хочется упомянуть:
 
🔹 9-11 апреля – Международная конференция «Теории и практики искусства и дизайна» (НИУ ВШЭ). Для всех, кто интересуется совриском и особенностями применения новейших технологий в медиаарте (будут секции про современную фотографию, саунд-арт, генеративное кино и видео и др.). Я выступлю в рамках круглого стола «ИИ и музеи: креативность, технологии, этика» 9 апреля. Также обратите внимание на параллельную программу в ГРАУНД Солянке.
Регистрация на сайте конференции.
 
🔹 10-13 апреля – Международная конференция «Векторы» (Шанинка). Это 35 тематических секций, посвященных различным социально-гуманитарным проблемам, потрясающие спикеры из разных стран, а также насыщенная параллельная программа. Я буду выступать с докладом про трансгуманизм на секции «Технологические (бес)пределы» (программа секции тут), а также на секции «Тайное становится ясным», где немного расскажу про воплощенный ИИ.
Полная программа и регистрация на сайте.

#events

У трансгуманизма нет цели, только путь…

Философия трансгуманизма – это концептуальный кубик-рубик, который при желании можно двигать в любую сторону. Его основная идея очевидна: апгрейд человека. Будучи прямым наследником классического гуманизма эпохи Просвещения, он продолжает верить в прогресс, разум и антропоцентризм.

При этом трансгуманизм можно толковать как а) радикальный картезианский дуализм, подчёркивающий разрыв между бренным телом и вечным духом, который можно сохранить посредством технологий (цифровой иммортализм); б) либерализм/анархизм в квадрате (гипер-индивидуализм и тотальная свобода от естественных ограничений); в) инженерную версию ницшеанства («Сверхчеловек 2.0»); г) космический антропоцен-триумфализм (человек расширит свои границы до размеров космоса); д) светскую эсхатологию (новая версия «рая на земле») и т.д.

В этом и заключается разница между философией трансгуманизма и постгуманизма (и интерпретациями концепции «постчеловека» в их рамках). Как выразилась философ Франческа Ферранда:

«Трансгуманистическое внимание к технологии рискует создать новую версию исключительности, то есть исключительность искусственного, виртуального или робота, тогда как открытие постчеловека, по мысли философского постгуманизма, не предполагает иерархии: дуализм человека/машины не просто меняется, но и структурно деконструируется».

Можно ли "помирить" эти подходы? В теории (и в идеале) - да. Трансгуманизм может дать инструменты для нашего развития, а постгуманизм – этический компас и критическое мышление о том, куда мы движемся.

Что тут можно сделать:

•       Начать толковать «расширение» человека как трансформацию, а не как «улучшение/усиление/оптимизацию» (тут неясна нормативность «улучшения»: кто и как будет определять, что им является?)

•       Отказаться от дуализма естественного и искусственного (природы и технологий). Эстетически с этим прекрасно работает концепция deep media.

•       Подумать о пост(не)человеческом: расширению могут (и должны?) подвергаться не только люди, но и нечеловеческие агенты (животные, растения, ИИ, роботы и др.)

•       Признать: неопределенность - это новая определенность. Трансгуманизм не приведет нас к «цифровому раю», сингулярная эсхатология – это заведомо обреченная идея, а процессуальное мышление - всему голова.
 
А чтобы «расширить» свои представления об этой теме, рекомендую почитать:

▪️ Bostrom N. A History of Transhumanist Thought (2005)
▪️Ж.-М. Шеффер. Конец человеческой исключительности (2010)
▪️M. More, N. Vita-More. The Transhumanist Reader (2013)
▪️F. Fukuyama. Our Posthuman Future: Consequences of the Biotechnology Revolution (2017)
▪️Р. Брайдотти. Постчеловек (2021)
▪️Ф. Феррандо. Философский постгуманизм (2022)

#philosophy
#books

Совсем недавно в издательстве Ad Marginem вышел перевод книги Яниса Варуфакиса «Технофеодализм: что убило капитализм».

Про сам термин «технофеодализм» и то, как к нему относятся (новый язык описания современности или «жадный до мемов интеллектуальный поиск внимания»), я еще напишу пару слов.

А пока подключайтесь к радио «Серебряный дождь» сегодня в 10 по мск - будем обсуждать технофеодализм в прямом эфире.

#events

Пара интересных статей про сознание

Многие наверняка уже слышали, что лаборатория Google DeepMind открыла вакансию для специалиста по изучению машинного сознания в «пост-AGI эру». В то же время компания Anthropic запустила исследовательскую программу, чтобы выяснить, могут ли нейросети обладать опытом, предпочтениями или испытывать стресс (а глава компании Дарио Амодеи написал очередной пост
о важности изучения «цифровых мозгов» современных LLM).

В общем, тема эта сейчас горяча, поэтому чтобы следить за ней рекомендую дополнительно почитать эти статьи:

▪️ Taking AI Welfare Seriously (Р. Лонг, Дж. Берч, Д. Чалмерс и др).
Исследователи утверждают, что существует реальная вероятность того, что в ближайшем будущем некоторые ИИ-системы станут сознательными, и в связи с этим предлагают три первых шага, которые могут предпринять компании уже сегодня: 1) признать, что благополучие ИИ является важным и сложным вопросом; 2) начать оценивать системы ИИ на предмет наличия внутренних переживаний; 3) разработать политику и процедуры для работы с ИИ с надлежащим уровнем моральной ответственности.

▪️Adversarial testing of global neuronal workspace and integrated information theories of consciousness (С. Деан, К. Кох, Дж. Тонони, Д. Чалмерс и др).
Исследовательская группа из ученых-когнитивистов и философов «столкнула лбами» две наиболее популярные сегодня научные теории сознания - теорию глобального рабочего пространства (GWT) и теорию интегрированной информации (IIT). Результаты проведенного ими эксперимента согласуются с некоторыми предсказаниями IIT и GWT, но в то же время существенно оспаривают ключевые положения обеих теорий.

#papers

Постоянно проговариваю, что понятие “цифровые медиа” является очень условным.

По сути, оно нисколько не отражает сущностных различий между современными цифровыми и традиционными медиа: первые не являются принципиально новым типом медиа, а скорее представляют собой результат эволюции и конвергенции существовавших ранее медиаформ:

Во-первых, цифровые медиа используют те же базовые принципы и структуры, что и традиционные медиа (например, цифровые изображения и видео используют те же визуальные языки и конвенции, что и их аналоговые предшественники);

Во-вторых, понятие "цифровые медиа" часто используется для обозначения не столько нового типа медиа, сколько новой технологической платформы;
 
Наконец, многие из характеристик, которые обычно ассоциируются с цифровыми медиа, такие как «интерактивность», «гипертекстуальность» и «виртуальность», не являются уникальными для цифровых медиа.

Зачем же мы тогда постоянно говорим о различиях между «цифрой» и «не-цифрой» во всех мыслимых и немыслимых контекстах? Потому что этот кажущийся концептуальный разрыв удобно использовать для создания хайпа вокруг "революционных" технологий, а также поколенческих нарративов (фокус на "информационном взрыве", "поверхностном знании", "клиповом мышлении" как на абсолютно новых феноменах, порожденных исключительно "цифрой"). Кроме того, эта идея подпитывает как утопические взгляды (технологии решат все проблемы, создадут новый дивный мир), так и дистопические (цифровизация разрушает общество, приватность, человечность).

Полагаю, что стоит всегда держать в уме тезис Льва Мановича "цифровых медиа не существует", ведь говорить о противопоставлении «цифрового» и «нецифрового» в потстдигитальную эпоху попросту неактуально.

Классики, которых можно почитать:

▫️J.D. Bolter, R. Grusin. Remediation: Understanding New Media (1999)
▫️M. Hansen. New Philosophy for New Media (2004)
▫️L. Manovich,. There Is No Digital Media, There Is Only Software (2012)
▫️F. Cramer. What is Post-Digital? (2014)
▫️З. Цилински. Археология медиа (2017)

#philosophy
#books

Коллеги из Казани продлили прием заявок на участие в летней школе по социальной философии до 1 июня.
Если вам интересна тема «вторжения будущего», приправленная всевозможными философскими соусами, то скорее подавайте заявки!

#events

Сегодня в 16:00 в ГЭС-2 состоится дискуссия «Homo Digital: как технологии стали нашей второй личностью?»

Это будет разговор о том, насколько цифровые технологии способны изменить природу человека.

Участники дискуссии:
🔹Александра Танюшина — кандидат философских наук, медиаисследовательница, автор программы «CultTech: пересечение культуры и технологий».
🔹Валерия Цвелая — биофизик, заведующая лабораторией экспериментальной и клеточной медицины МФТИ.
🔹Андрей Василенко — куратор фонда V–A–C и Дома культуры «ГЭС-2», кинокритик.
🔹Никита Восторов — кандидат физико-математических наук, технологический визионер, CEO Бюро креативного инжиниринга ADDITIVKA.

Модератор:
🔹Валерия Путинцева-Арданская — философ, кандидат философских наук, научный сотрудник просветительского отдела ММОМА.

Регистрация тут.

#events

Как всегда во время летней сессии выпадаю из регулярного постинга, но обещаю скоро вернуться!

А пока анонс:

28 июня, Санкт-Петербург - в рамках выставочного проекта «Машины эмпатии» прочитаю лекцию «Воплощенный ИИ: на пути к искусственной телесности».

Так как выставка исследует, как пересекаются человеческие эмоции, технологии, машинный интеллект и биологические процессы, то и мы поговорим о границах «естественного» и «искусственного», а также о современных философских трактовках проблемы телесности.

Регистрация на лекцию тут.
Буду всех рада видеть, stay tuned

#events

На Крите стартовала международная конференция, посвященная сознанию ИИ. Официальная тема конференции - “AI & Sentience” (с полной программой можно ознакомиться тут).
Открыл её Кит Франкиш, выступивший с докладом «How to think about artificial consciousness?».

На вопрос, заявленный в названии доклада, Франкиш отвечает “Don’t think about it”.

Но это еще не всё.

#events

Второй день конференции

Сьюзан Блэкмор винит во всем летучую мышь Нагеля и утверждает, что мы - байесовские предиктивные модели. Дэвид Чалмерс рассказывал про «сисиси» (CCC, computational correlates of consciousness). Подробнее про его доклад уже написал Антон Кузнецов.

#events

Роман Ямпольский, автор книги “AI: Unexplainable, Unpredicted, Uncontrollable” (2024), выступил с докладом о проблеме контроля и безопасности ИИ:

«There are many solutions: some of them don’t work at all, while others simply don’t work».

Почти полная версия его презентации - тут.

Британский философ Энди Кларк, только что получивший премию за вклад в развитие науки о сознании, рассказывает о предиктивном процессинге на фоне сгенерированной картинки Дэниела Деннета, пытающегося преодолеть картезианскую гравитацию.

Что почитать у Кларка:

The Extended Mind (1998)

Supersizing the Mind: Embodiment, Action, and Cognitive Extension (2008)

The Experience Machine: How Our Minds Predict and Shape Reality (2023)

ChatGPT, extended: large language models and the extended mind (2025)

#events
#books