В последние дни мое окружение поделилось на 2 группы:

а) Тех, кто активно обсуждает вопросы благополучия ИИ и возможность появления у него сознания в связи с публикацией отчета “Taking AI Welfare Seriously”;

б) Тех, кто спорит из-за нашумевшего текста Пола Грэхема, в котором основатель Y Combinator говорит о будущем пост-ИИ мире, где основаная масса людей будет «непишущей» (и, следовательно, «немыслящей»).

Я же, пользуясь шумихой и случаем, обращаю внимание, что философский ф-т МГУ на днях открыл набор на программу профессиональной переподготовки «Прикладная философия», где у слушателей будет возможность изучить широкий спектр дисциплин (от онтологии до этики ИИ), развить навыки академического письма и критического мышления и, самое главное, узнать о практической стороне современной философии.

Возможно как очное, так и дистанционное обучение. Подробнее о содержании программы можно узнать тут.

#philosophy
#events

Цифровые мозги

Что ж, раз в ближайшие годы мы все вынуждены настраиваться на Tescreal-мышление, то пора окончательно свыкнуться с мыслью, что всевозможные метафоры «цифровых мозгов», «расширенного познания» и «коллективного ИИнтеллекта» будут с нами еще долго.

Что у нас уже есть:

- Модель от Altera, имитирующая структуру префронтальной коры мозга для ИИ-агентов (которых уже запустили жить симулированной жизнью в Minecraft);

- Фундаментальная модель человеческого познания Centaur, способная предсказывать и симулировать человеческое поведение и являющаяся реальным кандидатом на роль полноценной модели нашей психики;

- «Умная крыса» Пифия, чей мозг подключен к ИИ. Она способна отвечать «да» и «нет» на сложные научные вопросы (о том, хайп это или революция, пишут тут);

- Споры об искусственном сознании в контексте развития «этичного ИИ»: правда ли, что без внутренних переживаний LLM никогда не смогут быть по-настоящему моральными?

И многое другое.

А вот несколько важных текстов по этой этой теме для философской разминки аналоговых мозгов:

▪️The Routledge Handbook of the Computational Mind

▪️Mind as Machine: A History of Cognitive Science (M. Boden)

▪️The Evolutionary Optimality Challenge
(N. Bostom et al)

▪️Better Than Human: The Promise and Perils of Biomedical Enhancement
(A. Buchanan)

#science
#future

Вышел камерный и уютный подкаст в рамках проекта «Дорожки Алетейи» с моим участием.

Поговорили про понятие «новые медиа», проблему авторства и оригинальности цифровых художественных работ, постфотографические изображения и, разумеется, симулякры.

А если вам интересно подробнее обсудить все эти темы, то приходите на нашу секцию «Философия современного медиаискусства: от Art&Science до генеративного творчества» на конференции молодых ученых «Философия в 21 веке: новые стратегии философского поиска», которая пройдет в МГУ 9-13 декабря 2024 г.

В рамках конференции заявлено множество интересных секций, посвященных экспериментальной философии когнитивных наук, проблеме цифрового бессмертия, современной этике, философии музыки и др.

Если вы хотите принять участие в качестве докладчика или слушателя, успейте подать заявку до 20 ноября.

#events

Выпала из постинг-ритма, потому что погрузилась в разработку сразу нескольких крутых образовательных проектов (скоро полетят все анонсы, stay tuned).
 
А на дворе уже декабрь, и значит это время разбирать технологические и культурные тренды грядущего года.
 
Итак, тренд №1, который фигурирует почти во всех крупных прогнозах (после ИИ-агентов, разумеется) – это human enhancement.
 
Всевозможные «улучшения» человека посредством применения новых технологий – тема, традиционно ассоциирующаяся с трансгуманизмом. Хотя, как справедливо пишет Ник Бостром в статье «A Short History of Transhumanist Thought» (2006), а затем и в книге «Human Enhancement» (2009), стремление человека к приобретению новых способностей так же старо, как и сам наш биологический вид.
 
Сегодня мы постоянно слышим про будущую аугментацию, киборгизацию и амплификацию человеческого тела и наших когнитивных способностей, и этот дискурс все чаще преподносится далеко не под самым фантастическим соусом. Как отметил Рей Курцвейл в своей последней книге с характерным подзаголовком «When we merge with AI»: «science fiction is becoming science fact».
 
Далеко не все поддерживают оптимистичный взгляд на идею радикального технологического совершенствования. Новозеландский профессор этики Николас Агар в своей книге «Humanity's End: Why We Should Reject Radical Enhancement» (2010) говорит об оверселлинге мифа об улучшении человека, из-за чего наши философские, этические и правовые представления о последствиях слияния с технологиями существенно отстают от развития самих технологий.
 
Ну а чтобы немного замедлиться и помедитировать над вечной проблемой «Hope vs Hype», рекомендую обратиться к свежему сборнику «The Routledge Handbook of the Ethics of Human Enhancement» (особенно советую присмотреться к статье Винсента Мюллера, под чьей редакцией совсем скоро выйдет оксфордский сборник по философии ИИ).
 
#future
#books

Применение цифровых метафор в популярной культуре, науке и маркетинге - одна из наиболее любимых мною тем. Недавно в Forbes вышла колонка Андрея Себранта про метафоры ИИ, и эта тема вновь меня поглотила.
 
Метафоры традиционно используются для объяснения сложных идей через аналогию с более понятными явлениями, и, согласно теории концептуальной метафоры Лакоффа и Джонсона, призваны формировать новый когнитивный опыт субъекта.
 
С одной стороны, цифровые метафоры служат фактором спасения технических объектов от полного отчуждения, создавая иллюзию ясности и простоты при восприятии пользователем новых устройств.

С другой стороны, особая проблема возникает тогда, когда эволюция техники заменяется эволюцией абстракций.

С ИИ тут интересная ситуация получается: то метафора компьютера применялась для объяснения особенностей функционирования нашего мышления, то человеческий разум становится ориентиром для разработки ИИ-систем (подробнее про эту инверсию тут).
 
Но так как наделение искусственных интеллектуальных моделей антропоморфными чертами порой резко критикуется из-за неадекватности подобных аналогий, то периодически возникают новые способы описания ИИ как, к примеру, нечеловеческих существ (вспомним метафору «new digital species», которую использует соучредитель лаборатории DeepMind Мустафа Сулейман).
 
Закономерным образом по мере расширения функционала ИИ-систем, будут распространяться и новые способы их иносказательного описания, заимствованные, помимо прочего, из научной фантастики (вот хорошая статья про это).
 
Ну а если ИИ вам уже порядком надоел, то вот пара книг, в которых разбираются другие цифровые и технологические метафоры:
 
🔹Van den Boomen M. Transcoding the Digital: How Metaphors Matter in New Media (2014)

🔹 Nascimento F., Chown E. Meaningful Technologies: How Digital Metaphors Change the Way We Think and Live (2023)
 
#books

Зимняя сессия – время условного спокойствия для многих преподавателей, когда можно заняться своими научными интересами: написать статью, почитать исследования, походить на дискуссии, посмотреть в стену. Я, например, наконец дорвалась до книг, которые долго откладывала.

Поэтому делюсь своим небольшим и несколько сумбурным списком прочитанного нон-фикшена:

🔹     «Машина творения: Новые организмы, редактирование генома и лабораторные гамбургеры» (Э. Уэбб, Э. Гессель) – книга футуролога и основоположника синтетической биологии, посвященная описанию возможных перспектив развития генной инженерии. Для всех, кому интересно, какие новые идеи появились после вручения Нобелевской премии за открытие «генетических ножниц». 10/10
 
🔹      «The Light Eaters: How the Unseen World of Plant Intelligence Offers a New Understanding of Life on Earth» (Z. Schlanger) – книга о жизни и сознании растений. Эта тема уже давно перестала быть маргинальной: за последние годы ученые узнали много нового об их способности общаться, слышать звуки, изменять свое тело и сохранять полезные воспоминания. Ботаника сегодня – «область, находящаяся в смятении», поэтому если вы еще ничего не знаете про внутреннюю жизнь цветов и деревьев - это must.  9/10
 
🔹      «Грядущая волна. Технологии, власть и величайшая дилемма XXI века» (М. Сулейман) – соучредитель лаборатории DeepMind пишет о новой волне технологических открытий, основа которой - это ИИ и синтетическая биология. Книга начинается с исторического экскурса, посвященного различным научно-технологических волнам (от аграрной революции до наших дней), а заканчивается предложением методов контроля развития новейших технологий. Местами интересно, но в целом я ожидала большего. 7/10.
 
🔹       «Filterworld: How Algorithms Flattened Culture» (K. Chayka) – нашумевшая в Европе книга про алгократию, цель которой - показать, как нашими вкусами, поведением и эмоциями целиком управляет таргетированная реклама и автоматические подборки. Автор ставит под сомнение само понятие свободы воли в контексте современной онлайн-жизни, а также рассказывает о своём опыте «алгоритмического очищения». Если вы и так «алго-тревожник», то вам читать эту книгу не рекомендую.  7/10.
 
На меня еще с укором смотрит огромная «Заря всего» Дэвида Гребера, но про нее, видимо, расскажу, как только отдохнут глаза.

#books

Настало время анонсов: в феврале мы запускаем курс по CultTech, посвященный изучению взаимодействия культуры и технологий.

Это совместный проект «Лаборатории Культура» МФТИ и Академического направления Дома культуры «ГЭС-2» (ваша покорная слуга - автор-разработчик курса).

Большая часть программы посвящена практике: исследованиям рынка, анализу существующих технологических решений и созданию новых продуктов, дискуссиям, работе в проектных группах.

Программа включает шесть модулей:

1. Введение в CultTech,
2. Философско-теоретический фундамент CultTech,
3. Цифровые технологии в практиках современного искусства,
4. CultTech в культурных и креативных индустриях,
5. Синергия культуры и технологического предпринимательства,
6. Менеджмент и продюсирование междисциплинарных проектов

Старт курса 22 февраля, длительность 6 месяцев.

Подать заявку и узнать подробности можно на сайте МФТИ.

#events

Ошибка “Джетсонов"

Помните старый американский мультсериал "Джетсоны", где изображалось будущее с летающими машинами, дом-рОботницами и другими фантастическими технологиями? По сюжету действие происходит примерно в 2060 году, и показано это время чрезвычайно утопично: главный герой работает 3 дня в неделю, все задания выполняются по нажатию кнопки, город оформлен в эстетике популюкс.

Но при этом многие аспекты повседневной жизни, такие как социальные роли, структура семьи и даже мода, остались практически неизменными, как будто застрявшими в 1960-х годах.

"Ошибка Джетсонов" (Jetsons fallacy) — это наблюдение в футурологии и дизайне, которое описывает тенденцию переоценивать развитие технологий в одних областях и недооценивать в других. 

Суть "ошибки Джетсонов" заключается в следующем:

🔹Будущее часто представляется как улучшенная версия настоящего, без учета сложных и противоречивых последствий технологического прогресса (например, люди, живущие по 150 лет, вряд ли сохранят все социальные институты в неизменном виде).

🔹Популярные футуристические прогнозы часто фокусируются на эффектных технологических достижениях, игнорируя более тонкие, но важные изменения в культуре. Летающие машины выглядят захватывающе, но гораздо большее влияние на нашу жизнь всегда оказывают «невидимые технологии»: интернет, соцсети, чат-боты.

🔹 Да, технологии развиваются быстрее, чем социальные структуры. К 2025 году мы получили много инноваций, напоминающих гаджеты из "Джетсонов", хотя может показаться, что культура и повседневная жизнь изменились не так радикально. Но это когнитивное искажение, своеобразное change blindness. Другое дело, что культура и социальные отношения меняются не сразу после появления той или технологии, а лишь после ее массового внедрения, из-за чего заметные технологические и культурные трансформации происходят несинхронно.

"Джетсоны" — важное напоминание о том, что предсказание будущего требует учета не только технологических трендов, но и социальных, культурных и экономических факторов. В прогнозах, форсайт-исследованиях и дизайн-фикшн (у Димы Соловьева как раз на днях вышел пост про этот метод анализа сценариев будущего) давно царит важное правило:

«Лобовое стекло всегда значительно больше, чем зеркало заднего вида»

#future

В продолжение темы про животных

Все мы прекрасно знаем понятие «человеко-машинный интерфейс», но далеко не все слышали про animal interface.

Animal Interface — это концепция или технология, направленная на создание способов взаимодействия между животными и искусственными системами (например, компьютерами, устройствами, роботами) или между разными видами животных и человеком.

Это понятие включает в себя:

- Технологические интерфейсы для животных: сенсорные экраны для приматов, устройства, распознающие лай собак, чтобы активировать кормушки или игрушки, импланты, считывающие активность мозга животного и модифицирующие его активность (вот совсем свежий пример устройства типа «нос-компьютер» для служебных собак);

- Использование интерфейсов для отслеживания здоровья, поведения или миграции животных: умные ошейники, GPS-трекеры, биодатчики, имплантируемые чипы, эко-мониторинг (например, дроны, следящие за стадами), “интернет животных” (IoA).

- Интерфейсы, улучшающие коммуникацию между людьми и животными: всевозможные переводчики с животных языков, AR/VR для тренировок и дрессировки служебных животных, вибрационные жилеты для собак-поводырей.

- Робототехника и бионика: кибернетические насекомые и «умные улья», искусственные роботы-животные, используемые в исследованиях или развлечениях, бионические протезы, управляемые через нейроинтерфейсы.

Теме animal interface посвящено большое количество философских и этических работ, поднимающих вопросы интеграции животных организмов в цифровую среду. Это, в первую очередь, вопросы, касающиеся уже упомянутой выше идее расширения морального круга, онтологии «гибридных взаимодействий», а также проблемам нарушения автономии животных и их рыночной коммодификации.

Что почитать:

▪️ «Интерфейс животных: цифровое проектирование по ту сторону человека» (К.А. Очеретяный)
▪️ «Рынок удобных животных» (К. Крылова)
▪️ «The Sounds of Life: How Digital Technology Is Bringing Us Closer to the Worlds of Animals and Plants» (K. Bakker)
▪️ «Animal-computer interaction: A manifesto» (K. Mancini)
▪️ «The Internet of Animals: Discovering The Collective Intelligence of Life on Earth» (M. Wikelski)

Наверху: «живая цифровая скульптура» от арт-группы Universal everything.

#technologies

Хочется: праздника, красоты и торжества искусства.
Получается: «Мария-Антуанетта после сингулярности»

В Нью-Йорке отгремел исторический аукцион Christie’s, полностью посвященный ИИ-арту. Из 34 представленных работ 14 ушли с молотка ниже стартовой цены, а 6 лотов и вовсе остались без покупателей. Итоговая выручка — $729 тысяч — для легендарного аукционного дома выглядит очень скромно.

Возможно, выбор лотов мог бы быть и лучше (на одних работах Рефика Анадола и Граймз далеко не уедешь), а может это просто мы еще не готовы к таким аукционам, ведь накануне более 6,5 тысяч художников подписали петицию с требованием отменить мероприятие, утверждая, что некоторые работы было созданы с использованием ИИ, обученного на чужих произведениях (Christie’s, впрочем, отбился элегантно: представители аукциона заявили, что все их картины созданы людьми, а ИИ лишь «улучшал» их).

Пока ясно одно: рынок цифрового искусства только нащупывает почву, а споры о правах и этике будут разгораться с каждым новым экспериментом. Что касается пресловутой беньяминовской ауры, то ситуация с «автором Шредингера», которую я кратко описала в этой статье, сегодня как никогда актуальна.

Но ко всевозможным запутанностям с квантовыми эффектами мы с вами уже хорошо привыкли, не так ли?

#events
#art