Пока все тестировали новую «рассуждающую» модель o1 от OpenAI, Scale AI и Center of AI Safety объявили о проведении конкурса под завораживающим названием «Последний экзамен человечества» («Humanity Last Exam»).

Основная задача конкурса - собрать самые сложные вопросы для оценки работы будущих систем ИИ. Раз текущие модели пугают нас своей способностью за час написать код PhD-исследования, необходимо разработать тесты, решить которые им будет уже не под силу.

В рамках конкурса принимаются вопросы, затрагивающие самые разные области знания - от математики и логики до аналитической философии (судя по текущим заявкам, философских вопросов пока не так много).

Требования к вопросам следующие: высокая сложность, оригинальность, безопасность (никаких вопросов про изготовление атомной бомбы), объективность (вопросы про смысл жизни, вселенной и всего такого тоже не принимаются).

После того, как вы записали ваш вопрос, его предварительно проверяют на современных языковых моделях, чтобы определить, не является ли он слишком простым.

За топ-500 лучших вопросов обещают денежные призы, а авторов самых сложных заданий могут также упомянуть в итоговой научной статье.

Я уже задала свой вопрос.
Вам тоже рекомендую подумать над своим в качестве интеллектуальной разминки.

#future
#philosophy

В последние дни мое окружение поделилось на 2 группы:

а) Тех, кто активно обсуждает вопросы благополучия ИИ и возможность появления у него сознания в связи с публикацией отчета “Taking AI Welfare Seriously”;

б) Тех, кто спорит из-за нашумевшего текста Пола Грэхема, в котором основатель Y Combinator говорит о будущем пост-ИИ мире, где основаная масса людей будет «непишущей» (и, следовательно, «немыслящей»).

Я же, пользуясь шумихой и случаем, обращаю внимание, что философский ф-т МГУ на днях открыл набор на программу профессиональной переподготовки «Прикладная философия», где у слушателей будет возможность изучить широкий спектр дисциплин (от онтологии до этики ИИ), развить навыки академического письма и критического мышления и, самое главное, узнать о практической стороне современной философии.

Возможно как очное, так и дистанционное обучение. Подробнее о содержании программы можно узнать тут.

#philosophy
#events

Цифровые мозги

Что ж, раз в ближайшие годы мы все вынуждены настраиваться на Tescreal-мышление, то пора окончательно свыкнуться с мыслью, что всевозможные метафоры «цифровых мозгов», «расширенного познания» и «коллективного ИИнтеллекта» будут с нами еще долго.

Что у нас уже есть:

- Модель от Altera, имитирующая структуру префронтальной коры мозга для ИИ-агентов (которых уже запустили жить симулированной жизнью в Minecraft);

- Фундаментальная модель человеческого познания Centaur, способная предсказывать и симулировать человеческое поведение и являющаяся реальным кандидатом на роль полноценной модели нашей психики;

- «Умная крыса» Пифия, чей мозг подключен к ИИ. Она способна отвечать «да» и «нет» на сложные научные вопросы (о том, хайп это или революция, пишут тут);

- Споры об искусственном сознании в контексте развития «этичного ИИ»: правда ли, что без внутренних переживаний LLM никогда не смогут быть по-настоящему моральными?

И многое другое.

А вот несколько важных текстов по этой этой теме для философской разминки аналоговых мозгов:

▪️The Routledge Handbook of the Computational Mind

▪️Mind as Machine: A History of Cognitive Science (M. Boden)

▪️The Evolutionary Optimality Challenge
(N. Bostom et al)

▪️Better Than Human: The Promise and Perils of Biomedical Enhancement
(A. Buchanan)

#science
#future

Вышел камерный и уютный подкаст в рамках проекта «Дорожки Алетейи» с моим участием.

Поговорили про понятие «новые медиа», проблему авторства и оригинальности цифровых художественных работ, постфотографические изображения и, разумеется, симулякры.

А если вам интересно подробнее обсудить все эти темы, то приходите на нашу секцию «Философия современного медиаискусства: от Art&Science до генеративного творчества» на конференции молодых ученых «Философия в 21 веке: новые стратегии философского поиска», которая пройдет в МГУ 9-13 декабря 2024 г.

В рамках конференции заявлено множество интересных секций, посвященных экспериментальной философии когнитивных наук, проблеме цифрового бессмертия, современной этике, философии музыки и др.

Если вы хотите принять участие в качестве докладчика или слушателя, успейте подать заявку до 20 ноября.

#events

Выпала из постинг-ритма, потому что погрузилась в разработку сразу нескольких крутых образовательных проектов (скоро полетят все анонсы, stay tuned).
 
А на дворе уже декабрь, и значит это время разбирать технологические и культурные тренды грядущего года.
 
Итак, тренд №1, который фигурирует почти во всех крупных прогнозах (после ИИ-агентов, разумеется) – это human enhancement.
 
Всевозможные «улучшения» человека посредством применения новых технологий – тема, традиционно ассоциирующаяся с трансгуманизмом. Хотя, как справедливо пишет Ник Бостром в статье «A Short History of Transhumanist Thought» (2006), а затем и в книге «Human Enhancement» (2009), стремление человека к приобретению новых способностей так же старо, как и сам наш биологический вид.
 
Сегодня мы постоянно слышим про будущую аугментацию, киборгизацию и амплификацию человеческого тела и наших когнитивных способностей, и этот дискурс все чаще преподносится далеко не под самым фантастическим соусом. Как отметил Рей Курцвейл в своей последней книге с характерным подзаголовком «When we merge with AI»: «science fiction is becoming science fact».
 
Далеко не все поддерживают оптимистичный взгляд на идею радикального технологического совершенствования. Новозеландский профессор этики Николас Агар в своей книге «Humanity's End: Why We Should Reject Radical Enhancement» (2010) говорит об оверселлинге мифа об улучшении человека, из-за чего наши философские, этические и правовые представления о последствиях слияния с технологиями существенно отстают от развития самих технологий.
 
Ну а чтобы немного замедлиться и помедитировать над вечной проблемой «Hope vs Hype», рекомендую обратиться к свежему сборнику «The Routledge Handbook of the Ethics of Human Enhancement» (особенно советую присмотреться к статье Винсента Мюллера, под чьей редакцией совсем скоро выйдет оксфордский сборник по философии ИИ).
 
#future
#books

Применение цифровых метафор в популярной культуре, науке и маркетинге - одна из наиболее любимых мною тем. Недавно в Forbes вышла колонка Андрея Себранта про метафоры ИИ, и эта тема вновь меня поглотила.
 
Метафоры традиционно используются для объяснения сложных идей через аналогию с более понятными явлениями, и, согласно теории концептуальной метафоры Лакоффа и Джонсона, призваны формировать новый когнитивный опыт субъекта.
 
С одной стороны, цифровые метафоры служат фактором спасения технических объектов от полного отчуждения, создавая иллюзию ясности и простоты при восприятии пользователем новых устройств.

С другой стороны, особая проблема возникает тогда, когда эволюция техники заменяется эволюцией абстракций.

С ИИ тут интересная ситуация получается: то метафора компьютера применялась для объяснения особенностей функционирования нашего мышления, то человеческий разум становится ориентиром для разработки ИИ-систем (подробнее про эту инверсию тут).
 
Но так как наделение искусственных интеллектуальных моделей антропоморфными чертами порой резко критикуется из-за неадекватности подобных аналогий, то периодически возникают новые способы описания ИИ как, к примеру, нечеловеческих существ (вспомним метафору «new digital species», которую использует соучредитель лаборатории DeepMind Мустафа Сулейман).
 
Закономерным образом по мере расширения функционала ИИ-систем, будут распространяться и новые способы их иносказательного описания, заимствованные, помимо прочего, из научной фантастики (вот хорошая статья про это).
 
Ну а если ИИ вам уже порядком надоел, то вот пара книг, в которых разбираются другие цифровые и технологические метафоры:
 
🔹Van den Boomen M. Transcoding the Digital: How Metaphors Matter in New Media (2014)

🔹 Nascimento F., Chown E. Meaningful Technologies: How Digital Metaphors Change the Way We Think and Live (2023)
 
#books