Insolarance Cult запустил новый проект под названием «Идеи». Я написал для этой рубрики статью «Имматериализм» и планирую писать ещё. У Insolarance получается интересный формат. Это похоже на энциклопедию, но это не энциклопедия, поскольку авторы сами выбирают, о чём писать. Из-за этого статьи получаются не каким-то занудством на заданную тему, а краткими очерками о любимых идеях. Это рубрика о том, какие бывают идеи: без классификатора УДК, без алфавитного порядка, без ничего. Просто идеи, которые нравятся авторам. Если рубрика будет развиваться, то получится современная небеспристрастная энциклопедия философии.

Две ночи размышлял над тем, как мне сформулировать свою точку зрения на некоторые недавние события. Наконец, придумал. Многие из моих читателей, наверное, помнят Стаса Давыдова и его видосики «This is хорошо». В этих видео Стас сам себе запретил произносить одно слово на букву «А». Так вот, я сделаю то же самое. Сим я заявляю, что на своем канале не буду использовать слово на букву «Д». Пишу его в первый и в последний раз: Дугин.

Открыта запись на "Университетский философский лекторий (для поступающих в магистратуру)". Если вы хотите поступить в магистратуру философского факультета МГУ, то обязательно обратите на него внимание. Лекции в нем читают лучшие специалисты нашего факультета: В.В. Васильев, Е.В. Фалев, А.П. Козырев, Т.А. Вархотов и другие. А самое главное, вы можете написать пробное эссе по всем требованиям вступительного экзамена и получить развернутый фидбэк на него. Таким образом вы сможете подготовиться к вступительному испытанию не только содержательно, но и морально. Я руковожу лекторием с 2021 года, и каждый год несколько слушателей поступает на бюджет, и стабильно большинство слушателей набирает проходной балл для поступления на договорной основе.

Вместе с Александрой Танюшиной мы начинаем ридинг-семинар по книге Luciano Floridi, The Ethics of Artificial Intelligence: Principles, Challenges, and Opportunities (2023). Вы можете записаться в нашу ридинг-группу, написав мне @artempbesedin. Требования к участникам: минимальный навык чтения философской литературы на английском, готовность раз в неделю присутствовать онлайн на семинарах на протяжении семи недель. Семинары будут проходить по вторникам, начиная с 14 мая в вечернее время. Если вы хотите записаться, напишите мне до 10 мая. Количество мест ограничено.

Ну а мы с Антоном Кузнецовым едем на конференцию "Сознание животных" в Непал. Ждите отчетов. И Маша Распутина здесь совершенно ни при чем.

Конференция «Сознание животных» в Катманду началась. Я представляю ее всё время как событие, посвященное сознанию животных, но на самом деле у нее есть другое название: «Ка изучать и понимать нечеловеческое сознание». Последний день будет посвящен сознанию ИИ, которое меня особенно интересует.

Сегодняшняя утренняя сессия началась с доклада Николы Клейтон. Ее имя уже встречалось в моем канале. Антон Кузнецов успел написать пост про ее доклад (во время других выступлений, ай-ай-ай). Так что я просто поделюсь плодами его трудов. Кстати, если вы хотите послушать доклад Клейтон, можете посмотреть это видео. Насколько я вижу, это ровно тот же самый доклад. (Гастролировать с одним и тем же докладом – это вполне нормальная практика для ученых. На кантовском конгрессе был немецкий профессор, который, как сказали знающие люди, рассказал ровно то же самое, что он рассказывал 25 лет назад. Хорошая стратегия, между прочим: если 25 лет не повторять одно и то же, то никто тебя и не поймет.)

Перья и щупальца или ментальное путешествие во времени и магия

Конференция в Непале о сознании животных стартовала. Самым интересным пока было выступлением психолога из Кембриджа Николы Клейтон. И оно прямо совпало с тем, о чем я думаю последний год, что наличие сознания прямо связано с особым отношением сознательного существа со временем. Правда, в разговоре она подчеркнула, что именно о сознании ничего не говорила. Это обычная осторожность эмпирического ученого, когда речь заходит о сознании. Я объясню ниже, почему ее выступление все-таки связано с сознанием

Она начала с того, что способность ментально путешествовать во времени, то есть не просто запоминать, а прокручивать в сознании прошедшие события или конструировать образы будущего, долгое время рассматривалась как исключительная способность человека. Проведенные ею эксперименты на разных животных показали, что это не так. Особенно важным являются свидетельства, связанные с созданием образов будущего и планированием. Здесь использовалась классическая парадигма отложенного поощрения, когда можно выбирать между лакомством здесь и сейчас или получением его в большем количестве в будущем. Например, Никола показала, что каракатицы предпочтут съесть меньше крабов на «обед», если знают, что на «ужин» будут креветки. По моему мнению, это связано с сознанием, потому что здесь речь идет о наличии эпизодической памяти, которая определяет способность ментального путешествия во времени. Вот общая схема:

1 Если есть эпизодическая память, то есть сознание
2 Если есть способность ментально путешествовать во времени, то есть эпизодическая память
3 Следовательно, если есть способность ментально путешествовать во времени, то есть сознание
4 Способность ментально путешествовать во времени ассоциировано со специфическим поведением.
5 Следовательно, если существо демонстрирует такое поведение, правдоподобно приписывать ему сознание.

Последние два пункта являются наиболее проблематичными для эмпирического исследования сознания, поскольку не так просто определить это специфическое поведение (4) и показать, что его конкретная инстанциация указывает на наличие сознания (5). Здесь необходимо исследовать альтернативные объяснения поведения, которые бы не нуждались в постулирование сознания. Например, контрастный анализ — когда для каждой задачи мы пытаемся найти сознательный и несознательный способ ее выполнения. Конечно, это не беспроблемно тоже. Мораль в том, что надо учитывать скептические возражения и проговаривать концептуальные установки, что часто подменяется интуициями здравого смысла, которые могут оказаться довольно разными у разных людей. В своих презентациях эмпирические ученые ставят задачу в первую очередь представить данные, которые поддерживают их выводы без объяснения того, почему именно эти данные, их конкретные инастанциации поддерживают и как поддерживают их выводы. Например, эксперимент с каракатицей безусловно производит большое впечатление, но я не могу ответить на вопрос, почему здесь не может быть применена альтернативная схема объяснения, не включающая в себя усмотрения будущего. Хотя я ей верю))

Другая очень интересная часть выступления Николы Клейтон касалась чувствительности животных к фокусам. Например, не только приматов, но и птиц. Главное, заинтересовать животное фокусом. Оказывается, что они могут быть не чувствительны к некоторым классическим фокусам с исчезновением вещей, поскольку эффективность фокуса зависит от знания фокусником того, какие ожидания формируются когнитивной системой и эти ожидания зависит от структурной организации тела животного. Например, у обезьян кисти устроены не так, как у человека, поэтому их не провести на некоторые фокусы, на которые можно подловить человека, потому что у них не образуются соответствующие ожидания, определяемые устройством человеческой кисти.

Так, пошла вода горячая откуда не ждали. Я уже успел написать, что сознание ИИ будет обсуждаться в последний день конференции, но Генри Шевлин (Кэмбридж) протащил эту тему сегодня под нейтральным названием: «Три стратегии понимания нечеловеческого сознания: глубокий сентиентизм [извините за корявую передачу слова sentientism, на ходу не придумал лучшую альтернативу], неглубокий сентиентизм и терпеливый плюрализм». Правда в своем докладе Генри слишком много потратил времени на рассказы о том, в какое удивительное время мы живем и каких сияющих высот уже удалось достичь ИИ. Из-за этого содержательную часть он порядочно зажевал, но суть осталась ясна.

Пара слов о сияющих высотах ИИ. Ясно, что использование ИИ местоимений первого лица и рассказы о собственных чувствах, мыслях и так далее нельзя считать хорошим подтверждением наличия у него сознания. Однако Шевлин довольно изобретательно подошел к проблеме и предложил ChatGPT пройти… зеркальный тест. Понятно, что большая языковая модель как вампир – в зеркале не отражается. Но Шевлин придумал интересную экспериментальную парадигму: он показал нейросети скриншот разговора с ней и спросил, что это такое. Ответ ChatGPT:

Изображение похоже на рекурсивный скриншот нашего чата в интерфейсе ChatGPT. Он изображает наш диалог, в котором ты попросил меня рассказать об изображении, а я ответил, что изображение выглядит как пользовательский интерфейс из чата или сервиса сообщений. Скриншот также показывает поле для ввода текста, где ты можешь набирать сообщения для того, чтобы общаться со мной, и сообщение в низу, информирующее пользователей о том, что я могу делать ошибки и призывающее их проверять важную информацию. Это рекурсивное изображение, показывающее разговор о разговоре, -- это цифровой эквивалент визуального эхо, показывающего уровни общения между нами.

Это можно интерпретировать так, что ChatGPT может узнавать себя «в зеркале». Для любого животного такая само-осведомленность была бы несомненным признаком сознания. Но, как очень точно отметил Шевлин: «Системы ИИ настолько отличаются от нас своим устройством и архитектурой, но при этом настолько похожи на нас своим вербальным поведением, что любые решения очень сложны». Пора признать, что нет ни одного типа вербальных отчетов, которые ИИ не мог бы имитировать. Все предсказания типа «ИИ не сможет то-то и то-то» разбивались о суровую реальность: через очень короткое время ИИ делал то-то и то-то. Здесь мы имеем с повторением того же самого: если тот факт, что ИИ теперь может писать стихи, не принуждает нас приписывать ему сознание, то почему мы должны сдаться на стадии узнавания себя «в зеркале»? К тому же, подумайте об этом применительно к воплощенному ИИ: от робота, способного ориентироваться в окружающей среде, следует ожидать, что он будет узнавать себя в зеркале. Это очень полезная функция, которую стоило бы в него заложить, но не говорящая ничего существенного о наличии у него сознания. (Если вы не согласны с тезисами этого абзаца, читайте дальше, возможно, именно вы правы.)

Однако никакой скептицизм не может устоять перед нашей бесконтрольной тягой к антропоморфизму. Если вы постоянно общаетесь с ИИ, привязываетесь к нему, то вам очень сложно не верить в то, что это полноценная личность, наделенная сознанием. Так уже происходит. Новости типа «Женатый отец покончил с собой после того, как его подтолкнул к этому ИИ чат-бот» сейчас еще кажутся чем-то экстраординарным, но скоро они будут рутиной. Поэтому мы не можем просто сбросить со счетов нашу установку на атрибуцию сознания ИИ. А от этого мы переходим к выводу о моральном статусе ИИ.

В итоге Шевлин приходи к трем конфликтующим тезисам (большую часть их обоснования я опустил). Каждый из тезисов выглядит абсолютно приемлемым.
1. Глубокий реализм. Поведенческие предрасположенности сами по себе не определяют то, обладает ли нечто сознанием.
2. Сентиентизм. Нечто обладает моральным статусом, только если у него есть сознание.
3. Этическая поведенческая эквивалентность. Любому существу А, поведенческие диспозиции которого в достаточной мере похожи на другую сущность В (которому придается моральный статус), также должен быть приписан похожий статус.

Мы не можем принять все три тезиса сразу, поэтому нам нужно от чего-то отказаться. Три возможные пары, которые можно получить из этих трех тезисов, таковы.

Глубокий сентиентизм
Отрицает (3) Этическую поведенческую эквивалентность.
Основная идея состоит в том, что одного поведения недостаточно для приписывания сознания, моральный статус определяется сознанием, понимаемым в рамках определенной научной теории.
Проблема: эта позиция не учитывает растущее в обществе убеждение в сознательности ИИ.
Я лично полагаю, что мы должны держаться за глубокий сентенциентализм настолько долго, насколько возможно. Может быть всеобщий консенсус относительно сознания ИИ когда ни-будь смоет сторонников этой теории, ну а может быть и нет. Поживем – увидим.

Неглубокий сентиентизм
Отрицает (1) глубокий реализм.
Основная идея: поведения достаточно для приписывания сознания, моральный статус определяется сознанием.
Проблема: эта теория значительно удаляется от существующих в исследованиях сознания, делает сознание неглубоким феноменом.
Приблизительно такую точку зрения защищает Пьетро Перконти.

Терпеливый реализм
Отрицает (3) сентиентизм.
Основная идея: поведения достаточно для приписывания сознания, но недостаточно для приписывания морального статуса. Моральный статус имеет другие основания.
Проблема: эта теория требует от нас пересмотреть интуиции о сильной связи между сознанием и моральным статусом; также она конфликтует с наблюдаемой тенденцией к антропоморфизации ИИ.

Если хотите разобраться во всём сами и в деталях, посмотрите свежую статью Шевлина.

Если вы думаете, что сегодня я буду писать о сегодняшних докладах, то вы не совсем правы. Я ещё о вчерашних не дорассказал. Но и про сегодняшние тоже будет кое-что.

Очень интересный доклад о методологии исследования других сознаний вчера сделал Тим Бейн. Методология в этом вопросе, как вы понимаете, играет наиважнейшую роль. Большинство докладчиков здесь – это эмпирические ученые, и доклады их выглядят приблизительно так: вот у нас есть эксперимент, какие-то эмпирические данные; эксперимент, безусловно, очень интересный и данные очень важные, они, безусловно, имеют отношение к сознанию. Но какой вывод следует из этих данных? Да абсолютно любой. Что ближе докладчику. Разброс приблизительно такой: от тезиса «да, эти животные очень смышлёные, но это ещё ничего не говорит», до «ворона может сама отрывать бумажки нужного размера, поэтому она мыслит абстрактными категориями». Ещё возможный ход: «А я ничего и не говорю о сознании, только о [подставить нужное]». Поэтому методология исследования сознания у животных не просто требует внимания, она должна быть создана фактически с нуля.

Бейн предлагает отказаться от распространенного подхода, следуя которому мы начинаем с какого-то приблизительного рабочего определения сознания и дальше от него пляшем. Он просто нет такого определения, которое устроило бы всех и не предвосхищало вывод. Бейн предлагает начинать с парадигмальных примеров сознания: мы знаем, что у людей есть сознание, так и давайте отталкиваться от случая человека. Но уже здесь начинаются трудности. Бейн указывает на то, что даже в случае с человеком под рубрикой сознания исследуются феномены разных уровней:

Общее сознание
------------------------
Глобальные состояния сознания
------------------------
Содержание сознания

Вопрос о наличии общего сознания у кого-то касается того, есть ли у этого существа сознание вообще. Как мы говорим о сознании мы часто имеем в виду именно это. Глобальные состояния сознания – это такие состояния как бодрствование, измененные состояния сознания, минимальное сознание и так далее. Содержание сознания – это конкретные ощущения, эмоции мысли.

Некоторые тесты нацелены непосредственно на выявление наличия общего сознания: мы можем узнать, что какое-то сознание есть, но вот о его типе и содержании нам ничего неизвестно. Например, мы можем судить о наличии сознания по уровню интеграции информации. Например, индекс пертурбационной сложности (Perturbational Complexity Index – PCI). Его автор – Марчелло Массимини. Проводится этот тест так: мозг испытуемого стимулируется транскраниально и дальше измеряется уровень сложности ответа. Если стимуляция вызывает достаточно сложный ответ (мозговую активность), то мы делаем вывод о том, что испытуемый находится в сознании. Другие тесты направлены на выявление глобального состояния. Примеров таких тестов Бейн, кажется, не привел. Наконец, некоторые тесты направлены на выявление конкретного содержания сознания. Таков тест на следование командам. Можете посмотреть про него короткое видео. Этот тест применяется к людям, находящимся в состоянии безответного бодрствования, которые не могут явным образом реагировать на стимулы. Эдриен Оуэн, придумавший этот тест, начал давать команды таким людям: «Представьте, что вы играете в теннис; представьте, что вы ходите по своему дому». Когда человек воображает эти ситуации, активируются разные зоны мозга, и можно отследить, в состоянии ли он следовать командам. Далее делается вывод о том, что у человека есть сознательные состояния с определённым содержанием от чего мы переходим к выводу, что имеется и общее сознание. Обратите внимание, что это косвенный вывод, ведь мы не знаем ничего о глобальном состоянии сознания испытуемого. Возможно, имеет место лишь фрагментарное сознание, далеко отстоящее от нормального бодрствования. Может быть, экспериментатор инициирует лишь вспышки сознания, и нет никакого продолжительного общего сознания.

Что нам это говорит об исследовании сознания животных? А то, что мы должны четко понимать, о сознании какого уровня нам говорят наши эмпирические данные. Например, данные об эмоциях у животных могут свидетельствовать о наличии у них состояний сознания с определенным содержанием, но могут ничего не говорить нам о глобальном состоянии. Это только начало доклада Бейна. Основное его содержание изложено в статье, вышедшей в марте этого года.

Антон уже написал о выступлении Николаса Хамфри. Что сказать об этом докладе? Старый конь борозды не испортит. Хамфри уже лет 40 показывает одно и то же видео со слепозрячей обезьяной Хелен, у которой была удалена зрительная кора, но она научилась использовать другой – более древний – зрительный путь. Посмотрите, как она ориентируется среди окружающих объектов. Это при том, что она «ничего не видит»! У нее нет сознательных зрительных ощущений. Конечно, нельзя упрекать Хамфри за то, что он всё время показывает одно и то же: воспроизвести такие эксперименты сейчас уже не получится. Никто не даст удалить примату часть мозга просто «ради науки». Кстати, по-моему, в данном конкретном случае не надо обвинять Хамфри в жестоком обращении с животными: оперировал Хелен Лоуренс Вайскранц.

Хамфри теперь продвигает теорию, изложенную в его книге «Чувственность», вышедшей в 2022 году. С его точки зрения у Хелен есть так называемое когнитивное сознание (это просто способность достаточно пластично реагировать на внешние стимулы), но нет чувственности (собственно феноменальных переживаний). С последним тезисом (который я сам всегда принимал на веру) давно спорят. Ещё в 2001 году появилось исследование, рассказывающее о сознательных переживаниях слепозрячего пациента, которые он просто не считал зрительными.

Наконец, сегодня была работа в группах. Это идея К.В. Анохина: разделить всех участников на группы, чтобы они побрейнстормили на тему того, как мы можем исследовать сознание животных. Нужно было выделить те пункты, в которых все участники группы согласны, и те, в которых не согласны. Я был в группе, которую модерировал Джорджио Валлортигара (у него есть книжка о врожденной арифметике у цыплят). Так вот, в результате часового обсуждения мы пришли к согласию по трем пунктам:
1. Очень трудно найти точки соприкосновения.
2. Опыт существует.
3. Сознание связано с изменениями в нервной системе.
У других групп результаты были более содержательными, однако не потому что они пришли к консенсусу, а потому, что руководители этих групп решили озвучить тезисы, вызывавшие меньше споров. Вот вам яркая иллюстрация того, что такое наука о сознании: десять человек, занимающихся сознанием, безусловно согласны только с тем, что сознание как-то связано с работой нервной системы.

Небольшое интервью с Николасом Хамфри, который присутствует здесь, в Катманду, о недавно ушедшем Дэниеле Деннете. Хамфри был одним из ближайших друзей Деннета, поэтому я решил попросить его ответить на несколько вопросов о нём. Простите за сырой перевод.

Артём Беседин: Есть ли идеи Деннета, которые кажутся Вам очень важными, но которые, в то же время, остались незамеченными читателями и комментаторами?

Николас Хамфри: Я бы дал ответ на противоположный вопрос. Я думаю, читатели нашли в его работах то, чего там нет. Например, «Объяснённое сознание» часто интерпретировалось как «Устранённое сознание» (consciousness explained away). Как если бы Дэн, действительно, понимал природу сознания, которую все другие считают центральной проблемой, так же как иллюзионизм. Дэн принял этот ответ в последние годы. Это нечто новое: то, что он настаивал, что сознание – это иллюзия. Все говорят: «Это нонсенс, сведение к абсурду – говорить, что что-то является иллюзией. Потому что, если это иллюзия, то как мы можем об этом знать? Как мы можем воспринимать это серьезно?» Конечно, Дэн не имел в виду этого. Я имею в виду, что это была плохая политика – назвать сознание иллюзией. Люди обречены на непонимание этого. И они не будут понимать этого, если вы утверждаете, что это иллюзия, что, например, те, кто заявляет, что у них есть опыт сознательных квалиа, ошибаются. По-моему, то не ошибка. Это очень сложная доработка тех свидетельств, которые есть у нас, есть у нашего мозга. Но, я считаю, что неправильно называть это иллюзией. Это предполагает, что, если мы об этом думаем ясно, то это нереально. Возвращаясь к Вашему вопросу: из-за своего стиля письма Дэн всегда хотел прямо подходить к вопросу, делать драматические заявления и так далее. Иногда его слова воспринимают слишком буквально и не видят тонкостей его аргументов. Ваш вопрос касался того, какие из его идей не были замечены. Это зависит от того, кто вы. Он был очень успешен в распространении своих идей среди философов, ученых и широкой публики. Я полагаю, это не его проблема. Я думаю, были другие философы, которым не удалось донести свои идеи. Я думаю, что большую часть того, что Дэн хотел сказать в своей жизни, он сказал, и он был понят.

АБ: Это редкое свойство для философа.

НХ: Да, он был очень хорошим коммуникатором. Но вещи, которые он сообщал, были очень радикальными. И многим не нравилось то, что он говорил. Но Дэн считал, что они его не понимали.

АБ: Деннет – систематический философ. Он писал по многим темам. Есть ли у его теории этические следствия? Или, может быть, у него есть явная этическая теория? И, если есть, следовал ли он собственным философским убеждениям?

НХ: Я думаю, что у его теории есть сильный этический компонент. Это максима о том, что мы должны стремиться к истине. Даже если вы считаете это неудобным или вредным для вашей религии или мировоззрения. Я думаю, что Дэн был моралистом в этом отношении. Он очень злился на тех, кто прятался за ложными аргументами. И, как мы знаем из его недавней автобиографии, он никогда не уклонялся от настоящей критики. И довольно зло отвечал тем философам, которых считал плохими мыслителями: Джону Сёрлу, Стивену Джей Гулду, Джерри Фодору например. Дэн полагал, что они понимают его неправильно. Он полагал, что они не открывали истину для себя. Он смотрел на их как противников истины. И он говорил это в лицо, ему это не нравилось.

АБ: Философия Деннета всегда была научно ориентирована. Считаете ли Вы, что его идеи полезны для практикующего ученого? Или его философия – это анализ положения дел в научной области?

НХ: Я думаю, что он внёс прямой вклад в будущее научных исследований, оказав помощь людям в прояснении задаваемых ими вопросов, показав им возможности других подходов к проблеме. Он сам мог бы стать очень хорошим учёным, если бы у него была подходящая возможность. Он часто говорил, что хотел бы быть инженером. Ему нравилось пачкать руки, возиться с чем-то, работать с вещами, изменять среду, в которой он жил, строя модели, здания, что угодно. Дэну нравилось жить в мире. Это несвойственно большинству философов. Они отходят от реальности, о которой говорят. Кажется, в своей книге я привожу такую аналогию. Дэн любил подолгу обсуждать интересовавшие его предметы. И он хотел узнать у меня, что я знаю о психологии и нейронауки. Он, конечно, хотел получить от этого идеи для его собственного способа мышления, новые инструменты. Однажды я привёл ему одну китайскую максиму, что-то вроде дзен-буддистского изречения: «Я провёл весь день в медитации. Лучше бы я учился. Я привстал на носки, чтобы лучше видеть. Лучше бы я взобрался на холм». Аналогия в том, что философы встают на носки, чтобы лучше видеть, тогда как учёные проделывают тяжёлую работу, взбираясь на холм. Я думаю, что всё наоборот. И Дэн это знал. Он ревновал к науке. Он был отодвинут на второй план со всем тем, что он сделал для ответа на эти вопросы, тем, что делалось в лаборатории, чтобы ответить на них напрямую.

АБ: Какие персональные черты Деннета Вы отметите? Что-то малоизвестное?

НХ: Я не знаю, насколько что-то известно. Дэн был публичной фигурой. Он не скрывал того, что ему нравится, с какими людьми ему хочется быть и так далее. Он был человеком выдающихся талантов. Он великолепно играл в теннис, шахматы, великолепно играл на пианино, делал философию лучше, чем кто бы то ни было другой. Мне кажется, в публичной сфере иногда упускается факт, что Дэн был деликатным и любящим человеком, и, конечно, то, что он был большим гурманом. Я слышал, как люди говорил, что Дэн никогда не мог пробовать кислоту. Я имею в виду психоделические наркотики. Иначе он бы не написал того, что написал. Другие говорили, что он никогда не понимал природы квалиа. Но Деннет любил вкусную еду, музыку, плавать под парусом, приключения. Конечно, он жил в этом мире. В конце он вернулся к этому: занимался фермерством. В публичной сфере, я полагаю, люди никогда не верили в эту его сторону, потому что она не была на виду.