После не вполне удачного начала работы в группах задачи для групп были уточнены. Вчера от нас потребовалось подумать над поведенческим тестом на сознание животных. Наша группа восприняла это указание с комсомольским рвением и… действительно придумала новый тест. Основная роль в его разработке принадлежит Нику Хамфри и Джорджио Валлортигара. Только сочетание их компетенций могло дать такой результат. Напомню, Валлортигара занимается «врождённой арифметикой» у цыплят, у главная фишка Хамфри – это слепое зрение.
Идею, лежащую в основе теста, предложил Хамфри: феноменальное сознание дает представление о том, в какой сенсорной модальности была получена определенная информация. Существо, обладающее феноменальным сознанием, не только знает, что оно видит предмет, но то, что информация о предмете была получена при помощи зрения, а не, скажем, осязания. Хелен – слепозрячая обезьяна, которую исследовал Хамфри, – была неспособна понять, что она получала информацию при помощи зрения. Короче говоря, феноменальное сознание необходимо для интеграции информации, поступающей через разные сенсорные каналы. Эта гипотеза может быть подвергнута критике, но именно от неё отталкивалась наша группа.
Сам тест выглядит так. Животному предлагается разное количество стимулов, представленных в разных модальностях. Например, 2 видимых объекта и 4 звуковых сигнала. Во-первых, проверяется способность распознавать количество предметов, независимо от модальности. Например, только выбор 4 предметов вознаграждается, будь то видимые объекты или звуковые сигналы. (С нами Валлортигара, который в своих экспериментах пытается показать, что очень разные животные могут «считать».) Во-вторых, проверяется способность животного различать сенсорные модальности, независимо от количества предъявляемых предметов. Вознаграждается только, скажем, выбор визуального стимула, а не звука. Если животное проходит этот тест, то это … что-то говорит нам об интеграции сенсорных модальностей у него. И, наверное, это должно повышать вероятность того, что у него есть сознание. Но это не точно.
Кстати, мы сразу дали всему этому название: Тест Катманду на модальность источника (Kathmandu Source Modality Test (KSMT)).
Если вы уже подняли палец, чтобы покрутить им у виска, можете не переживать, критика от коллег не заставила себя ждать. Варианты такие: этот тест вообще никто не пройдёт; этот тест пройдёт почти кто угодно, если его достаточно долго тренировать; это тест вообще ничего не говорит о сознании; прохождение этого теста требует наличия довольно продвинутого сознания. В общем, я готов принимать критику. Только прошу учесть, что это творение, в первую очередь, Хамфри и Валлортигары, а сам я экспериментов над животными не ставлю и тонкостей их не знаю.
Идею, лежащую в основе теста, предложил Хамфри: феноменальное сознание дает представление о том, в какой сенсорной модальности была получена определенная информация. Существо, обладающее феноменальным сознанием, не только знает, что оно видит предмет, но то, что информация о предмете была получена при помощи зрения, а не, скажем, осязания. Хелен – слепозрячая обезьяна, которую исследовал Хамфри, – была неспособна понять, что она получала информацию при помощи зрения. Короче говоря, феноменальное сознание необходимо для интеграции информации, поступающей через разные сенсорные каналы. Эта гипотеза может быть подвергнута критике, но именно от неё отталкивалась наша группа.
Сам тест выглядит так. Животному предлагается разное количество стимулов, представленных в разных модальностях. Например, 2 видимых объекта и 4 звуковых сигнала. Во-первых, проверяется способность распознавать количество предметов, независимо от модальности. Например, только выбор 4 предметов вознаграждается, будь то видимые объекты или звуковые сигналы. (С нами Валлортигара, который в своих экспериментах пытается показать, что очень разные животные могут «считать».) Во-вторых, проверяется способность животного различать сенсорные модальности, независимо от количества предъявляемых предметов. Вознаграждается только, скажем, выбор визуального стимула, а не звука. Если животное проходит этот тест, то это … что-то говорит нам об интеграции сенсорных модальностей у него. И, наверное, это должно повышать вероятность того, что у него есть сознание. Но это не точно.
Кстати, мы сразу дали всему этому название: Тест Катманду на модальность источника (Kathmandu Source Modality Test (KSMT)).
Если вы уже подняли палец, чтобы покрутить им у виска, можете не переживать, критика от коллег не заставила себя ждать. Варианты такие: этот тест вообще никто не пройдёт; этот тест пройдёт почти кто угодно, если его достаточно долго тренировать; это тест вообще ничего не говорит о сознании; прохождение этого теста требует наличия довольно продвинутого сознания. В общем, я готов принимать критику. Только прошу учесть, что это творение, в первую очередь, Хамфри и Валлортигары, а сам я экспериментов над животными не ставлю и тонкостей их не знаю.
Telegram
Беседин
Наконец, сегодня была работа в группах. Это идея К.В. Анохина: разделить всех участников на группы, чтобы они побрейнстормили на тему того, как мы можем исследовать сознание животных. Нужно было выделить те пункты, в которых все участники группы согласны…
❤12👍7⚡5
Например, интересно было бы узнать мнение М.А. Лебедева, потому что пока его возражение выглядит несколько неконкретно.
Telegram
Расширение функций мозга
Профессорский кретинизм набирает обороты. По этим темам можно уже писать не притчи, а целый философский роман.
😁15❤4😈3
19 апреля была подписана Нью-Йоркская декларация о сознании животных. Перевод основной части декларации доступен здесь. По поводу этой декларации уже появились материалы в российской прессе: тут и тут. Я тоже решил задать несколько вопросов Константину Владимировичу Анохину и Джонатану Берчу по поводу этой декларации. Одну очень важную вещь, стоит, пожалуй, отметить заранее: неотъемлемой частью декларации являются материалы, размещённые на сайте в разделе «Бэкграунд». Именно там содержится обоснование трёх лаконичных пунктов, вынесенных в основной текст декларации, а также разъяснение того, как именно её авторы понимают сознание и в какой мере можно обосновать наличие сознание у какого-то вида. Создатели декларации также обещают опубликовать развёрнутое научное приложение к декларации, суммирующее свидетельства в пользу сознания животных. Очень ждём.
Сделаю ещё одну менее важную ремарку. Пункт 2 основного текста утверждает: «Эмпирические данные указывают, по крайней мере, на реальную возможность наличия сознательного опыта … у многих беспозвоночных (включая, как минимум, головоногих моллюсков, десятиногих ракообразных и насекомых)». Я понял этот пункт так, что здесь выделены классы беспозвоночных, всем представителям которых можно приписать сознание. Но имеется в виду, что представители многих видов, принадлежащих к этим классам, могут обладать сознанием.
Сделаю ещё одну менее важную ремарку. Пункт 2 основного текста утверждает: «Эмпирические данные указывают, по крайней мере, на реальную возможность наличия сознательного опыта … у многих беспозвоночных (включая, как минимум, головоногих моллюсков, десятиногих ракообразных и насекомых)». Я понял этот пункт так, что здесь выделены классы беспозвоночных, всем представителям которых можно приписать сознание. Но имеется в виду, что представители многих видов, принадлежащих к этим классам, могут обладать сознанием.
РИА Новости
Академик Анохин: декларация о сознании животных поможет изучать разум
Нью-Йоркская декларация о сознании животных, принятая десятками ученых из разных стран, может способствовать расширению исследований вопроса о наличии... РИА Новости, 25.04.2024
❤12👏4🔥2
Учитывая важность «Бэкграунда» для декларации, я приведу здесь перевод фрагмента из этого раздела.
Зарождающаяся новая картина сознания животных
Что такое сознание? У этого термина много значений. Нью-Йоркская декларация о сознании животных акцентирует внимание на одном важном значении, которое иногда называют “феноменальным сознанием” или “чувствительностью”. Вопрос в том, какие животные могут иметь субъективный опыт. Он может включать в себя сенсорный опыт (скажем, опыт определенного прикосновения, вкуса, вида или запаха), а также опыт, который ощущается как нечто плохое или хорошее (скажем, удовольствие, боль, надежду или страх). Именно этот смысл термина “сознание” имел в виду Томас Нагель, когда задал свой знаменитый вопрос: “Каково это -- быть летучей мышью?”.
Субъективный опыт требует большего, чем просто способность распознавать стимулы. Однако для него не требуются такие утонченные способности, как человеческий язык или разум. Феноменальное сознание — это сырое ощущение, непосредственно ощущаемый опыт, сенсорный или эмоциональный, и это то, что вполне может быть общим для людей и многих других животных. Конечно, языковые и рациональные способности, присущие человеку, могут позволять некоторым людям получать опыт, которого нет у других животных (например, языковой “внутренний монолог”). Аналогичным образом, многие другие животные могут обладать опытом, которого нет у нас.
Какие животные обладают сознанием в этом смысле? Описанные выше [в предыдущей части текста, которую я не перевожу] достижения, взятые вместе, дают четкий сигнал: мы должны серьезно отнестись к возможности того, что очень широкий спектр животных, включая всех позвоночных и многих беспозвоночных, могут иметь субъективный опыт.
Было бы неуместно говорить о “доказательствах”, “достоверности” или “неопровержимых доказательствах” в поисках сознания у животных, потому что природа сознания все еще горячо оспаривается. Однако вполне уместно интерпретировать эти замечательные проявления способности к обучению, памяти, планированию, решению проблем, самосознанию и другим подобным способностям как свидетельство сознания в тех случаях, когда такое же поведение, если бы оно было обнаружено у человека или другого млекопитающего, хорошо объяснялось бы сознательной обработкой информации. Такое поведение повышает вероятность того, что эти животные обладают сознанием, не доказывая этого, точно так же, как симптомы болезни повышают вероятность наличия у вас заболевания не доказывая, что оно у вас есть.
Что касается других млекопитающих и птиц, то теперь мы можем сказать, что полученные данные убедительно подтверждают научную гипотезу о наличии сознания — это не окончательные доказательства, но множество линий доказательств, указывающих в одном направлении. Что касается других позвоночных (рептилий, амфибий и рыб) и многих беспозвоночных (головоногих моллюсков, таких как осьминоги и каракатицы, десятиногих ракообразных, таких как раки-отшельники, и насекомых, таких как пчелы и плодовые мушки), то теперь мы можем сказать, что полученные данные подтверждают, по крайней мере, реальную возможность существования сознания. Вероятность этого достаточно высока, чтобы провести дальнейшие исследования, направленные на изучение сознания этих животных. Вероятность этого также достаточно высока, чтобы серьезно задуматься об их благосостоянии.
О нью-йоркской декларации
…
👍15❤2👏2
Чего мы надеемся достичь этой декларацией? Одна из целей состоит в том, чтобы донести интерес к зарождающейся науке о сознании животных и стимулировать дальнейшую работу по этой теме. Это ключевой момент: нужно, чтобы критическая масса людей взялась за изучение сознания животных, тщательно и систематически. Хотя остается неопределенность как в отношении природы сознания, так и в отношении того, какие животные обладают сознанием, некоторые высококлассные исследования уже уменьшили нашу неопределенность в отношении этих вопросов. Мы надеемся, что ученые, университеты и правительства увидят, что эта область стремительно развивается, что у нее есть потенциал для достижения еще большего (включая прогресс в создании более совершенных теорий сознания), и что она заслуживает вашей поддержки.
Вторая цель состоит в том, чтобы побудить задуматься о благосостоянии животных. Данная декларация не содержит конкретных политических рекомендаций, и стороны, подписавшие ее, придерживаются самых разных взглядов на моральные, правовые и политические вопросы. Суть соглашения заключается в том, что для рассмотрения рисков, связанных с благосостоянием, не требуется определенности в отношении сознания. Если существует реальная вероятность того, что животное обладает сознанием — например, что осьминоги могут страдать, — то эта возможность заслуживает рассмотрения в политическом контексте, например, при принятии решений о том, поддерживать ли разведение осьминогов. Те, кто определяют политику, должны предпринять разумные шаги для снижения рисков для благосостояния всех позвоночных и многих беспозвоночных, поскольку исследователи стремятся углубить наше понимание этих существ.
❤12👍4👏3👎1😈1
Интервью с К.В. Анохиным
Артём Беседин: Спасибо, что согласились ответить на вопросы. Расскажите, как именно создавалась эта декларация? Были ли предварительные обсуждения?
Константин Анохин: Декларация готовилась заранее. Ее организаторами и инициаторами были трое ученых из Великобритании, США и Канады, занимающиеся вопросами поведения животных, защиты животных, экологии. Декларация была сформулирована в начале года. Я был одним из тех, кому авторы декларации прислали ее предварительно, прежде чем опубликовать. И, как я была группа учёных, которым ее отправили: те, кто подписали ее первоначально, сейчас там гораздо больше подписей. Авторы декларации очень внимательно продумывали формулировки. На мой взгляд, её пункты сформулированы крайне аккуратно. И целью готовящих декларацию было как раз сформулировать её так, чтобы она не вызвала возражений у большинства профессионалов.
АБ: Какова цель декларации?
КА: На мой взгляд, главная ценность и задача этой декларации – прилечь внимание к нарастающей по важности проблеме сознание в животном мире, потому что это может быть неким парадигмальным сдвигом и в понимании и места человека в природе как сознательного существа и многих этических вопросов. Это было включено в декларацию. Мне кажется, что эту декларацию не следует воспринимать как утверждение в жесткой форме, а скорее как некий призыв к повороту в рассмотрении этой проблемы.
АБ: Декларация очень короткая: три пункта по одному абзацу. Считаете ли вы, что таких коротких формулировок достаточно для донесения вашего сообщения, достаточно для достижения этой цели?
КА: Я ее не писал, а подписал, и это разные вещи. Я считаю, что, с оговоркой, что кроме самой декларации, где каждый пункт сформулирован сильно и организационно очень чётко, (это не беспечные высказывания, они очень весомы), кроме этих трёх пунктов, в декларации есть большой раздел, на который, может быть, не все обращают внимание. Он гораздо более объемнее: это те факты и свидетельства, которые стоят за декларацией. И более того, сейчас в отношении этих фактов и свидетельств, тех, кто согласился подписать декларацию, просили написать свои ведущие аргументы или примеры наиболее ярких экспериментов, подкрепляющих тезисы и свидетельствующие в их пользу. Это уже есть на сайте и сейчас это будет расширяться. Авторы декларации прислали недавно письмо с просьбой внести дополнительные аргументы, к началу июня их будет еще больше. Так что декларация по объему не маленькая, она просто хорошо организована. Декларирующие пункты, а дальше много пунктов, которые их поддерживают.
АБ: Какие практические результаты вы ожидаете от этой декларации?
КА: Я очень ожидаю, что в результате этой декларации расширится количество научных исследований этой проблемы, которая далеко не решена и очень сомнительна, и многие не согласятся с какими-то пунктами в декларации. Но смысл в том, чтобы привлечь общественное внимание. Через привлечение общественного внимания, как мы знаем, в мировой науке меняется отношение грантовых агентств к выдаче грантов. Это способно продвинуть наше понимание. Это первое. Второе – это третий пункт этой декларации: мысль, что это может постепенно изменить общественное понимание того, с какой осторожностью следует относиться к причинению вреда ряду видов животных, о которых мы не думали, и что следует принимать во внимание те факты, которые сейчас накапливаются наукой в этом отношении.
Артём Беседин: Спасибо, что согласились ответить на вопросы. Расскажите, как именно создавалась эта декларация? Были ли предварительные обсуждения?
Константин Анохин: Декларация готовилась заранее. Ее организаторами и инициаторами были трое ученых из Великобритании, США и Канады, занимающиеся вопросами поведения животных, защиты животных, экологии. Декларация была сформулирована в начале года. Я был одним из тех, кому авторы декларации прислали ее предварительно, прежде чем опубликовать. И, как я была группа учёных, которым ее отправили: те, кто подписали ее первоначально, сейчас там гораздо больше подписей. Авторы декларации очень внимательно продумывали формулировки. На мой взгляд, её пункты сформулированы крайне аккуратно. И целью готовящих декларацию было как раз сформулировать её так, чтобы она не вызвала возражений у большинства профессионалов.
АБ: Какова цель декларации?
КА: На мой взгляд, главная ценность и задача этой декларации – прилечь внимание к нарастающей по важности проблеме сознание в животном мире, потому что это может быть неким парадигмальным сдвигом и в понимании и места человека в природе как сознательного существа и многих этических вопросов. Это было включено в декларацию. Мне кажется, что эту декларацию не следует воспринимать как утверждение в жесткой форме, а скорее как некий призыв к повороту в рассмотрении этой проблемы.
АБ: Декларация очень короткая: три пункта по одному абзацу. Считаете ли вы, что таких коротких формулировок достаточно для донесения вашего сообщения, достаточно для достижения этой цели?
КА: Я ее не писал, а подписал, и это разные вещи. Я считаю, что, с оговоркой, что кроме самой декларации, где каждый пункт сформулирован сильно и организационно очень чётко, (это не беспечные высказывания, они очень весомы), кроме этих трёх пунктов, в декларации есть большой раздел, на который, может быть, не все обращают внимание. Он гораздо более объемнее: это те факты и свидетельства, которые стоят за декларацией. И более того, сейчас в отношении этих фактов и свидетельств, тех, кто согласился подписать декларацию, просили написать свои ведущие аргументы или примеры наиболее ярких экспериментов, подкрепляющих тезисы и свидетельствующие в их пользу. Это уже есть на сайте и сейчас это будет расширяться. Авторы декларации прислали недавно письмо с просьбой внести дополнительные аргументы, к началу июня их будет еще больше. Так что декларация по объему не маленькая, она просто хорошо организована. Декларирующие пункты, а дальше много пунктов, которые их поддерживают.
АБ: Какие практические результаты вы ожидаете от этой декларации?
КА: Я очень ожидаю, что в результате этой декларации расширится количество научных исследований этой проблемы, которая далеко не решена и очень сомнительна, и многие не согласятся с какими-то пунктами в декларации. Но смысл в том, чтобы привлечь общественное внимание. Через привлечение общественного внимания, как мы знаем, в мировой науке меняется отношение грантовых агентств к выдаче грантов. Это способно продвинуть наше понимание. Это первое. Второе – это третий пункт этой декларации: мысль, что это может постепенно изменить общественное понимание того, с какой осторожностью следует относиться к причинению вреда ряду видов животных, о которых мы не думали, и что следует принимать во внимание те факты, которые сейчас накапливаются наукой в этом отношении.
👍14❤8👏1😢1
Интервью с Джонатаном Бёрчем
Артём Беседин: Вы были одним из инициаторов декларации. Можете ли вы рассказать что-нибудь об истории этой идеи?
Джонатан Бёрч: Да, я был одним из трех инициаторов этой инициативы вместе с Кристин Эндрюс из Йоркского университета и Джеффом Себо из Нью-Йоркского университета. Мы начали обсуждать это в октябре, так что на самом деле это был шестимесячный процесс. Мы просто подумали, что последние 10 лет были очень важны для науки о ментальном (mind) у животных, и что мы действительно впервые наблюдаем появление науки о сознании животных, и что у разных животных оно может быть разным. Поразительные результаты, полученные на многих различных животных, включая пчел, каракатиц и осьминогов, а также позвоночных, вызвали новые дебаты по вопросам сознания. И поэтому мы хотели установить точку отсчета, которая, с одной стороны, позволила бы зафиксировать достигнутый прогресс, но в то же время была бы достаточно скромной по отношению к нему и заявляла бы о том, с чем мы можем согласиться, которая стала бы платформой для будущей работы в этой области, и которая именно так воспринималась бы учёными. То есть, сообществом людей, работающих над этими вопросами и добивающихся прогресса. Я думаю, что политики также должны помнить, что, когда вы думаете о благосостоянии животных и принимаете решения о том, как с ними обращаться, вы можете основывать свои решения на фактических данных. Это не обязательно должны быть догадки. Итак, мы подготовили этот очень короткий текст, который, по нашему мнению, точно отражает текущее положение дел. Мы разработали его совместно с 40 участниками, подписавшими его в ходе нескольких онлайн-семинаров. А затем запустили его в апреле. И сейчас более 200 представителей науки и философии подписали декларацию.
АБ: Был ли какой-то особый стимул опубликовать и сформулировать декларацию сейчас? Или она была опубликована только потому, что пришло время?
ДБ: Я думаю, нам только сейчас стало ясно, что ничего подобного до сих пор не появилось, особенно учитывая необходимость попытаться создать точку отсчета для этого растущего и теперь уже довольно значительного сообщества. Вы знаете, еще не было такого заявления, под которым подписались бы сотни людей, что сделало бы это заявление таким убедительным. Но есть настоящее сообщество, работающих над этими темами. И как только мы это поняли, мы подумали, почему бы нам не стать теми, кто это изменит?
АБ: И изменился ли текст декларации за время вашей работы? Возможно, вы начали с чего-то более точного или более общего?
Артём Беседин: Вы были одним из инициаторов декларации. Можете ли вы рассказать что-нибудь об истории этой идеи?
Джонатан Бёрч: Да, я был одним из трех инициаторов этой инициативы вместе с Кристин Эндрюс из Йоркского университета и Джеффом Себо из Нью-Йоркского университета. Мы начали обсуждать это в октябре, так что на самом деле это был шестимесячный процесс. Мы просто подумали, что последние 10 лет были очень важны для науки о ментальном (mind) у животных, и что мы действительно впервые наблюдаем появление науки о сознании животных, и что у разных животных оно может быть разным. Поразительные результаты, полученные на многих различных животных, включая пчел, каракатиц и осьминогов, а также позвоночных, вызвали новые дебаты по вопросам сознания. И поэтому мы хотели установить точку отсчета, которая, с одной стороны, позволила бы зафиксировать достигнутый прогресс, но в то же время была бы достаточно скромной по отношению к нему и заявляла бы о том, с чем мы можем согласиться, которая стала бы платформой для будущей работы в этой области, и которая именно так воспринималась бы учёными. То есть, сообществом людей, работающих над этими вопросами и добивающихся прогресса. Я думаю, что политики также должны помнить, что, когда вы думаете о благосостоянии животных и принимаете решения о том, как с ними обращаться, вы можете основывать свои решения на фактических данных. Это не обязательно должны быть догадки. Итак, мы подготовили этот очень короткий текст, который, по нашему мнению, точно отражает текущее положение дел. Мы разработали его совместно с 40 участниками, подписавшими его в ходе нескольких онлайн-семинаров. А затем запустили его в апреле. И сейчас более 200 представителей науки и философии подписали декларацию.
АБ: Был ли какой-то особый стимул опубликовать и сформулировать декларацию сейчас? Или она была опубликована только потому, что пришло время?
ДБ: Я думаю, нам только сейчас стало ясно, что ничего подобного до сих пор не появилось, особенно учитывая необходимость попытаться создать точку отсчета для этого растущего и теперь уже довольно значительного сообщества. Вы знаете, еще не было такого заявления, под которым подписались бы сотни людей, что сделало бы это заявление таким убедительным. Но есть настоящее сообщество, работающих над этими темами. И как только мы это поняли, мы подумали, почему бы нам не стать теми, кто это изменит?
АБ: И изменился ли текст декларации за время вашей работы? Возможно, вы начали с чего-то более точного или более общего?
👍11❤6👏2
ДБ: Что ж, по сути, все первоначальные подписанты были в значительной степени согласны с тем, что мы пытались сделать, а именно донести информацию о неопределенности, поскольку это та область, где нельзя быть слишком самоуверенным, нельзя говорить о реальной достоверности или убедительных доказательствах, поэтому мы намеренно избегали таких формулировок. И поэтому нашей целью было попытаться найти ответы на эти вопросы. Мы выбрали выражения, передающие состояние неопределенности, и, конечно, у людей были разные взгляды на то, какими должны быть правильные формулировки. В итоге мы остановились на том, что эти формулировки имеют сильную научную поддержку в случае млекопитающих и птиц, основанную на многих данных, множестве свидетельств. И есть, по крайней мере, реальная возможность для других позвоночных, таких как рыбы, и беспозвоночных, как головоногие моллюски, осьминоги, десятиногие ракообразные, таких как крабы и омары, насекомые. Мы говорим, по крайней мере, о реальной возможности, хотя, конечно, некоторые люди в этой группе пошли бы дальше, и бы приписали этому гораздо большую вероятность. Я бы сказал, что очень вероятно, что эти животные обладают сознанием, но это не было точкой всеобщего согласия. Точка широкого согласия заключается в том, что существует, по крайней мере, реальная возможность, так что это не отдаленная перспектива, не случайность, которую вы можете просто отбросить как своего рода второстепенную идею. Есть реальные доказательства, подтверждающие реальную возможность существования сознания у этих животных.
АБ: В какой-то момент в декларации вы приходите к благосостоянию животных. Не кажется ли вам, что необходимо пояснить, что вы имеете в виду под этим? Вы уделяете некоторое внимание разъяснению того, что вы подразумеваете под сознанием, и разве понятие благосостояния не заслуживает того же?
ДБ: Мы работаем над научным приложением к декларации, которое еще не опубликовано. Когда мы её только опубликовали, мы организовали мероприятие в Нью-Йорке, на котором было представлено много доказательств и краткий справочный документ, предназначенный для СМИ. И сейчас мы работаем с людьми, которые выступают на этой конференции, и с нашими первоначальными подписантами над созданием более объемного приложения, в котором будут обобщены доказательства. В этом документе будет больше говориться о благосостоянии. Я думаю, вы правы в этом отношении. Дело в том, что само по себе благосостояние – это спорная концепция, и не всегда есть согласие в том, в чем заключается хорошее или плохое состояние Но в некотором смысле это нормально, потому что мы не говорим, что должно быть всеобщее согласие в отношении того, что именно делает состояние хорошим или плохим. Развивающаяся наука о сознании животных важна для благосостояния, и вы знаете, что она помогает нам выявлять риски для него, например, когда вы осознаете, что существует реальная возможность осознанного переживания боли и страданий осьминогами, вы сразу же видите, что попытки разводить осьминогов, помещая 30 или 40 особей в крошечное помещение, могут привести к проблемам с их благосостоянием.
АБ: Декларация была опубликована три недели назад. Вы довольны реакции на неё на сегодняшний день?
ДБ: Так что кое-какие данные есть. Я думаю, они соответствуют нашим ожиданиям в том смысле, что мы надеялись, что запустим декларацию с нашими первоначальными подписантами и получим энергичную реакцию со стороны более широкого сообщества людей, работающих над темами, связанными с сознанием, будь то в области сравнительных исследований поведения животных, эволюционной биологии, философии, нейронаук, и мы получили такой энергичный отклик, потому что у нас уже есть 200 подписантов, а наш почтовый ящик переполнен новыми просьбами подписать декларацию, которые мы сейчас рассматриваем. И освещение в средствах массовой информации, я думаю, также было довольно солидным, в том числе в научных журналах, таких как Nature. Итак, в той мере, в которой целью было направить разговор вокруг этих вопросов и создать точку отсчета, на которую обратят внимание, похоже, это удалось.
АБ: В какой-то момент в декларации вы приходите к благосостоянию животных. Не кажется ли вам, что необходимо пояснить, что вы имеете в виду под этим? Вы уделяете некоторое внимание разъяснению того, что вы подразумеваете под сознанием, и разве понятие благосостояния не заслуживает того же?
ДБ: Мы работаем над научным приложением к декларации, которое еще не опубликовано. Когда мы её только опубликовали, мы организовали мероприятие в Нью-Йорке, на котором было представлено много доказательств и краткий справочный документ, предназначенный для СМИ. И сейчас мы работаем с людьми, которые выступают на этой конференции, и с нашими первоначальными подписантами над созданием более объемного приложения, в котором будут обобщены доказательства. В этом документе будет больше говориться о благосостоянии. Я думаю, вы правы в этом отношении. Дело в том, что само по себе благосостояние – это спорная концепция, и не всегда есть согласие в том, в чем заключается хорошее или плохое состояние Но в некотором смысле это нормально, потому что мы не говорим, что должно быть всеобщее согласие в отношении того, что именно делает состояние хорошим или плохим. Развивающаяся наука о сознании животных важна для благосостояния, и вы знаете, что она помогает нам выявлять риски для него, например, когда вы осознаете, что существует реальная возможность осознанного переживания боли и страданий осьминогами, вы сразу же видите, что попытки разводить осьминогов, помещая 30 или 40 особей в крошечное помещение, могут привести к проблемам с их благосостоянием.
АБ: Декларация была опубликована три недели назад. Вы довольны реакции на неё на сегодняшний день?
ДБ: Так что кое-какие данные есть. Я думаю, они соответствуют нашим ожиданиям в том смысле, что мы надеялись, что запустим декларацию с нашими первоначальными подписантами и получим энергичную реакцию со стороны более широкого сообщества людей, работающих над темами, связанными с сознанием, будь то в области сравнительных исследований поведения животных, эволюционной биологии, философии, нейронаук, и мы получили такой энергичный отклик, потому что у нас уже есть 200 подписантов, а наш почтовый ящик переполнен новыми просьбами подписать декларацию, которые мы сейчас рассматриваем. И освещение в средствах массовой информации, я думаю, также было довольно солидным, в том числе в научных журналах, таких как Nature. Итак, в той мере, в которой целью было направить разговор вокруг этих вопросов и создать точку отсчета, на которую обратят внимание, похоже, это удалось.
❤9👍3👏2👎1
АБ: И каково ваше впечатление, кто больше заинтересован в подписании декларации? Философы или ученые?
ДБ: И я думаю, что мы имеем дело с отличным сочетанием естественных наук и философии. Конечно, мы хотели включить в этот список философию, потому что считаем ее очень важной дисциплиной. Но в основном это ученые из разных областей.
АБ: И последний вопрос: получили ли вы какие-либо ответы от официальных лиц?
ДБ: Что ж, в декларации нет единой политической цели. Поскольку на самом деле нет широкого согласия по этому вопросу, это сообщество объединяет целый ряд различных этических позиций и политических взглядов – от тех, кто считает, что законы о защите животных должны быть намного жестче, до тех, кто вообще так не считает. Таким образом, у нас нет конкретных политических целей, поэтому мы не ожидали конкретного политического ответа. Мы надеемся, что это будет полезно в будущем, и что организации по защите животных, когда они будут пытаться обосновать необходимость изменений в политике защиты животных, могут счесть полезным сослаться на декларацию и сказать: "Послушайте, мы не сумасшедшие". Например, утверждение, что осьминоги имеют значение и нуждаются в заботе об их благосостоянии, не является маргинальной позицией. И декларация поможет им показать людям, что это серьезная точка зрения, подкрепленная научными аргументами.
ДБ: И я думаю, что мы имеем дело с отличным сочетанием естественных наук и философии. Конечно, мы хотели включить в этот список философию, потому что считаем ее очень важной дисциплиной. Но в основном это ученые из разных областей.
АБ: И последний вопрос: получили ли вы какие-либо ответы от официальных лиц?
ДБ: Что ж, в декларации нет единой политической цели. Поскольку на самом деле нет широкого согласия по этому вопросу, это сообщество объединяет целый ряд различных этических позиций и политических взглядов – от тех, кто считает, что законы о защите животных должны быть намного жестче, до тех, кто вообще так не считает. Таким образом, у нас нет конкретных политических целей, поэтому мы не ожидали конкретного политического ответа. Мы надеемся, что это будет полезно в будущем, и что организации по защите животных, когда они будут пытаться обосновать необходимость изменений в политике защиты животных, могут счесть полезным сослаться на декларацию и сказать: "Послушайте, мы не сумасшедшие". Например, утверждение, что осьминоги имеют значение и нуждаются в заботе об их благосостоянии, не является маргинальной позицией. И декларация поможет им показать людям, что это серьезная точка зрения, подкрепленная научными аргументами.
❤16👍7👏3👎2😈1
Подкаст «Неискусственный интеллект» с Антоном Кузнецовым, который мы записывали в апреле, доступен в записи. Будем считать эксперимент удачным, так что мы и дальше время от времени будем проводить открытые записи подкастов.
Telegram
Неискусственный интеллект
Наконец-то первый выпуск в этом году! И в нем смена ролей — Антон становится гостем, а роль ведущего на себя принял Артем Беседин. Говорим о том, как сознание влияет на мир, о проблеме ментальной каузальности, которой когда-то была посвящена диссертация Антона.…
👍11❤3🔥3
Пришло время собирать камни после непальской конференции о сознании животных. Что в сухом остатке-то? Не после каждой конференции, книги, полемики можно задать такой вопрос с надеждой получить содержательный ответ. Во многих случаях изначально понятно, что люди собираются просто поговорить, поделиться мнениями. Это очень полезно, и большинство конференций проходит именно так. Но конференция о сознании животных изначально задумывалась с целью получения «сухого остатка».
Нью-Йоркская декларация о сознании животных появилась до непальской конференции, но она отражает среднюю температуру по больнице и на конференции. Автор канала Будущее грядёт как раз адресовала мне несколько вопросов по поводу декларации, которые удачно подсвечивают, скажем так, тёмную сторону происходящего. Доставайте ваши дизлайки.
Нью-Йоркская декларация о сознании животных появилась до непальской конференции, но она отражает среднюю температуру по больнице и на конференции. Автор канала Будущее грядёт как раз адресовала мне несколько вопросов по поводу декларации, которые удачно подсвечивают, скажем так, тёмную сторону происходящего. Доставайте ваши дизлайки.
Telegram
Будущее грядёт
... или несколько вопросов к Артёму Беседину
1. Благосостояние животных, которое упоминается в ваших последних постах 12 раз - это ошибка автоматического перевода? До тех пор, пока Бёрч не сказал, что это концепция, была уверенность, что это ошибка перевода…
1. Благосостояние животных, которое упоминается в ваших последних постах 12 раз - это ошибка автоматического перевода? До тех пор, пока Бёрч не сказал, что это концепция, была уверенность, что это ошибка перевода…
❤6⚡2🤔1
1. Технический вопрос о переводе. Слово welfare я переводил как благосостояние, это не ошибка машинного перевода. Так этот термин переводится, например, в русской версии «Теории справедливости» Ролза. И под благосостоянием имеется в виду не только «достаток, имущество, богатство». В том числе подразумеваются возможность реализовать себя, здоровье и тому подобное. Я бы не хотел начинать холивар из-за благополучия/благосостояния: я, всё-таки, не для энциклопедии статью писал. (Обращаюсь к тем, кто недавно возмущался переводом mind как разум: готов принять вашу критику. Особенно в виде мемов. Очень буду рад мемам. Спасибо.)
2. Теперь по содержанию. Не нужно ставить в один ряд Нью-Йоркскую декларацию и Всеобщую декларацию о благополучии/благосостоянии животных, потому что Нью-Йоркская декларация лишь косвенно касается их блага. Это очень важно для понимания намерений её создателей: они не хотели заявить о необходимости защиты животных, об их правах и тому подобном. Их цель — сделать общепризнанным фактом наличие сознания у животных. Какие из этого факта последуют этические выводы — совсем другой вопрос. Я обсуждал этот момент с одним из подписантов. По его мнению, вопрос может касаться гуманного отношения в плане того, как именно нужно убивать животных, употребляемых нами в пищу, и других подобных вещей. Подписанты декларации не согласны в отношении того, какие именно этические принципы нам нужно принять в отношении животных. Они лишь высказывают мнение, что наличие сознания у животных делает их подходящими субъектами для морально взвешенного обращения, нормы которого мы должны дальше определить.
С другой стороны, давайте будем реалистами. Сколько лет идёт борьба за права животных? Какие результаты были достигнуты? Нью-Йоркская декларация, несмотря на то что она не делает прямых и однозначных заявлений о моральном статусе животных и объединяет людей с разными мнениями по этому вопросу, даёт важное оружие защитникам животных. Ведь её авторы предполагают, что она выражает научный консенсус, на который теперь можно ссылаться. Теперь при обсуждении практических вопросов об обращении с животными можно будет сказать, что, вот-де, учёные считают, что сознание у животных есть, поэтому то-то и то-то.
За наводку на Кембриджскую декларацию о сознании животных спасибо. Про неё я ничего не знал. Отличие Кембриджской и Нью-Йоркской деклараций в том, что первая не выстрелила, не возымела никакого эффекта. На Нью-Йоркскую декларацию возлагаются большие надежды. В первую очередь ожидается, что свои подписи под ней поставят очень много учёных. Именно это главная цель её создателей.
3. Осьминоги упоминаются в декларации, потому что, как совершенно верно отмечает автор Будущего грядёт, «дело все-таки не в том, что важно "благосостояние" животных, а в том, что важно расширить список тех, о ком можно подумать». Да, декларация имеет научную цель: нам нужно разобраться с тем, у кого сознание есть, а у кого нет.
4. Все заявления, касающиеся конкретных практических шагов, сделанные в декларации, сформулированы в очень общих терминах. Авторы просто надеются на то, что декларация будет всерьёз учитываться при принятии решений. Они не дают никаких практических рекомендаций.
Возможность сознания у ИИ авторами декларации не принимается во внимание. На конференции звучали предложения вообще отказаться от рассмотрения сознания ИИ вместе с сознанием животных. О том, почему мне это кажется неправильным, я напишу отдельный пост.
2. Теперь по содержанию. Не нужно ставить в один ряд Нью-Йоркскую декларацию и Всеобщую декларацию о благополучии/благосостоянии животных, потому что Нью-Йоркская декларация лишь косвенно касается их блага. Это очень важно для понимания намерений её создателей: они не хотели заявить о необходимости защиты животных, об их правах и тому подобном. Их цель — сделать общепризнанным фактом наличие сознания у животных. Какие из этого факта последуют этические выводы — совсем другой вопрос. Я обсуждал этот момент с одним из подписантов. По его мнению, вопрос может касаться гуманного отношения в плане того, как именно нужно убивать животных, употребляемых нами в пищу, и других подобных вещей. Подписанты декларации не согласны в отношении того, какие именно этические принципы нам нужно принять в отношении животных. Они лишь высказывают мнение, что наличие сознания у животных делает их подходящими субъектами для морально взвешенного обращения, нормы которого мы должны дальше определить.
С другой стороны, давайте будем реалистами. Сколько лет идёт борьба за права животных? Какие результаты были достигнуты? Нью-Йоркская декларация, несмотря на то что она не делает прямых и однозначных заявлений о моральном статусе животных и объединяет людей с разными мнениями по этому вопросу, даёт важное оружие защитникам животных. Ведь её авторы предполагают, что она выражает научный консенсус, на который теперь можно ссылаться. Теперь при обсуждении практических вопросов об обращении с животными можно будет сказать, что, вот-де, учёные считают, что сознание у животных есть, поэтому то-то и то-то.
За наводку на Кембриджскую декларацию о сознании животных спасибо. Про неё я ничего не знал. Отличие Кембриджской и Нью-Йоркской деклараций в том, что первая не выстрелила, не возымела никакого эффекта. На Нью-Йоркскую декларацию возлагаются большие надежды. В первую очередь ожидается, что свои подписи под ней поставят очень много учёных. Именно это главная цель её создателей.
3. Осьминоги упоминаются в декларации, потому что, как совершенно верно отмечает автор Будущего грядёт, «дело все-таки не в том, что важно "благосостояние" животных, а в том, что важно расширить список тех, о ком можно подумать». Да, декларация имеет научную цель: нам нужно разобраться с тем, у кого сознание есть, а у кого нет.
4. Все заявления, касающиеся конкретных практических шагов, сделанные в декларации, сформулированы в очень общих терминах. Авторы просто надеются на то, что декларация будет всерьёз учитываться при принятии решений. Они не дают никаких практических рекомендаций.
Возможность сознания у ИИ авторами декларации не принимается во внимание. На конференции звучали предложения вообще отказаться от рассмотрения сознания ИИ вместе с сознанием животных. О том, почему мне это кажется неправильным, я напишу отдельный пост.
❤17👍5
Так что же в сухом остатке? Мы считаем, что у многих животных есть сознание. Мы должны ответить на вопрос, какие именно животные обладают сознанием, а какие нет. И мы должны дать ответ на этот вопрос научными средствами. Без захода в область морали. Ничего личного, только бизнес наука.
❤18🤨9👍7👎2🔥1
Почему возможность сознания ИИ необходимо учитывать при изучении сознания животных?
Понятие нечеловеческих сознаний объединяет разные типы сознаний только на том основании, что их субъектом является не человек. В эту категорию потенциально могут попасть очень разные вещи. Лучшие кандидаты — это животные и системы искусственного интеллекта. Есть ещё третий перспективный кандидат — это мозговые органоиды, иначе говоря, нейронные системы, выращенные в пробирке. (Я сейчас провёл небольшое исследование по этой теме (то есть погуглил) и наткнулся на такую вот статью прошлого года об органоидном интеллекте. Я её ещё не прочитал, поэтому ничего о ней сказать не могу.)
Нужно ли исследовать сознание животных, искусственного интеллекта и (раз уж я их упомянул) мозговых органоидов вместе? Я полагаю, что да. Я не имею в виду, что сознание животных и искусственного интеллекта должно исследоваться в одной лаборатории. Я хочу сказать, что выводы о сознании животных должны делаться с оглядкой на искусственных субъектов и наоборот. На настоящий момент у меня самого сложилась определённая система координат, приложимая к исследованию других сознаний. Я попытаюсь кратко описать эту систему координат и, опираясь на неё, показать, что я имею в виду под изучением одного типа нечеловеческого сознания с оглядкой на другие типы.
Понятие нечеловеческих сознаний объединяет разные типы сознаний только на том основании, что их субъектом является не человек. В эту категорию потенциально могут попасть очень разные вещи. Лучшие кандидаты — это животные и системы искусственного интеллекта. Есть ещё третий перспективный кандидат — это мозговые органоиды, иначе говоря, нейронные системы, выращенные в пробирке. (Я сейчас провёл небольшое исследование по этой теме (то есть погуглил) и наткнулся на такую вот статью прошлого года об органоидном интеллекте. Я её ещё не прочитал, поэтому ничего о ней сказать не могу.)
Нужно ли исследовать сознание животных, искусственного интеллекта и (раз уж я их упомянул) мозговых органоидов вместе? Я полагаю, что да. Я не имею в виду, что сознание животных и искусственного интеллекта должно исследоваться в одной лаборатории. Я хочу сказать, что выводы о сознании животных должны делаться с оглядкой на искусственных субъектов и наоборот. На настоящий момент у меня самого сложилась определённая система координат, приложимая к исследованию других сознаний. Я попытаюсь кратко описать эту систему координат и, опираясь на неё, показать, что я имею в виду под изучением одного типа нечеловеческого сознания с оглядкой на другие типы.
Frontiers
Frontiers | Organoid intelligence (OI): the new frontier in biocomputing and intelligence-in-a-dish
Biological computing (or biocomputing) offers potential advantages over silicon-based computing in terms of faster decision-making, continuous learning durin...
👍12❤3⚡2
Классификация 1: другие сознания как естественный(-ые) вид(ы)
Можно ли однозначно утверждать, что во всех перечисленных выше случаях мы сталкиваемся с одним и тем же феноменом, называемым «сознание»? Тим Бейн не устает повторять, что сознание должно исследоваться как естественный вид. Это, в принципе, является условием возможности научного исследования сознания. Поясню, почему это так.
Классический пример естественного вида — это вода. Много веков назад кто-то показал пальцем на воду и сказал: «Вода». Этот человек ничего не знал о химическом составе воды. Двести лет назад мы узнали, что вода имеет формулу H2O. Теперь мы называем водой только вещество с такой формулой. Если где-то мы столкнёмся с прозрачной жидкостью без вкуса и запаха, пригодной для питья, химическая формула которой не H2O, то мы не назовём её водой.
Уже несколько веков философы указывают разными способами на своё сознание и говорят: «Сознание». Пока мы находимся в положении человека, не знающего формулу воды: то есть, я предполагаю, что мы пока не знаем, что такое сознание. Да мы и не знаем, обозначается ли этим словом что-то одинаковое во всех случаях. Сравните слово «вода» со словом «суп». Борщ, гаспачо и том ям – это супы, однако они не составляют естественного вида. Они объединяются нами в одну группу, потому что нам так удобно. Может быть, когда разные люди (или даже один и тот же человек в разное время) говорят о своём сознании, то иногда речь идёт о борще, в другом – о гаспачо, а в третьем – о том яме? Допустим. В этом случае научное изучение сознания – это уже не изучение единого феномена, а разбор на составляющие той мешанины, которую принято обозначать словом «сознание».
Я предполагаю, что научное изучение сознание в случае с человеком, заслуживающее такого названия, возможно только в том случае, если сознание – это естественный вид. Вполне возможно, что не всё то, что обозначается словом «сознание», относится к этому естественному виду. Например, феноменальное сознание – это естественный вид, а самосознание – уже нет. Или в случае с человеческим сознанием мы можем иметь дело с несколькими сопутствующими друг другу естественными видами. В этом случае нам нужно уточнить, состояния какого именно естественного вида мы будем искать у других существа.
Исследуя другие сознания, мы должны исходить из того, что в случае в нашем исходном человеческом случае сознание представляет собой естественный вид. И вот какие результаты мы можем получить:
1. У других существ есть сознание того же естественного вида, что и у нас.
2. У других существ есть квази-сознание, относящееся к другому естественному виду. Как если бы мы обнаружили на другой планете какую-нибудь квази-воду: прозрачную жидкость без вкуса и запаха, пригодную для питья, но формула которой не H2O.
3. У других существ нет сознания как естественного вида. Те признаки, которые у человека связаны с сознанием, у других существ соответствуют мешанине из совершенно разных явлений.
Можно ли однозначно утверждать, что во всех перечисленных выше случаях мы сталкиваемся с одним и тем же феноменом, называемым «сознание»? Тим Бейн не устает повторять, что сознание должно исследоваться как естественный вид. Это, в принципе, является условием возможности научного исследования сознания. Поясню, почему это так.
Классический пример естественного вида — это вода. Много веков назад кто-то показал пальцем на воду и сказал: «Вода». Этот человек ничего не знал о химическом составе воды. Двести лет назад мы узнали, что вода имеет формулу H2O. Теперь мы называем водой только вещество с такой формулой. Если где-то мы столкнёмся с прозрачной жидкостью без вкуса и запаха, пригодной для питья, химическая формула которой не H2O, то мы не назовём её водой.
Уже несколько веков философы указывают разными способами на своё сознание и говорят: «Сознание». Пока мы находимся в положении человека, не знающего формулу воды: то есть, я предполагаю, что мы пока не знаем, что такое сознание. Да мы и не знаем, обозначается ли этим словом что-то одинаковое во всех случаях. Сравните слово «вода» со словом «суп». Борщ, гаспачо и том ям – это супы, однако они не составляют естественного вида. Они объединяются нами в одну группу, потому что нам так удобно. Может быть, когда разные люди (или даже один и тот же человек в разное время) говорят о своём сознании, то иногда речь идёт о борще, в другом – о гаспачо, а в третьем – о том яме? Допустим. В этом случае научное изучение сознания – это уже не изучение единого феномена, а разбор на составляющие той мешанины, которую принято обозначать словом «сознание».
Я предполагаю, что научное изучение сознание в случае с человеком, заслуживающее такого названия, возможно только в том случае, если сознание – это естественный вид. Вполне возможно, что не всё то, что обозначается словом «сознание», относится к этому естественному виду. Например, феноменальное сознание – это естественный вид, а самосознание – уже нет. Или в случае с человеческим сознанием мы можем иметь дело с несколькими сопутствующими друг другу естественными видами. В этом случае нам нужно уточнить, состояния какого именно естественного вида мы будем искать у других существа.
Исследуя другие сознания, мы должны исходить из того, что в случае в нашем исходном человеческом случае сознание представляет собой естественный вид. И вот какие результаты мы можем получить:
1. У других существ есть сознание того же естественного вида, что и у нас.
2. У других существ есть квази-сознание, относящееся к другому естественному виду. Как если бы мы обнаружили на другой планете какую-нибудь квази-воду: прозрачную жидкость без вкуса и запаха, пригодную для питья, но формула которой не H2O.
3. У других существ нет сознания как естественного вида. Те признаки, которые у человека связаны с сознанием, у других существ соответствуют мешанине из совершенно разных явлений.
👍13❤4
Классификация 2: субстрат и эволюция
Выше я упомянул, что лучшие кандидаты на носителей нечеловеческих сознаний – это животные, системы ИИ и мозговые органоиды. Чем они различаются? Нельзя ли объединить, например, животных и органоиды? Ведь они состоят из живых клеток.
Эти примеры кандидатов на наличие сознания иллюстрируют другую важную классификацию, основанную на двух различениях: имеет ли данное существо эволюционную историю и из чего оно сделано. Животные и органоиды состоят из живой ткани, но животные появились в результате эволюции, а органоиды нет. То же верно и относительно современных систем ИИ, которые не имеют не только биологического носителя, но и эволюционной истории. Можно представить себе системы ИИ будущего, появившиеся в результате эволюции. Под этим я не имею в виду эволюционные алгоритмы или что-то из существующих технологий. Речь идёт о буквальном отборе систем ИИ, реплицирующих самих себя и борющихся за выживание в окружающей среде. Только в этом случае мы сможем говорить об эволюционной истории животных и ИИ в одном и том же смысле.
Выше я упомянул, что лучшие кандидаты на носителей нечеловеческих сознаний – это животные, системы ИИ и мозговые органоиды. Чем они различаются? Нельзя ли объединить, например, животных и органоиды? Ведь они состоят из живых клеток.
Эти примеры кандидатов на наличие сознания иллюстрируют другую важную классификацию, основанную на двух различениях: имеет ли данное существо эволюционную историю и из чего оно сделано. Животные и органоиды состоят из живой ткани, но животные появились в результате эволюции, а органоиды нет. То же верно и относительно современных систем ИИ, которые не имеют не только биологического носителя, но и эволюционной истории. Можно представить себе системы ИИ будущего, появившиеся в результате эволюции. Под этим я не имею в виду эволюционные алгоритмы или что-то из существующих технологий. Речь идёт о буквальном отборе систем ИИ, реплицирующих самих себя и борющихся за выживание в окружающей среде. Только в этом случае мы сможем говорить об эволюционной истории животных и ИИ в одном и том же смысле.
👍11❤3⚡3
Пример использования системы координат
Оттолкнёмся от такого тезиса: мы более-менее согласны, что у некоторых животных сознание есть, а у современных систем ИИ нет (быть может, это и не так). Приведённая выше таблица показывает, что животные и ИИ различаются по субстрату и по наличию эволюционной истории. Предположим, что животное проходит поведенческий тест Т. Этот же тест проходит воплощенная система ИИ. Но сознание мы приписываем только животному. Значит дело не в самом прохождении теста, а в биологии и/или эволюции. То есть, тест Т показывает наличие сознания только у существа, имеющего определённую биологию и/или эволюционную историю.
Я пишу «и/или», потому что мы пока не знаем, важны ли в данном случае оба фактора или только один. Для того, чтобы это узнать, нам нужно их разделить. С одной стороны, исследовать органоид или искусственный организм в сравнении с животным. Под такими искусственными организмами я имею в виду не просто, например, клонированных животных. Клонированная овца – это та же овца, несущая всю овечью эволюционную историю. Я имею в виду создание организмов «с нуля». (Не уверен, что создание органоидов или тем более искусственных организмов будет когда-нибудь возможно, по этическим соображениям. Думаю, у некоторых моих читателей уже от самой этой идеи волосы зашевелились.) С другой стороны, нужно сравнить (ещё не существующий) эволюционно развивающийся ИИ и животных. И мы можем получить разные выводы: что сознание есть только у животных и органоидов (тогда важна биология, но не эволюция), у животных и эволюционирующих систем ИИ (тогда важна эволюция, но не биология), только у животных (важна и эволюция, и биология). Таким образом мы решим, где присутствует сознание как естественный вид, а где только окрошка, показывающая те же эффекты, что и сознание.
Эта методология кажется мне достаточно ясной. Понятно, что пока мы не можем взять животное и сопоставить его с «мозгами в бочке» или эволюционирующими роботами, потому что у нас пока нет ни «мозгов в бочке», ни таких роботов. Однако при исследовании сознания животных полезно иногда задавать себе вопрос: что значили бы эти результаты, если бы (а) это существо не имело эволюционной истории и (б) не состояло бы из живых клеток. Кстати, подобный вопрос можно задать и с другой стороны. Представьте себе, что завтра вдруг выяснится, что LLM реализованы не на компьютерах, а на огромных мозговых органоидах, состоящих из живых нейронов, находящихся в питательном растворе. Мне представляется, что это будет довольно сомнительный с моральной точки зрения кейс. Но, в то же время, я не ринусь кричать, что у этого супермозга точно есть сознание: всё-таки эта куча нейронов появилась не в результате естественного отбора, не взаимодействует со средой, не решает задачи, связанные с выживанием. Хотя…
Оттолкнёмся от такого тезиса: мы более-менее согласны, что у некоторых животных сознание есть, а у современных систем ИИ нет (быть может, это и не так). Приведённая выше таблица показывает, что животные и ИИ различаются по субстрату и по наличию эволюционной истории. Предположим, что животное проходит поведенческий тест Т. Этот же тест проходит воплощенная система ИИ. Но сознание мы приписываем только животному. Значит дело не в самом прохождении теста, а в биологии и/или эволюции. То есть, тест Т показывает наличие сознания только у существа, имеющего определённую биологию и/или эволюционную историю.
Я пишу «и/или», потому что мы пока не знаем, важны ли в данном случае оба фактора или только один. Для того, чтобы это узнать, нам нужно их разделить. С одной стороны, исследовать органоид или искусственный организм в сравнении с животным. Под такими искусственными организмами я имею в виду не просто, например, клонированных животных. Клонированная овца – это та же овца, несущая всю овечью эволюционную историю. Я имею в виду создание организмов «с нуля». (Не уверен, что создание органоидов или тем более искусственных организмов будет когда-нибудь возможно, по этическим соображениям. Думаю, у некоторых моих читателей уже от самой этой идеи волосы зашевелились.) С другой стороны, нужно сравнить (ещё не существующий) эволюционно развивающийся ИИ и животных. И мы можем получить разные выводы: что сознание есть только у животных и органоидов (тогда важна биология, но не эволюция), у животных и эволюционирующих систем ИИ (тогда важна эволюция, но не биология), только у животных (важна и эволюция, и биология). Таким образом мы решим, где присутствует сознание как естественный вид, а где только окрошка, показывающая те же эффекты, что и сознание.
Эта методология кажется мне достаточно ясной. Понятно, что пока мы не можем взять животное и сопоставить его с «мозгами в бочке» или эволюционирующими роботами, потому что у нас пока нет ни «мозгов в бочке», ни таких роботов. Однако при исследовании сознания животных полезно иногда задавать себе вопрос: что значили бы эти результаты, если бы (а) это существо не имело эволюционной истории и (б) не состояло бы из живых клеток. Кстати, подобный вопрос можно задать и с другой стороны. Представьте себе, что завтра вдруг выяснится, что LLM реализованы не на компьютерах, а на огромных мозговых органоидах, состоящих из живых нейронов, находящихся в питательном растворе. Мне представляется, что это будет довольно сомнительный с моральной точки зрения кейс. Но, в то же время, я не ринусь кричать, что у этого супермозга точно есть сознание: всё-таки эта куча нейронов появилась не в результате естественного отбора, не взаимодействует со средой, не решает задачи, связанные с выживанием. Хотя…
👍18❤6🤔6🤨1
Сегодня прошла защита моего аспиранта Артема Яшина. Совет проголосовал единогласно за. Поздравляю нового кандидата наук! Диссертацию Артема можно скачать здесь: https://istina.msu.ru/dissertations/650089795/. Это прекрасная работа по философии действия.
❤81🔥24👏14⚡2👍1