Повсюду спрашивайте новый «Логос»: «Осуждение, воля и долг: проблемы моральной ответственности»!
В этом номере вышел мой перевод статьи Гэри Уотсона «Два лица ответственности». Уотсон предлагает разделять два типа моральной ответственности: attributability и accountability. Если с переводом attributability на русский язык всё более-менее понятно — это можно перевести как приписываемость и коннотации этого слова мало изменятся, то с accountability вышла целая битва. Это обычное английское слово, которое в других контекстах всегда можно переводить как ответственность. Но вот в случае, когда вам нужно разделить responsibility и accountability, возникают большие трудности. Коллеги в «Финиковом компоте» про моральную ответственность переводили этот термин неологизмом вменимость. Мне этот вариант кажется неудачным. Во-первых, хотя это и неологизм, кажется, что вменимым (тем, что можно вменить), является поступок, а не человек. Это приближает вменимость по смыслу к атрибуции чего-то субъекту. А если мы начнём говорить о вменимых агентах, тут уже послышится вменяемость, ну а это совсем другое. Во-вторых, вменимость звучит как что-то близкое к обвинению, вменению вины, то есть не к ответственности, а признанию ответственным. Две эти вещи Уотсон тщательно разделяет. Я не скажу, что мой вариант перевода – подотчетность – сильно лучше. От него даже как будто несёт какой-то бюрократической затхлостью. Однако он передаёт хоть какие-то аспекты слова accountability. С одной стороны, сохраняется связь со словом account – счёт, отчёт. С другой стороны, это слово указывает на то, что практика моральной подотчётности, по Уотсону, связана с «предъявлением требований к людям». При несоблюдении этих требований агент (или кто-то за него) может указать какие-то извиняющие обстоятельства, дать отчёт о своём поведении. Нужно отметить, что способность к такому отчёту не является обязательной, а такую обязательность можно увидеть в слове подотчётность. Это, действительно, изъян выбранного мной термина.
Из вёрстки «Логоса» пропала сноска с моей благодарностью Артёму Юнусову. Напишу здесь: спасибо, Артём, за твою беспощадную редактуру!
В этом номере вышел мой перевод статьи Гэри Уотсона «Два лица ответственности». Уотсон предлагает разделять два типа моральной ответственности: attributability и accountability. Если с переводом attributability на русский язык всё более-менее понятно — это можно перевести как приписываемость и коннотации этого слова мало изменятся, то с accountability вышла целая битва. Это обычное английское слово, которое в других контекстах всегда можно переводить как ответственность. Но вот в случае, когда вам нужно разделить responsibility и accountability, возникают большие трудности. Коллеги в «Финиковом компоте» про моральную ответственность переводили этот термин неологизмом вменимость. Мне этот вариант кажется неудачным. Во-первых, хотя это и неологизм, кажется, что вменимым (тем, что можно вменить), является поступок, а не человек. Это приближает вменимость по смыслу к атрибуции чего-то субъекту. А если мы начнём говорить о вменимых агентах, тут уже послышится вменяемость, ну а это совсем другое. Во-вторых, вменимость звучит как что-то близкое к обвинению, вменению вины, то есть не к ответственности, а признанию ответственным. Две эти вещи Уотсон тщательно разделяет. Я не скажу, что мой вариант перевода – подотчетность – сильно лучше. От него даже как будто несёт какой-то бюрократической затхлостью. Однако он передаёт хоть какие-то аспекты слова accountability. С одной стороны, сохраняется связь со словом account – счёт, отчёт. С другой стороны, это слово указывает на то, что практика моральной подотчётности, по Уотсону, связана с «предъявлением требований к людям». При несоблюдении этих требований агент (или кто-то за него) может указать какие-то извиняющие обстоятельства, дать отчёт о своём поведении. Нужно отметить, что способность к такому отчёту не является обязательной, а такую обязательность можно увидеть в слове подотчётность. Это, действительно, изъян выбранного мной термина.
Из вёрстки «Логоса» пропала сноска с моей благодарностью Артёму Юнусову. Напишу здесь: спасибо, Артём, за твою беспощадную редактуру!
Кит Франкиш начал конференцию с перформативного парадокса: «Как думать об искусственном сознании? Не думайте о нём! Это внутренне некогерентный проект». И тут же сделал доклад на тему искусственного сознания. Либо он делал его, не думая об искусственном сознании, либо он, подобно Витгенштейну, предлагает отбросить свой доклад как приставную лестницу, по которой мы поднялись.
Франкиш разделяет картезианский и посткартезианский проекты исследования сознания. Картезианский – это квалиа-реализм. Сознание – это обладание феноменальными свойствами. Посткартезианский проект – это иллюзионизм. Сознание сводится к определённым функциональным состояниям: обработке информации и реакциям. Картезианский проект признаёт трудную проблему, а трудная проблема ведет к трудному проекту сознания ИИ. Что именно мы должны воспроизвести? Как мы это сделаем? Как мы поймём, что мы добились успеха? Картезианский подход не даёт ответа на все эти вопросы. Посткартезианский подход утверждает, что это реализуемый, но некогерентный проект. С точки зрения этого проекта бессмысленно воссоздавать человеческое сознание в машине, ИИ может обладать только сознанием своего собственного типа.
На мой взгляд, Франкиш говорил не о том. Никто уже не пытается воссоздать человеческое сознание в железе. Мы стоим перед фактом: ИИ развивается, всё больше людей стихийно приписывают ему сознание. Это требует исследования. Сам по себе отказ от обсуждения вопроса ничего не даёт для понимания того, что уже существует и развивается.
Франкиш разделяет картезианский и посткартезианский проекты исследования сознания. Картезианский – это квалиа-реализм. Сознание – это обладание феноменальными свойствами. Посткартезианский проект – это иллюзионизм. Сознание сводится к определённым функциональным состояниям: обработке информации и реакциям. Картезианский проект признаёт трудную проблему, а трудная проблема ведет к трудному проекту сознания ИИ. Что именно мы должны воспроизвести? Как мы это сделаем? Как мы поймём, что мы добились успеха? Картезианский подход не даёт ответа на все эти вопросы. Посткартезианский подход утверждает, что это реализуемый, но некогерентный проект. С точки зрения этого проекта бессмысленно воссоздавать человеческое сознание в машине, ИИ может обладать только сознанием своего собственного типа.
На мой взгляд, Франкиш говорил не о том. Никто уже не пытается воссоздать человеческое сознание в железе. Мы стоим перед фактом: ИИ развивается, всё больше людей стихийно приписывают ему сознание. Это требует исследования. Сам по себе отказ от обсуждения вопроса ничего не даёт для понимания того, что уже существует и развивается.
Основное содержание доклада Перконти. Оцените прогресс в подготовке презентации по сравнению с прошлым годом. Спасибо Артему Яшину за фотографию.
Удивительное дело: Хамфри, который раньше был за иллюзионизм, теперь верит в какую-то версию то ли функционализма, то ли репрезентационализма, а Перконти, который раньше пропагандировал социальную теорию сознания (кого конвенционально признали сознательным, тот и сознательный), теперь открыто заигрывает с иллюзионизмом.
Мне понравилось разделение Перконти феноменальной и гетерофеноменальной иллюзий. Фенменальная иллюзия – это, собственно, иллюзия квалиа, иллюзия первого лица. Гетеровеноменальная иллюзия – это иллюзия того, что у других субъектов есть феноменальное сознание, иллюзия третьего лица. Перконти это разделение использовал для своих целей, а меня оно навело на мысль о том, насколько разную роль проблема других сознаний играет для разных подходов. Я довольно давно познакомился со стандартным нарративом в реалистической философии сознания (антифизикалистские аргументы, трудная проблема, варианты решения трудной проблемы) и только несколько лет назад я обратил внимание на проблему других сознаний. Эта проблема для квалиа-реализма достаточно второстепенна. Она какая-то даже излишняя: достаточно объяснить, что такое сознание, ну а какую-нибудь теорию других сознаний мы уж сбоку приладим.
Для иллюзионизма другие сознания приобретают особое значение. Вдруг оказывается, что механизмы, которые отвечают за феноменальную иллюзию, значимы именно в контексте социального взаимодействия, они отвечают также за гетерофеноменальную иллюзию. Я имею в виду в первую очередь теорию схемы внимания Грациано: иллюзия квалиа создаётся из-за неполной репрезентации когнитивных процессов, которая и называется схемой ввнимания. Это схематичная репрезентация того, как распределяются когнитивные ресурсы, и нужна она для контроля над этими ресурсами. И тот же самый механизм отвечает за приписывание сознания другим: мы отслеживаем направление внимания других людей и составляем представление об их схеме внимания. С этой точки зрения вопросы о моём сознании и о чужом сознании нельзя рассматривать порознь. Феноменальная и гетерофеноменальная иллюзии – это разные, но связанные феномены.
Мне понравилось разделение Перконти феноменальной и гетерофеноменальной иллюзий. Фенменальная иллюзия – это, собственно, иллюзия квалиа, иллюзия первого лица. Гетеровеноменальная иллюзия – это иллюзия того, что у других субъектов есть феноменальное сознание, иллюзия третьего лица. Перконти это разделение использовал для своих целей, а меня оно навело на мысль о том, насколько разную роль проблема других сознаний играет для разных подходов. Я довольно давно познакомился со стандартным нарративом в реалистической философии сознания (антифизикалистские аргументы, трудная проблема, варианты решения трудной проблемы) и только несколько лет назад я обратил внимание на проблему других сознаний. Эта проблема для квалиа-реализма достаточно второстепенна. Она какая-то даже излишняя: достаточно объяснить, что такое сознание, ну а какую-нибудь теорию других сознаний мы уж сбоку приладим.
Для иллюзионизма другие сознания приобретают особое значение. Вдруг оказывается, что механизмы, которые отвечают за феноменальную иллюзию, значимы именно в контексте социального взаимодействия, они отвечают также за гетерофеноменальную иллюзию. Я имею в виду в первую очередь теорию схемы внимания Грациано: иллюзия квалиа создаётся из-за неполной репрезентации когнитивных процессов, которая и называется схемой ввнимания. Это схематичная репрезентация того, как распределяются когнитивные ресурсы, и нужна она для контроля над этими ресурсами. И тот же самый механизм отвечает за приписывание сознания другим: мы отслеживаем направление внимания других людей и составляем представление об их схеме внимания. С этой точки зрения вопросы о моём сознании и о чужом сознании нельзя рассматривать порознь. Феноменальная и гетерофеноменальная иллюзии – это разные, но связанные феномены.
Чалмерс, конечно удивительный человек: сделал доклад про вычислительные корреляты сознания (подробно про доклад написал Антон). Но мы-то помним, что в 2023 он выиграл пари, которое заключил с Кохом в 1998: будут ли открыты нейронные корреляты сознания в следующие 25 лет. Чалмерс утверждал, что не будут. И вот как после такой яркой констатации провала проекта по поиску каких бы то ни было коррелятов тот же самый человек может продолжать о них рассуждать? Но Чалмерсу ок.
Telegram
Антон Кузнецов | Философ
Вот такая шкала развития ИИ мне нравится. Её представил Дэниел Юм из Conscium. Его идея примерно такая: в 2021 году ChatGPT был приблизительно на уровне школьника, в 2023 — на уровне магистра, в 2025 — PhD. Соответственно, мы можем ожидать, что к 2029 году он пройдет стадию постдока и достигнет уровня профессора. Я бы, конечно, на этом не останавливался. Думаю, к 2035 году будут взяты рубежи членкора и академика. Эту шкалу можно интерпретировать и по-другому. Когда ИИ достигает уровня определённой группы людей, они признают его сознательный субъектом. Соответственно, в этом году сознание ИИ должны признать кандидаты наук, через несколько лет доктора наук и профессора, ну и, не загадывая, можно ожидать, что рано или поздно сознание у искусственных агентов будет признано членкорами и академиками.
Вручение первой премии Деннета проходит в старомодном кинотеатре в Ираклионе, который на время церемонии был превращен в картезианский театр.
Анил Сет тоже здесь. Обсуждаем за обедом coffer illusion (как бы её перевести? сундучная иллюзия?). Подходит Анил Сет: "О! А у меня как раз сегодня вышла статья в Гардиан про эту иллюзию!" Почитать про саму иллюзию можно у Михаила Лебедева. Скорее всего, вы на ней сразу увидели только прямоугольники. Но многие люди из сельской местности Африки видят здесь не прямоугольники, а круги .
Наша конференция закончилась позавчера. Но мы ведь специально поставили её впритык к другой конференции — ASSC (Ассоциация научного исследования сознания). Организаторы ASSC решили провести постер-сессии на улице. Что может пойти не так? Ах да, на улице-то 30 градусов, и во второй половине дня солнце как раз светит во дворик с постерами. Хорошо, что Артём Яшин выступил сегодня утром, когда там была тень.