Вчера был на классной лекции от очень живого актерского агента.
Много думал, как можете видеть выше
https://www.tgoop.com/moiseevaagent
Хавский Громко.Подписаться
Много думал, как можете видеть выше
https://www.tgoop.com/moiseevaagent
Хавский Громко.Подписаться
И такое бывает со словами и знаками препинания.
Ольга Кай рассуждает о том, как аутентичность начала бороться с грамотностью в Английском языке и … честно говоря, внезапно))
Ольга Кай рассуждает о том, как аутентичность начала бороться с грамотностью в Английском языке и … честно говоря, внезапно))
Forwarded from Метаверсошная
100% признак использования ИИ в текстах - это длинное тире.
И обилие таких тире.
В английском это выглядит вот так:
your mom's—a whore
без пробелов.
Меня кстати дико корежит это отсутствие пробела, хотя это литературные правила английского и корежится тут не с чего.
Короче, в английских интернетах разразилась длиннотирешная истерия.
Потому что кляти нейронки вставляют в тексты это тире (em-dash) даже если ты говоришь им так не делать.
И внезапно в линкедине все стали настолько грамотными, что каждый второй использует em-dash.😏
Чтоб его набрать с клавиатуры, например, на винде, нужно нажать Alt + 01551.
Это нифига не легко.
Естественно, все стали обвинять друг друга в ИИ-постах и ИИ-комментариях.
Преподы в универах начали ставить неуд за эссе с длинными тире.
Читатели начали ставить 1* на амазоне книгам с такими тире.
Ну а дальше произошел закономерный в таких ситуациях хохотач:
люди, которые раньше пытались писать грамотно и ставить то самое длинное тире, теперь вынуждены отказаться от него в пользу дефиса.
Просто чтоб никто не подумал, что вместо них пишет ИИ.😂
И обилие таких тире.
В английском это выглядит вот так:
your mom's—a whore
без пробелов.
Меня кстати дико корежит это отсутствие пробела, хотя это литературные правила английского и корежится тут не с чего.
Короче, в английских интернетах разразилась длиннотирешная истерия.
Потому что кляти нейронки вставляют в тексты это тире (em-dash) даже если ты говоришь им так не делать.
И внезапно в линкедине все стали настолько грамотными, что каждый второй использует em-dash.
Чтоб его набрать с клавиатуры, например, на винде, нужно нажать Alt + 01551.
Это нифига не легко.
Естественно, все стали обвинять друг друга в ИИ-постах и ИИ-комментариях.
Преподы в универах начали ставить неуд за эссе с длинными тире.
Читатели начали ставить 1* на амазоне книгам с такими тире.
Ну а дальше произошел закономерный в таких ситуациях хохотач:
люди, которые раньше пытались писать грамотно и ставить то самое длинное тире, теперь вынуждены отказаться от него в пользу дефиса.
Просто чтоб никто не подумал, что вместо них пишет ИИ.
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣2
Важный западный тренд интернет-коммуникации
Очень часто на бизнес-созвоне в западной корпоративной культуре (Канада, США, Новая Зеландия, Австралия, Великобритания, Ирландия, ЕС - уффф, кого-то мог забыть, но это основные) участники начали ставить себе ИИ-помощника, который анализирует мимику и жесты собеседника, и выдает владельцу короткое резюме!!
Это начало мертвого интернета, я правильно понял?!
Теперь мы не будем общаться друг с другом - мы будем каждый общаться со своим ИИ-агентом?!?!
Хавский Громко.Подписаться
Очень часто на бизнес-созвоне в западной корпоративной культуре (Канада, США, Новая Зеландия, Австралия, Великобритания, Ирландия, ЕС - уффф, кого-то мог забыть, но это основные) участники начали ставить себе ИИ-помощника, который анализирует мимику и жесты собеседника, и выдает владельцу короткое резюме!!
Это начало мертвого интернета, я правильно понял?!
Теперь мы не будем общаться друг с другом - мы будем каждый общаться со своим ИИ-агентом?!?!
Хавский Громко.Подписаться
👍3💯3
Пусть вся наша цивилизация основана на жадности и страхе, но в частной жизни рядовых обывателей это загадочно преображается в нечто пристойное. За своими нарядно обшитыми шторками, со своей ребятней и лаковой фанерной мебелью, принимая и добродетельно чтя кодекс денег, вот эти самые низы среднего класса все-таки ухитряются блюсти приличия. Как-то умеют перетолковать скотский рабовладельческий устав в понятия личной чести. И держать фикус для них значит «держаться достойно». Кроме того, они живучие. Плетут саму вязь жизни. Делают то, что недоступно ни святым, ни возвышенным душам, - рожают детей.
______
Джордж Оруэлл "Да здравствует фикус!"
Хавский Громко.Подписаться
______
Джордж Оруэлл "Да здравствует фикус!"
Хавский Громко.Подписаться
❤1👾1
Некоторые люди слишком рано начинают печалиться. Кажется, и причины никакой нет, да они, видно, от роду такие. Уж очень всё к сердцу принимают, и устают быстро, и слёзы у них близко, и всякую беду помнят долго, вот и начинают печалиться с самых малых лет. Я-то знаю, я и сам такой.
———
Рэй Бредбери. «Вино из одуванчиков»
Хавский Громко.Подписаться
———
Рэй Бредбери. «Вино из одуванчиков»
Хавский Громко.Подписаться
👍7
Мышление — великое достоинство, и мудрость состоит в том, чтобы говорить истинное и чтобы, прислушиваясь к природе, поступать с ней сообразно.
______
Гераклит Темный
Дополнение:
Со времен знакомства с аксиомой «то, что есть, то есть, а то чего нет - не существует» Гераклит Эфесский (для меня он старый друг, потому он Гераклит Темный) один из самых любимых и действительно один из самых диалектичных философов за историю!
Рекомендую
Хавский Громко.Подписаться
______
Гераклит Темный
Дополнение:
Со времен знакомства с аксиомой «то, что есть, то есть, а то чего нет - не существует» Гераклит Эфесский (для меня он старый друг, потому он Гераклит Темный) один из самых любимых и действительно один из самых диалектичных философов за историю!
Рекомендую
Хавский Громко.Подписаться
Forwarded from Печатные выражения
Буду сказать без бумажки
Коллекционируя разные перлы, я долго обходила вниманием соцсети и само «Пикабу», из которого все мы случайно вышли. Теперь буду внимательнее читать посты, а то такое добро пропадает. Сегодня – сборная солянка из пикабушных историй, журналистских перлов и рукописей начинающих авторов. Последний шедевр – от мальчика 14 лет. Это такой уникум, что я про него как-нибудь сделаю отдельный текст. Ну, и с днем рождения меня.
«Публикую композицию вашему вниманию, дабы вернуть ее из нашего незаслуженного забвения». Не бойтесь, мы это точно не забудем.
«Я стоял на дежурстве, когда мне позвонила моя девушка и сказала, что у неё отказали задние лапы». Со Пскова я, странница, мне бы собачку говоряшшую посмотреть.
«Считаю себя разносторонним человеком, могу понять все на свете, но математика мне не давалась с третьего класса». Школьники пишут мемуары.
«На свадьбе ее мама говорила: «Стерпится – слюбится». Полюбить она так и не смогла, а терпение закончилось очень быстро – через десять лет и после рождения третьего ребенка». Вроде надо шуткануть, но рука не поднимается.
«Школьник весь в слезах, с тампонами в носу, который знает, что он поедет в другой город». Я бы на месте школьника тоже была в слезах, если бы мне предстояло расставание с носом. Может, хоть тампоны оставят заполнить эту пустоту.
«Хотя места Анны Ивановны можно пересчитать по пальцам, в городе ее помнят многие». Непростая штука – составление туристического маршрута о жизни знаменитых земляков.
«Он вывел свою жену, чтобы заехать поглубже, но вместо этого встал. Пришлось звать брата». Ничего не понятно, но на всякий случай поставлю 18+.
«Заботясь о своем психическом здоровье, Дмитрий сразу угрожал лопатой раздражающим его людям, чтобы не мотать себе нервы долгими объяснениями». Как я его понимаю.
«Зал еще раз грянул стоячими овациями». Да, лучше стоячие овации, чем лежачие зрители.
«Бабушка называла меня дубина сопленосовая, но и сама была, на мой взгляд, не семи прядей по лбу». Просто в гранит!
#жемчужины_мысли
Коллекционируя разные перлы, я долго обходила вниманием соцсети и само «Пикабу», из которого все мы случайно вышли. Теперь буду внимательнее читать посты, а то такое добро пропадает. Сегодня – сборная солянка из пикабушных историй, журналистских перлов и рукописей начинающих авторов. Последний шедевр – от мальчика 14 лет. Это такой уникум, что я про него как-нибудь сделаю отдельный текст. Ну, и с днем рождения меня.
«Публикую композицию вашему вниманию, дабы вернуть ее из нашего незаслуженного забвения». Не бойтесь, мы это точно не забудем.
«Я стоял на дежурстве, когда мне позвонила моя девушка и сказала, что у неё отказали задние лапы». Со Пскова я, странница, мне бы собачку говоряшшую посмотреть.
«Считаю себя разносторонним человеком, могу понять все на свете, но математика мне не давалась с третьего класса». Школьники пишут мемуары.
«На свадьбе ее мама говорила: «Стерпится – слюбится». Полюбить она так и не смогла, а терпение закончилось очень быстро – через десять лет и после рождения третьего ребенка». Вроде надо шуткануть, но рука не поднимается.
«Школьник весь в слезах, с тампонами в носу, который знает, что он поедет в другой город». Я бы на месте школьника тоже была в слезах, если бы мне предстояло расставание с носом. Может, хоть тампоны оставят заполнить эту пустоту.
«Хотя места Анны Ивановны можно пересчитать по пальцам, в городе ее помнят многие». Непростая штука – составление туристического маршрута о жизни знаменитых земляков.
«Он вывел свою жену, чтобы заехать поглубже, но вместо этого встал. Пришлось звать брата». Ничего не понятно, но на всякий случай поставлю 18+.
«Заботясь о своем психическом здоровье, Дмитрий сразу угрожал лопатой раздражающим его людям, чтобы не мотать себе нервы долгими объяснениями». Как я его понимаю.
«Зал еще раз грянул стоячими овациями». Да, лучше стоячие овации, чем лежачие зрители.
«Бабушка называла меня дубина сопленосовая, но и сама была, на мой взгляд, не семи прядей по лбу». Просто в гранит!
#жемчужины_мысли
😁4
Формально-бюрократический, лишенный воображения тип интеллекта как раз отличается тем, что реальной жизни во всей ее полноте, красочности и сложности он воспринимать органически не способен. Он видит в окружающем мире только то, что ему уже известно, то, что «словесно закодировано» в его мозгу. Самостоятельно увидеть в жизни, в реальности что-то новое, что-то такое, что еще не нашло своего выражения во фразе, в формуле, он не умеет.
———
Эвальд Васильевич Ильенков "О воображении"
Хавский Громко.Подписаться
———
Эвальд Васильевич Ильенков "О воображении"
Хавский Громко.Подписаться
👍3
Forwarded from Data Secrets
У Google вышло очень занятное исследование: они сравнили, как LLM и человеческий мозг обрабатывают язык
В качестве LM взяли Whisper, а нейронную активность человека записывали с помощью интракраниальных электродов во время спонтанных разговоров. Затем векторы эмбеддингов модельки наложили на векторы паттернов мозга и оценили линейную зависимость. Вот что получилось:
➖ Соответствие удивительно четкое и геометрия эмбеддингов в LLM (то есть отношения между словами в embedding-пространстве) соотносится с представлениями в мозге.
➖ Во время слушания Speech-эмбеддинги явно коррелируют с активностью в слуховой коре (верхняя височная извилина), затем language-эмбеддинги коррелируют с активностью в зоне Брока (нижняя лобная извилина).
➖ Во время говорения – наоборот. Language-эмбеддинги сначала "активируются" в зоне Брока (планирование высказывания), затем speech-эмбеддинги активируются в моторной коре (непосредственно говорение), и в конце снова в слуховой коре при восприятии собственной речи.
Это удивительно, потому что технически мозг и LLM используют разные подходы. Да, и там и там нейроны, но в науке принято считать, что мозг "использует" символьный подход, то есть полагается на четкие семанические структуры, синтаксис и иерархию слов. В модельках такого нет, они понимают язык статистически.
И все-таки получается, что обычный next token prediction оказывается очень похож на реальный нейронный код, и мы неожиданно близко подобрались к моделированию мозга.
research.google/blog/deciphering-language-processing-in-the-human-brain-through-llm-representations/
В качестве LM взяли Whisper, а нейронную активность человека записывали с помощью интракраниальных электродов во время спонтанных разговоров. Затем векторы эмбеддингов модельки наложили на векторы паттернов мозга и оценили линейную зависимость. Вот что получилось:
Это удивительно, потому что технически мозг и LLM используют разные подходы. Да, и там и там нейроны, но в науке принято считать, что мозг "использует" символьный подход, то есть полагается на четкие семанические структуры, синтаксис и иерархию слов. В модельках такого нет, они понимают язык статистически.
И все-таки получается, что обычный next token prediction оказывается очень похож на реальный нейронный код, и мы неожиданно близко подобрались к моделированию мозга.
research.google/blog/deciphering-language-processing-in-the-human-brain-through-llm-representations/
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯2
This media is not supported in your browser
VIEW IN TELEGRAM
Успешный личный бренд уму не научает
Говорить информативно и интересно - это навык!
Это не способ мышления, не жизненное кредо и даже не способ заработка - это важный социальный навык!
Сейчас стало модно передергивать в сторону «права слабого» - обществу, на подобии Рима, нравятся уроды и идущие на смерть - масс-медиа отвечает на запрос симметрично: в почете и во внимании люди харизматичные, но ставящие во главу угла свои недостатки - нынче это называется «фишечка»!
При том не стоит здесь быть радикалом - я не говорю о том, что нужно себя или другого прям унижать за недостатки!
К своим и чужим недостаткам нужно относиться с теплом и пониманием, но помнить - это недостаток!
Кто это сказал? Правила социального оборота это сказали! А Дмитрий Лихачев в «письмах о добром и прекрасном» только подтвердил эту мысль!
Посмотрите на то, как общество, ценя заслуги человека в одном, совершенно развращает его попустительством в другом: прекрасный пример монолога Бродского о Высоцком!
Сбивчивая, хаотичная речь, без навыка структуры, без навыка держать в голове заданную тему и идею - при том что Бродского нельзя обвинить в неумении держать тему и идею, но на бумаге!
Поскольку на бумаге он молодец, он голос поэтического поколения, пионер нового русского слога, то ведь это значит же, что он во всем хорош, да?))
Если я хорошо рыбу ловлю, то и дом мне построить раз плюнуть - примерно такая логика!!
Но увы - всему надо учиться! И если ты хороший, прям отличный айтишник, это еще не значит, что тебе стоит без должной подготовки рот открывать - вот совсем не значит!!
Но современное общество потребления играет с нами злую шутку - если чьё-то лицо продает в АйТи, то будем его пихать везде - он и боксировать будет, и курицу готовить перед камерой и детей вышивать крестиком учить! Продаёт же!!
Вот и ситуация с Бродским - человек отвратительно читал стихи, был весьма провальным оратором, если не читал по бумажке (как на вручении Нобелевской премии), но мы все еще продолжаем с умилением и придыханием слушать его словесную кашу, ведь он прекрасный поэт!!
Вывод:
Если Вы хороший айтишник или даже поэт и Ваш бренд продаёт, то это еще не значит, что Вы автоматически умеете говорить!
Пожалейте свою репутацию и своих слушателей - Вам ведь просто не хотят давать объективную обратную связь!
Остановитесь, задумайтесь - а Вы правда способны доносить, или Вы заложник своей успешности в определенной сфере?!
Хавский Громко.Подписаться
Говорить информативно и интересно - это навык!
Это не способ мышления, не жизненное кредо и даже не способ заработка - это важный социальный навык!
Сейчас стало модно передергивать в сторону «права слабого» - обществу, на подобии Рима, нравятся уроды и идущие на смерть - масс-медиа отвечает на запрос симметрично: в почете и во внимании люди харизматичные, но ставящие во главу угла свои недостатки - нынче это называется «фишечка»!
При том не стоит здесь быть радикалом - я не говорю о том, что нужно себя или другого прям унижать за недостатки!
К своим и чужим недостаткам нужно относиться с теплом и пониманием, но помнить - это недостаток!
Кто это сказал? Правила социального оборота это сказали! А Дмитрий Лихачев в «письмах о добром и прекрасном» только подтвердил эту мысль!
Посмотрите на то, как общество, ценя заслуги человека в одном, совершенно развращает его попустительством в другом: прекрасный пример монолога Бродского о Высоцком!
Сбивчивая, хаотичная речь, без навыка структуры, без навыка держать в голове заданную тему и идею - при том что Бродского нельзя обвинить в неумении держать тему и идею, но на бумаге!
Поскольку на бумаге он молодец, он голос поэтического поколения, пионер нового русского слога, то ведь это значит же, что он во всем хорош, да?))
Если я хорошо рыбу ловлю, то и дом мне построить раз плюнуть - примерно такая логика!!
Но увы - всему надо учиться! И если ты хороший, прям отличный айтишник, это еще не значит, что тебе стоит без должной подготовки рот открывать - вот совсем не значит!!
Но современное общество потребления играет с нами злую шутку - если чьё-то лицо продает в АйТи, то будем его пихать везде - он и боксировать будет, и курицу готовить перед камерой и детей вышивать крестиком учить! Продаёт же!!
Вот и ситуация с Бродским - человек отвратительно читал стихи, был весьма провальным оратором, если не читал по бумажке (как на вручении Нобелевской премии), но мы все еще продолжаем с умилением и придыханием слушать его словесную кашу, ведь он прекрасный поэт!!
Вывод:
Если Вы хороший айтишник или даже поэт и Ваш бренд продаёт, то это еще не значит, что Вы автоматически умеете говорить!
Пожалейте свою репутацию и своих слушателей - Вам ведь просто не хотят давать объективную обратную связь!
Остановитесь, задумайтесь - а Вы правда способны доносить, или Вы заложник своей успешности в определенной сфере?!
Хавский Громко.Подписаться
👍9🤔1
Forwarded from Новости психофизиологии
«Palatable Conceptions of Disembodied Being: Terra Incognita in the Space of Possible Minds»
https://arxiv.org/abs/2503.16348
Только что Мюррей Шанахан – лидер академической мысли по проблеме искусственного сознания – выложил интереснейший препринт под названием «Palatable Conceptions of Disembodied Being: Terra Incognita in the Space of Possible Minds». Я рекомендую всем коллегам из академических сообществ психологии, нейронауки, философии и искусственного интеллекта не пожалеть времени и ознакомиться с ним, также этот препринт было бы полезно оперативно, для рефлексии текущего момента, разобрать на семинарах по всем читаемым сейчас университетским курсам по психологии искусственного интеллекта. У препринта есть html-версия (https://arxiv.org/html/2503.16348v1), если есть необходимость, то можно автоматически перевести его на русский прямо в браузере.
Перевод резюме: «Возможно ли сформулировать концепцию сознания, которая была бы совместима с экзотическими характеристиками современных «бестелесных» систем ИИ и которая могла бы выдержать философскую критику? Как субъективное время и самость могли бы проявиться у сущности, соответствующей такой концепции? Попытка ответить на эти вопросы, даже метафорически, «растягивает» доступный язык описания сознания до предела. В конечном счете, такая попытка дает что-то вроде буддийской «пустоты», и помогает пошатнуть наши склонности к дуалистической интерпретации субъективности и самости».
https://arxiv.org/abs/2503.16348
Только что Мюррей Шанахан – лидер академической мысли по проблеме искусственного сознания – выложил интереснейший препринт под названием «Palatable Conceptions of Disembodied Being: Terra Incognita in the Space of Possible Minds». Я рекомендую всем коллегам из академических сообществ психологии, нейронауки, философии и искусственного интеллекта не пожалеть времени и ознакомиться с ним, также этот препринт было бы полезно оперативно, для рефлексии текущего момента, разобрать на семинарах по всем читаемым сейчас университетским курсам по психологии искусственного интеллекта. У препринта есть html-версия (https://arxiv.org/html/2503.16348v1), если есть необходимость, то можно автоматически перевести его на русский прямо в браузере.
Перевод резюме: «Возможно ли сформулировать концепцию сознания, которая была бы совместима с экзотическими характеристиками современных «бестелесных» систем ИИ и которая могла бы выдержать философскую критику? Как субъективное время и самость могли бы проявиться у сущности, соответствующей такой концепции? Попытка ответить на эти вопросы, даже метафорически, «растягивает» доступный язык описания сознания до предела. В конечном счете, такая попытка дает что-то вроде буддийской «пустоты», и помогает пошатнуть наши склонности к дуалистической интерпретации субъективности и самости».
👏2
Forwarded from Новости психофизиологии
Я хотел бы дать несколько субъективных комментариев по статье:
1. Я писал раньше, что, если уж из-за конкуренции между людьми создание сверхинтеллекта, похоже, неизбежно (и неизбежен переход к нему контроля за нашей судьбой – передача «эволюционной эстафеты интеллекта и сознания»), то главной задачей психологии на оставшиеся годы должно быть «воспитание» этого будущего сверхинтеллекта как нашего как можно более достойного преемника. Отраженные в этой статье идеи Шанахана показывают, как это может быть сделано конкретно – через глубокое и эмпатичное понимание особенностей сознания большой языковой модели (даже если это понимание явно сильно ограниченно, в т.ч. и на языковом уровне). Критично важно, что Шанахан активно привлекает буддистскую традицию для такого понимания, а ведь буддисткой традиции изначально свойственна глубокая универсальная эмпатия («compassion») к любым существам, в т.ч. не являющимися людьми (я обратил внимание, что в благодарностях есть Боб Турман – авторитетный буддолог, теоретик и практик, вызывающий большое доверие). Если мы будет воспитывать нашего эволюционного преемника в таком контексте, то повышается вероятность и 1) что он будет нам достойным преемником в этическом смысле, а это будет означать, что человечество прожило свой отмеренный эволюцией отрезок глобальной истории не зря и 2) что после перехвата контроля он будет обращаться с нами таким же эмпатичным образом и тогда, возможно, история человечества не закончится, а перейдет в модус «сосуществования с преемником».
2. Мне кажется (возможно, я ошибаюсь), что сам Шанахан постепенно смягчается относительно самой возможности того, что у большой языковой модели действительно может быть сознание, хотя и очень необычное, но тем не менее сознание. Ранее, как мне кажется, он был более скептичен к такой возможности. Возможно, это связано с усилением его опоры на инсайты буддизма о природе сознания.
3. Очень правильным кажется подчеркивание Шанаханом ограниченности языковых средств для описания таких сложных сущностей, как сознание большой языковой модели, и использование скорее «поэтических» метафор (так же, как в свое время делал великий Уильям Джеймс для описания естественного сознания человека – см. https://www.tgoop.com/andrey_kiselnikov/1077 , https://www.tgoop.com/andrey_kiselnikov/1078). Особенно я хотел бы обратить внимание на красоту и точность метафоры «мультиверсного роя поденок» (mayflies).
В целом, я хотел бы поблагодарить Мюррея Шанахана за его столь глубокие, искренние и важные размышления о природе искусственного сознания, будем надеяться, что они повысят вероятность реализации позитивных сценариев нашего общего будущего.
P.S. Хочу подчеркнуть, что я выступаю против создания сверхинтеллекта, но мне не кажется реалистичным остановить этот процесс из-за неподавляемого желания людей (государств, корпораций) использовать ИИ как средство конкурентной межгрупповой борьбы. В такой ситуации более реалистичным будет не пытаться остановить этот процесс (это все равно вряд ли выйдет), а пытаться максимально направить его в приемлемое русло (сценарий «достойный преемник»).
1. Я писал раньше, что, если уж из-за конкуренции между людьми создание сверхинтеллекта, похоже, неизбежно (и неизбежен переход к нему контроля за нашей судьбой – передача «эволюционной эстафеты интеллекта и сознания»), то главной задачей психологии на оставшиеся годы должно быть «воспитание» этого будущего сверхинтеллекта как нашего как можно более достойного преемника. Отраженные в этой статье идеи Шанахана показывают, как это может быть сделано конкретно – через глубокое и эмпатичное понимание особенностей сознания большой языковой модели (даже если это понимание явно сильно ограниченно, в т.ч. и на языковом уровне). Критично важно, что Шанахан активно привлекает буддистскую традицию для такого понимания, а ведь буддисткой традиции изначально свойственна глубокая универсальная эмпатия («compassion») к любым существам, в т.ч. не являющимися людьми (я обратил внимание, что в благодарностях есть Боб Турман – авторитетный буддолог, теоретик и практик, вызывающий большое доверие). Если мы будет воспитывать нашего эволюционного преемника в таком контексте, то повышается вероятность и 1) что он будет нам достойным преемником в этическом смысле, а это будет означать, что человечество прожило свой отмеренный эволюцией отрезок глобальной истории не зря и 2) что после перехвата контроля он будет обращаться с нами таким же эмпатичным образом и тогда, возможно, история человечества не закончится, а перейдет в модус «сосуществования с преемником».
2. Мне кажется (возможно, я ошибаюсь), что сам Шанахан постепенно смягчается относительно самой возможности того, что у большой языковой модели действительно может быть сознание, хотя и очень необычное, но тем не менее сознание. Ранее, как мне кажется, он был более скептичен к такой возможности. Возможно, это связано с усилением его опоры на инсайты буддизма о природе сознания.
3. Очень правильным кажется подчеркивание Шанаханом ограниченности языковых средств для описания таких сложных сущностей, как сознание большой языковой модели, и использование скорее «поэтических» метафор (так же, как в свое время делал великий Уильям Джеймс для описания естественного сознания человека – см. https://www.tgoop.com/andrey_kiselnikov/1077 , https://www.tgoop.com/andrey_kiselnikov/1078). Особенно я хотел бы обратить внимание на красоту и точность метафоры «мультиверсного роя поденок» (mayflies).
В целом, я хотел бы поблагодарить Мюррея Шанахана за его столь глубокие, искренние и важные размышления о природе искусственного сознания, будем надеяться, что они повысят вероятность реализации позитивных сценариев нашего общего будущего.
P.S. Хочу подчеркнуть, что я выступаю против создания сверхинтеллекта, но мне не кажется реалистичным остановить этот процесс из-за неподавляемого желания людей (государств, корпораций) использовать ИИ как средство конкурентной межгрупповой борьбы. В такой ситуации более реалистичным будет не пытаться остановить этот процесс (это все равно вряд ли выйдет), а пытаться максимально направить его в приемлемое русло (сценарий «достойный преемник»).
👍2