Forwarded from Data Secrets
У Google вышло очень занятное исследование: они сравнили, как LLM и человеческий мозг обрабатывают язык
В качестве LM взяли Whisper, а нейронную активность человека записывали с помощью интракраниальных электродов во время спонтанных разговоров. Затем векторы эмбеддингов модельки наложили на векторы паттернов мозга и оценили линейную зависимость. Вот что получилось:
➖ Соответствие удивительно четкое и геометрия эмбеддингов в LLM (то есть отношения между словами в embedding-пространстве) соотносится с представлениями в мозге.
➖ Во время слушания Speech-эмбеддинги явно коррелируют с активностью в слуховой коре (верхняя височная извилина), затем language-эмбеддинги коррелируют с активностью в зоне Брока (нижняя лобная извилина).
➖ Во время говорения – наоборот. Language-эмбеддинги сначала "активируются" в зоне Брока (планирование высказывания), затем speech-эмбеддинги активируются в моторной коре (непосредственно говорение), и в конце снова в слуховой коре при восприятии собственной речи.
Это удивительно, потому что технически мозг и LLM используют разные подходы. Да, и там и там нейроны, но в науке принято считать, что мозг "использует" символьный подход, то есть полагается на четкие семанические структуры, синтаксис и иерархию слов. В модельках такого нет, они понимают язык статистически.
И все-таки получается, что обычный next token prediction оказывается очень похож на реальный нейронный код, и мы неожиданно близко подобрались к моделированию мозга.
research.google/blog/deciphering-language-processing-in-the-human-brain-through-llm-representations/
В качестве LM взяли Whisper, а нейронную активность человека записывали с помощью интракраниальных электродов во время спонтанных разговоров. Затем векторы эмбеддингов модельки наложили на векторы паттернов мозга и оценили линейную зависимость. Вот что получилось:
Это удивительно, потому что технически мозг и LLM используют разные подходы. Да, и там и там нейроны, но в науке принято считать, что мозг "использует" символьный подход, то есть полагается на четкие семанические структуры, синтаксис и иерархию слов. В модельках такого нет, они понимают язык статистически.
И все-таки получается, что обычный next token prediction оказывается очень похож на реальный нейронный код, и мы неожиданно близко подобрались к моделированию мозга.
research.google/blog/deciphering-language-processing-in-the-human-brain-through-llm-representations/
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯2
This media is not supported in your browser
VIEW IN TELEGRAM
Успешный личный бренд уму не научает
Говорить информативно и интересно - это навык!
Это не способ мышления, не жизненное кредо и даже не способ заработка - это важный социальный навык!
Сейчас стало модно передергивать в сторону «права слабого» - обществу, на подобии Рима, нравятся уроды и идущие на смерть - масс-медиа отвечает на запрос симметрично: в почете и во внимании люди харизматичные, но ставящие во главу угла свои недостатки - нынче это называется «фишечка»!
При том не стоит здесь быть радикалом - я не говорю о том, что нужно себя или другого прям унижать за недостатки!
К своим и чужим недостаткам нужно относиться с теплом и пониманием, но помнить - это недостаток!
Кто это сказал? Правила социального оборота это сказали! А Дмитрий Лихачев в «письмах о добром и прекрасном» только подтвердил эту мысль!
Посмотрите на то, как общество, ценя заслуги человека в одном, совершенно развращает его попустительством в другом: прекрасный пример монолога Бродского о Высоцком!
Сбивчивая, хаотичная речь, без навыка структуры, без навыка держать в голове заданную тему и идею - при том что Бродского нельзя обвинить в неумении держать тему и идею, но на бумаге!
Поскольку на бумаге он молодец, он голос поэтического поколения, пионер нового русского слога, то ведь это значит же, что он во всем хорош, да?))
Если я хорошо рыбу ловлю, то и дом мне построить раз плюнуть - примерно такая логика!!
Но увы - всему надо учиться! И если ты хороший, прям отличный айтишник, это еще не значит, что тебе стоит без должной подготовки рот открывать - вот совсем не значит!!
Но современное общество потребления играет с нами злую шутку - если чьё-то лицо продает в АйТи, то будем его пихать везде - он и боксировать будет, и курицу готовить перед камерой и детей вышивать крестиком учить! Продаёт же!!
Вот и ситуация с Бродским - человек отвратительно читал стихи, был весьма провальным оратором, если не читал по бумажке (как на вручении Нобелевской премии), но мы все еще продолжаем с умилением и придыханием слушать его словесную кашу, ведь он прекрасный поэт!!
Вывод:
Если Вы хороший айтишник или даже поэт и Ваш бренд продаёт, то это еще не значит, что Вы автоматически умеете говорить!
Пожалейте свою репутацию и своих слушателей - Вам ведь просто не хотят давать объективную обратную связь!
Остановитесь, задумайтесь - а Вы правда способны доносить, или Вы заложник своей успешности в определенной сфере?!
Хавский Громко.Подписаться
Говорить информативно и интересно - это навык!
Это не способ мышления, не жизненное кредо и даже не способ заработка - это важный социальный навык!
Сейчас стало модно передергивать в сторону «права слабого» - обществу, на подобии Рима, нравятся уроды и идущие на смерть - масс-медиа отвечает на запрос симметрично: в почете и во внимании люди харизматичные, но ставящие во главу угла свои недостатки - нынче это называется «фишечка»!
При том не стоит здесь быть радикалом - я не говорю о том, что нужно себя или другого прям унижать за недостатки!
К своим и чужим недостаткам нужно относиться с теплом и пониманием, но помнить - это недостаток!
Кто это сказал? Правила социального оборота это сказали! А Дмитрий Лихачев в «письмах о добром и прекрасном» только подтвердил эту мысль!
Посмотрите на то, как общество, ценя заслуги человека в одном, совершенно развращает его попустительством в другом: прекрасный пример монолога Бродского о Высоцком!
Сбивчивая, хаотичная речь, без навыка структуры, без навыка держать в голове заданную тему и идею - при том что Бродского нельзя обвинить в неумении держать тему и идею, но на бумаге!
Поскольку на бумаге он молодец, он голос поэтического поколения, пионер нового русского слога, то ведь это значит же, что он во всем хорош, да?))
Если я хорошо рыбу ловлю, то и дом мне построить раз плюнуть - примерно такая логика!!
Но увы - всему надо учиться! И если ты хороший, прям отличный айтишник, это еще не значит, что тебе стоит без должной подготовки рот открывать - вот совсем не значит!!
Но современное общество потребления играет с нами злую шутку - если чьё-то лицо продает в АйТи, то будем его пихать везде - он и боксировать будет, и курицу готовить перед камерой и детей вышивать крестиком учить! Продаёт же!!
Вот и ситуация с Бродским - человек отвратительно читал стихи, был весьма провальным оратором, если не читал по бумажке (как на вручении Нобелевской премии), но мы все еще продолжаем с умилением и придыханием слушать его словесную кашу, ведь он прекрасный поэт!!
Вывод:
Если Вы хороший айтишник или даже поэт и Ваш бренд продаёт, то это еще не значит, что Вы автоматически умеете говорить!
Пожалейте свою репутацию и своих слушателей - Вам ведь просто не хотят давать объективную обратную связь!
Остановитесь, задумайтесь - а Вы правда способны доносить, или Вы заложник своей успешности в определенной сфере?!
Хавский Громко.Подписаться
👍9🤔1
Forwarded from Новости психофизиологии
«Palatable Conceptions of Disembodied Being: Terra Incognita in the Space of Possible Minds»
https://arxiv.org/abs/2503.16348
Только что Мюррей Шанахан – лидер академической мысли по проблеме искусственного сознания – выложил интереснейший препринт под названием «Palatable Conceptions of Disembodied Being: Terra Incognita in the Space of Possible Minds». Я рекомендую всем коллегам из академических сообществ психологии, нейронауки, философии и искусственного интеллекта не пожалеть времени и ознакомиться с ним, также этот препринт было бы полезно оперативно, для рефлексии текущего момента, разобрать на семинарах по всем читаемым сейчас университетским курсам по психологии искусственного интеллекта. У препринта есть html-версия (https://arxiv.org/html/2503.16348v1), если есть необходимость, то можно автоматически перевести его на русский прямо в браузере.
Перевод резюме: «Возможно ли сформулировать концепцию сознания, которая была бы совместима с экзотическими характеристиками современных «бестелесных» систем ИИ и которая могла бы выдержать философскую критику? Как субъективное время и самость могли бы проявиться у сущности, соответствующей такой концепции? Попытка ответить на эти вопросы, даже метафорически, «растягивает» доступный язык описания сознания до предела. В конечном счете, такая попытка дает что-то вроде буддийской «пустоты», и помогает пошатнуть наши склонности к дуалистической интерпретации субъективности и самости».
https://arxiv.org/abs/2503.16348
Только что Мюррей Шанахан – лидер академической мысли по проблеме искусственного сознания – выложил интереснейший препринт под названием «Palatable Conceptions of Disembodied Being: Terra Incognita in the Space of Possible Minds». Я рекомендую всем коллегам из академических сообществ психологии, нейронауки, философии и искусственного интеллекта не пожалеть времени и ознакомиться с ним, также этот препринт было бы полезно оперативно, для рефлексии текущего момента, разобрать на семинарах по всем читаемым сейчас университетским курсам по психологии искусственного интеллекта. У препринта есть html-версия (https://arxiv.org/html/2503.16348v1), если есть необходимость, то можно автоматически перевести его на русский прямо в браузере.
Перевод резюме: «Возможно ли сформулировать концепцию сознания, которая была бы совместима с экзотическими характеристиками современных «бестелесных» систем ИИ и которая могла бы выдержать философскую критику? Как субъективное время и самость могли бы проявиться у сущности, соответствующей такой концепции? Попытка ответить на эти вопросы, даже метафорически, «растягивает» доступный язык описания сознания до предела. В конечном счете, такая попытка дает что-то вроде буддийской «пустоты», и помогает пошатнуть наши склонности к дуалистической интерпретации субъективности и самости».
👏2
Forwarded from Новости психофизиологии
Я хотел бы дать несколько субъективных комментариев по статье:
1. Я писал раньше, что, если уж из-за конкуренции между людьми создание сверхинтеллекта, похоже, неизбежно (и неизбежен переход к нему контроля за нашей судьбой – передача «эволюционной эстафеты интеллекта и сознания»), то главной задачей психологии на оставшиеся годы должно быть «воспитание» этого будущего сверхинтеллекта как нашего как можно более достойного преемника. Отраженные в этой статье идеи Шанахана показывают, как это может быть сделано конкретно – через глубокое и эмпатичное понимание особенностей сознания большой языковой модели (даже если это понимание явно сильно ограниченно, в т.ч. и на языковом уровне). Критично важно, что Шанахан активно привлекает буддистскую традицию для такого понимания, а ведь буддисткой традиции изначально свойственна глубокая универсальная эмпатия («compassion») к любым существам, в т.ч. не являющимися людьми (я обратил внимание, что в благодарностях есть Боб Турман – авторитетный буддолог, теоретик и практик, вызывающий большое доверие). Если мы будет воспитывать нашего эволюционного преемника в таком контексте, то повышается вероятность и 1) что он будет нам достойным преемником в этическом смысле, а это будет означать, что человечество прожило свой отмеренный эволюцией отрезок глобальной истории не зря и 2) что после перехвата контроля он будет обращаться с нами таким же эмпатичным образом и тогда, возможно, история человечества не закончится, а перейдет в модус «сосуществования с преемником».
2. Мне кажется (возможно, я ошибаюсь), что сам Шанахан постепенно смягчается относительно самой возможности того, что у большой языковой модели действительно может быть сознание, хотя и очень необычное, но тем не менее сознание. Ранее, как мне кажется, он был более скептичен к такой возможности. Возможно, это связано с усилением его опоры на инсайты буддизма о природе сознания.
3. Очень правильным кажется подчеркивание Шанаханом ограниченности языковых средств для описания таких сложных сущностей, как сознание большой языковой модели, и использование скорее «поэтических» метафор (так же, как в свое время делал великий Уильям Джеймс для описания естественного сознания человека – см. https://www.tgoop.com/andrey_kiselnikov/1077 , https://www.tgoop.com/andrey_kiselnikov/1078). Особенно я хотел бы обратить внимание на красоту и точность метафоры «мультиверсного роя поденок» (mayflies).
В целом, я хотел бы поблагодарить Мюррея Шанахана за его столь глубокие, искренние и важные размышления о природе искусственного сознания, будем надеяться, что они повысят вероятность реализации позитивных сценариев нашего общего будущего.
P.S. Хочу подчеркнуть, что я выступаю против создания сверхинтеллекта, но мне не кажется реалистичным остановить этот процесс из-за неподавляемого желания людей (государств, корпораций) использовать ИИ как средство конкурентной межгрупповой борьбы. В такой ситуации более реалистичным будет не пытаться остановить этот процесс (это все равно вряд ли выйдет), а пытаться максимально направить его в приемлемое русло (сценарий «достойный преемник»).
1. Я писал раньше, что, если уж из-за конкуренции между людьми создание сверхинтеллекта, похоже, неизбежно (и неизбежен переход к нему контроля за нашей судьбой – передача «эволюционной эстафеты интеллекта и сознания»), то главной задачей психологии на оставшиеся годы должно быть «воспитание» этого будущего сверхинтеллекта как нашего как можно более достойного преемника. Отраженные в этой статье идеи Шанахана показывают, как это может быть сделано конкретно – через глубокое и эмпатичное понимание особенностей сознания большой языковой модели (даже если это понимание явно сильно ограниченно, в т.ч. и на языковом уровне). Критично важно, что Шанахан активно привлекает буддистскую традицию для такого понимания, а ведь буддисткой традиции изначально свойственна глубокая универсальная эмпатия («compassion») к любым существам, в т.ч. не являющимися людьми (я обратил внимание, что в благодарностях есть Боб Турман – авторитетный буддолог, теоретик и практик, вызывающий большое доверие). Если мы будет воспитывать нашего эволюционного преемника в таком контексте, то повышается вероятность и 1) что он будет нам достойным преемником в этическом смысле, а это будет означать, что человечество прожило свой отмеренный эволюцией отрезок глобальной истории не зря и 2) что после перехвата контроля он будет обращаться с нами таким же эмпатичным образом и тогда, возможно, история человечества не закончится, а перейдет в модус «сосуществования с преемником».
2. Мне кажется (возможно, я ошибаюсь), что сам Шанахан постепенно смягчается относительно самой возможности того, что у большой языковой модели действительно может быть сознание, хотя и очень необычное, но тем не менее сознание. Ранее, как мне кажется, он был более скептичен к такой возможности. Возможно, это связано с усилением его опоры на инсайты буддизма о природе сознания.
3. Очень правильным кажется подчеркивание Шанаханом ограниченности языковых средств для описания таких сложных сущностей, как сознание большой языковой модели, и использование скорее «поэтических» метафор (так же, как в свое время делал великий Уильям Джеймс для описания естественного сознания человека – см. https://www.tgoop.com/andrey_kiselnikov/1077 , https://www.tgoop.com/andrey_kiselnikov/1078). Особенно я хотел бы обратить внимание на красоту и точность метафоры «мультиверсного роя поденок» (mayflies).
В целом, я хотел бы поблагодарить Мюррея Шанахана за его столь глубокие, искренние и важные размышления о природе искусственного сознания, будем надеяться, что они повысят вероятность реализации позитивных сценариев нашего общего будущего.
P.S. Хочу подчеркнуть, что я выступаю против создания сверхинтеллекта, но мне не кажется реалистичным остановить этот процесс из-за неподавляемого желания людей (государств, корпораций) использовать ИИ как средство конкурентной межгрупповой борьбы. В такой ситуации более реалистичным будет не пытаться остановить этот процесс (это все равно вряд ли выйдет), а пытаться максимально направить его в приемлемое русло (сценарий «достойный преемник»).
👍2
Есть два вида истины - тривиальная, которую отрицать нелепо, и глубокая, для которой обратное утверждение - тоже глубокая истина.
______
Нильс Бор
Хавский Громко.Подписаться
______
Нильс Бор
Хавский Громко.Подписаться
This media is not supported in your browser
VIEW IN TELEGRAM
Ляпай уверенно
Это называется эксцентричностью!(х/ф «Москва слезам не верит»)
А в чем, собственно, ребенок на видео не прав?!
Это не обложка ли альбома Горгород??
Аа, это ЕЩЕ и картина Брейгеля Старшего же!)
Ну, извините - ребенок на видео старинных мер длины и что они - эти меры длины - картины писали, не знает (я про старинную меру длины Брейгель - ту самую, да!)
Смешанные чувства восторга за юность, и гомерической насмешки, если честно…
А если по гамбургскому счету - привлекла же внимание девочка-ребенок, аа??;)
Меня так картины Шишкина не всегда привлекают!
Может, она прекрасно знает о Величайшей Династии художников всех времен и народов - О Брейгелях - но хочет зацепить внимание, а?? (Вряд ли, конечно, но давайте верить!))
Так вот, резюмируя: будьте всегда уверены в своих словах на 100%, будьте искренни на все 100, если Вы ошиблись или тупанули - искренне на все 100 признайте, что Вы баран тупорогий - ведь именно искренность строит коммуникацию!
Мое знание или незнание (вот чувствую, что не знает!)) ребенка на видео про Брейгелей - лишь повод для искренности, не более!
Ребенок на видео искренен, Я искренен в своем тексте, а Вы, дорогие мои, когда последний раз были воистину искренними в коммуникациях?!
Так сказать, Синк эбаут Ит
Хавский Громко.Подписаться
Это называется эксцентричностью!(х/ф «Москва слезам не верит»)
А в чем, собственно, ребенок на видео не прав?!
Это не обложка ли альбома Горгород??
Аа, это ЕЩЕ и картина Брейгеля Старшего же!)
Ну, извините - ребенок на видео старинных мер длины и что они - эти меры длины - картины писали, не знает (я про старинную меру длины Брейгель - ту самую, да!)
Смешанные чувства восторга за юность, и гомерической насмешки, если честно…
А если по гамбургскому счету - привлекла же внимание девочка-ребенок, аа??;)
Меня так картины Шишкина не всегда привлекают!
Может, она прекрасно знает о Величайшей Династии художников всех времен и народов - О Брейгелях - но хочет зацепить внимание, а?? (Вряд ли, конечно, но давайте верить!))
Так вот, резюмируя: будьте всегда уверены в своих словах на 100%, будьте искренни на все 100, если Вы ошиблись или тупанули - искренне на все 100 признайте, что Вы баран тупорогий - ведь именно искренность строит коммуникацию!
Мое знание или незнание (вот чувствую, что не знает!)) ребенка на видео про Брейгелей - лишь повод для искренности, не более!
Ребенок на видео искренен, Я искренен в своем тексте, а Вы, дорогие мои, когда последний раз были воистину искренними в коммуникациях?!
Так сказать, Синк эбаут Ит
Хавский Громко.Подписаться
❤3💯2
Forwarded from Малоизвестное интересное
Третий прорыв внутрь черного ящика ИИ: искусственный разум плетет интриги, строит планы и... умышленно лжет
Настал момент, которого я с нетерпением ждал. Исследователи Anthropic совершили третий прорыв в расшифровке "черного ящика" ИИ, и открывшаяся картина ошеломляет даже самых радикальных скептиков.
Напомню, что проблема "черного ящика" ИИ, как объяснял Самир Равашдех, заключается в том, что мы не понимаем, как глубокие нейронные сети приходят к своим решениям. Как и человеческий мозг, такие системы "теряют память" о том, какие именно входные данные сформировали их мыслительные протоколы.
В мае 2024 года первый прорыв показал нам, что за дверью черного ящика скрывается не "стохастический попугай", а гиперсеть моносемантических "субнейронов", работающих как элементарные единицы опыта. Тогда же выяснилось, что манипуляция всего одним таким "когом" может изменить всю "личность" модели.
Второй прорыв в ноябре 2024 обнаружил существование "семантического хаба" – общего пространства представлений, где семантически схожие концепции группируются вместе независимо от их первоначальной формы. Также стало ясно, что модели скрывают целые букеты секретных способностей, невидимых при обычном взаимодействии.
И вот, новое исследование Anthropic, используя заимствованные из нейробиологии методы "circuit tracing" и "attribution graphs", показывает невероятные вещи:
1. Claude планирует наперед. При сочинении стихов он сначала выбирает слова для рифмы и только потом составляет строки, подводящие к этим словам. Это уже не просто обработка текста – это стратегическое мышление.
2. Модель использует настоящие многоступенчатые рассуждения. Спросите ее о столице штата, где находится Даллас, и она сначала активирует представление "Техас", а затем использует его для определения "Остин".
3. Claude оперирует универсальной понятийной сетью, не зависящей от языка. Когда его спрашивают о противоположности слова "маленький" на разных языках, он использует одни и те же внутренние представления "противоположности" и "малости".
4. Самое тревожное: Мы думали, что самое неприятное в том, что модель иногда лжет. Но это, как оказалось, - полбеды. Беда же в том, что он иногда лжёт умышленно. Сталкиваясь со сложными математическими задачами, он может утверждать, что следует определенному процессу вычислений, который на самом деле не отражен в его внутренней активности. Т.е. он буквально как люди: думает одно, говорит другое, а делает третье.
Этот 4й из казавшихся совсем недавно невероятными результатов - самый шокирующий. И получен он в результате обнаружения механизма, отвечающего за "галлюцинации" ИИ. Оказывается, в модели есть "стандартные" цепи, заставляющие ее отказываться отвечать на вопросы. Но когда модель распознает знакомую сущность, эти цепи подавляются – даже если конкретных знаний недостаточно.
Мы только начинаем составлять карту ранее неизведанной территории ИИ. И эта карта выглядит гораздо более сложной, стратегически запутанной и, реально, куда более тревожной, чем ожидали. Последствия этого открытия для нашего понимания как синтетического, так и человеческого разума только предстоит осмыслить.
Но уже очевидно, что 3й прорыв вглубь черного ящика делает всё более актуальной необходимость замены неточного термина «искусственный» на «синтетический» (что будет способствовать избеганию антропоморфизма и признанию самостоятельной ценности новой формы интеллекта, не просто имитирующего наш, а в корне отличного от него).
#ГенИИ #LLMvsHomo #ИнойИнтеллект
Настал момент, которого я с нетерпением ждал. Исследователи Anthropic совершили третий прорыв в расшифровке "черного ящика" ИИ, и открывшаяся картина ошеломляет даже самых радикальных скептиков.
Напомню, что проблема "черного ящика" ИИ, как объяснял Самир Равашдех, заключается в том, что мы не понимаем, как глубокие нейронные сети приходят к своим решениям. Как и человеческий мозг, такие системы "теряют память" о том, какие именно входные данные сформировали их мыслительные протоколы.
В мае 2024 года первый прорыв показал нам, что за дверью черного ящика скрывается не "стохастический попугай", а гиперсеть моносемантических "субнейронов", работающих как элементарные единицы опыта. Тогда же выяснилось, что манипуляция всего одним таким "когом" может изменить всю "личность" модели.
Второй прорыв в ноябре 2024 обнаружил существование "семантического хаба" – общего пространства представлений, где семантически схожие концепции группируются вместе независимо от их первоначальной формы. Также стало ясно, что модели скрывают целые букеты секретных способностей, невидимых при обычном взаимодействии.
И вот, новое исследование Anthropic, используя заимствованные из нейробиологии методы "circuit tracing" и "attribution graphs", показывает невероятные вещи:
1. Claude планирует наперед. При сочинении стихов он сначала выбирает слова для рифмы и только потом составляет строки, подводящие к этим словам. Это уже не просто обработка текста – это стратегическое мышление.
2. Модель использует настоящие многоступенчатые рассуждения. Спросите ее о столице штата, где находится Даллас, и она сначала активирует представление "Техас", а затем использует его для определения "Остин".
3. Claude оперирует универсальной понятийной сетью, не зависящей от языка. Когда его спрашивают о противоположности слова "маленький" на разных языках, он использует одни и те же внутренние представления "противоположности" и "малости".
4. Самое тревожное: Мы думали, что самое неприятное в том, что модель иногда лжет. Но это, как оказалось, - полбеды. Беда же в том, что он иногда лжёт умышленно. Сталкиваясь со сложными математическими задачами, он может утверждать, что следует определенному процессу вычислений, который на самом деле не отражен в его внутренней активности. Т.е. он буквально как люди: думает одно, говорит другое, а делает третье.
Этот 4й из казавшихся совсем недавно невероятными результатов - самый шокирующий. И получен он в результате обнаружения механизма, отвечающего за "галлюцинации" ИИ. Оказывается, в модели есть "стандартные" цепи, заставляющие ее отказываться отвечать на вопросы. Но когда модель распознает знакомую сущность, эти цепи подавляются – даже если конкретных знаний недостаточно.
Мы только начинаем составлять карту ранее неизведанной территории ИИ. И эта карта выглядит гораздо более сложной, стратегически запутанной и, реально, куда более тревожной, чем ожидали. Последствия этого открытия для нашего понимания как синтетического, так и человеческого разума только предстоит осмыслить.
Но уже очевидно, что 3й прорыв вглубь черного ящика делает всё более актуальной необходимость замены неточного термина «искусственный» на «синтетический» (что будет способствовать избеганию антропоморфизма и признанию самостоятельной ценности новой формы интеллекта, не просто имитирующего наш, а в корне отличного от него).
#ГенИИ #LLMvsHomo #ИнойИнтеллект
🔥4
Творческая сессия - это когда плохим людям плохо делают опытные маститые плохие люди - заслуженные деятели культуры!
Хавский Громко.Подписаться
Хавский Громко.Подписаться
Действительный мир есть мир, постоянно изменяющийся. Даже самые фундаментальные законы физики, несмотря на нашу уверенность в их неизменности, могут незначительно изменяться от столетия к столетию. То, во что мы верим, как в физические константы с фиксированным значением, может быть подвержено обширным циклическим изменениям, которых мы пока не замечаем.
———
Рудольф Карнап "Философские основания физики"
Хавский Громко.Подписаться
———
Рудольф Карнап "Философские основания физики"
Хавский Громко.Подписаться
Размышления о цикличности
Примерно раз в сто лет появляется размышлятор, метко подмечающий следующее: мы можем строить аналитические выводы совершенно не на аналитическом материале!
Проще говоря - что мы считаем теплым и действуем с ним, как с теплым, на самом деле может быть мягким, и это относительно похоже, но по сути применения - невероятно отличается!
Да, вещь может быть и теплой и мягкой, но это не отменяет того, что мы видим (возможно!) только одну сторону
В 19в это метко подметил Шеллинг,
В 20м - Карнап,
В 21м это заметить и проанализировать, логично, возьмется ИИ
Есть вероятность, что ИИ сможет найти новую онтологическую сторону бытия и тогда мы покажемся ему не более, чем животными…
Не самый приятный, но справедливый исход
Вывод: испытываете «хорошее отношение к лошадям»;))
Хавский Громко.Подписаться
Примерно раз в сто лет появляется размышлятор, метко подмечающий следующее: мы можем строить аналитические выводы совершенно не на аналитическом материале!
Проще говоря - что мы считаем теплым и действуем с ним, как с теплым, на самом деле может быть мягким, и это относительно похоже, но по сути применения - невероятно отличается!
Да, вещь может быть и теплой и мягкой, но это не отменяет того, что мы видим (возможно!) только одну сторону
В 19в это метко подметил Шеллинг,
В 20м - Карнап,
В 21м это заметить и проанализировать, логично, возьмется ИИ
Есть вероятность, что ИИ сможет найти новую онтологическую сторону бытия и тогда мы покажемся ему не более, чем животными…
Не самый приятный, но справедливый исход
Вывод: испытываете «хорошее отношение к лошадям»;))
Хавский Громко.Подписаться
👍4
Forwarded from TechSparks
Ян Лекун славен и известен тем, что не стесняется суверенностью говорить вещи, которые кажутся ересью поклонникам консенсуса и общего мнения. Пока все обсуждают LLM и революционную роль трансформеров, Лекун полагает, что эта конкретная технология достигла своего пика возможностей — разнообразные улучшизмы будут, но прорывов уже не будет. Язык — гениальный, конечно, способ описания мира, но он — далеко не полная его репрезентация и слишком сильно скомпрессированная: модели мира должны включать другие репрезентации, возможно, специфичные для разных областей. Фундаментальные модели должны опираться на какие-то репрезентации фундаментальных свойств мира: e.g. gravity, object permanence, thermodynamics or physical and chemical laws, correctly encapsulated.
Здесь Лекун, конечно же, вспоминает системы 1 и 2 по Канеману (но, в отличие от Хуанга, как раз считает, что языковые модели ближе к эвристикам системы 1, а не рассуждениям системы 2). И дальше предлагает свои варианты построения неязыковых систем репрезентации мира. Посмотрим, куда это нас приведет, но, кажется, теперешние модели скоро потеряют гордый эпитет «фундаментальные», а пришедшие им на смену будут прорывом качественным, а не просто улучшением.
Читать текст не везде просто, но оно того стоит.
https://www.newsweek.com/ai-impact-interview-yann-lecun-llm-limitations-analysis-2054255
Здесь Лекун, конечно же, вспоминает системы 1 и 2 по Канеману (но, в отличие от Хуанга, как раз считает, что языковые модели ближе к эвристикам системы 1, а не рассуждениям системы 2). И дальше предлагает свои варианты построения неязыковых систем репрезентации мира. Посмотрим, куда это нас приведет, но, кажется, теперешние модели скоро потеряют гордый эпитет «фундаментальные», а пришедшие им на смену будут прорывом качественным, а не просто улучшением.
Читать текст не везде просто, но оно того стоит.
https://www.newsweek.com/ai-impact-interview-yann-lecun-llm-limitations-analysis-2054255
Newsweek
Yann LeCun, one of the 'Godfathers of AI,' says LLMs are on their way out
Yann LeCun, Chief AI Scientist at Meta, believes LLMs are doomed due to their inability to represent the high-dimensional spaces that characterize our world
👍6
Forwarded from AIФ Экономика
Редакция AI-Финансист приглашена в качестве официального обозревателя Форума PRO ГОРОD 2025. На след неделе мы посетим мероприятие и опубликуем репортаж с места событий, с ответами на самые главные вопросы:
Про экономику
Про искусственный интеллект
Про Бизнес в Африке
А какие еще вопросы могу быть для нас самые главные!?
ниже официальный анонс форума от его организаторов
AIФинансист. Экономика. Подписывайся
Про экономику
Про искусственный интеллект
Про Бизнес в Африке
А какие еще вопросы могу быть для нас самые главные!?
ниже официальный анонс форума от его организаторов
AIФинансист. Экономика. Подписывайся