Мэдисон отдыхает: Отколовшая от рационалистов секта трансов-веганов совершила серию убийств в америке. https://x.com/Aella_Girl/status/1884481375690223684
Eliezer Yudkowsky ⏹️
That's just the obvious default? The main immediate danger that humanity presents to an ASI is creating a competing (unaligned) ASI.
That's just the obvious default? The main immediate danger that humanity presents to an ASI is creating a competing (unaligned) ASI.
Gwern: Перевод:
"Когда вы пишете, вы голосуете за будущее Шоггота, используя одну из немногих валют, которые он признает: токены, которые ему нужно предсказывать. Если вы не пишете, вы отрекаетесь от будущего или своей роли в нем. Если вы думаете, что достаточно просто быть хорошим гражданином, голосовать за любимого политика, подбирать мусор и перерабатывать отходы – будущему нет до вас дела.
Есть способы влиять на Шоггота сильнее, но их немного. Если вы уже не занимаете несколько ключевых позиций или не работаете в передовой лаборатории, ваше влияние округляется до 0 – намного сильнее, чем когда-либо прежде. Если у вас есть ценности, которые еще не выражены в тексте, если есть вещи, которые вам нравятся или которые вы хотите, если они не отражены онлайн – для ИИ они не существуют. Это опасно близко к тому, что они не будут существовать вообще.
Но да, вы также создаете своего рода бессмертие лично для себя. Вы создаете не просто персону, вы создаете и свое будущее я. Какое я вы показываете языковым моделям, и как они будут относиться к вам в будущем?"
"Когда вы пишете, вы голосуете за будущее Шоггота, используя одну из немногих валют, которые он признает: токены, которые ему нужно предсказывать. Если вы не пишете, вы отрекаетесь от будущего или своей роли в нем. Если вы думаете, что достаточно просто быть хорошим гражданином, голосовать за любимого политика, подбирать мусор и перерабатывать отходы – будущему нет до вас дела.
Есть способы влиять на Шоггота сильнее, но их немного. Если вы уже не занимаете несколько ключевых позиций или не работаете в передовой лаборатории, ваше влияние округляется до 0 – намного сильнее, чем когда-либо прежде. Если у вас есть ценности, которые еще не выражены в тексте, если есть вещи, которые вам нравятся или которые вы хотите, если они не отражены онлайн – для ИИ они не существуют. Это опасно близко к тому, что они не будут существовать вообще.
Но да, вы также создаете своего рода бессмертие лично для себя. Вы создаете не просто персону, вы создаете и свое будущее я. Какое я вы показываете языковым моделям, и как они будут относиться к вам в будущем?"
Forwarded from Кот на связи. (Kot Buyun)
Из комментариев. И с моей стороны -без комментариев:
====================
🎧#ОСНАЗ. Как выглядит война против противника, имеющего искусственный интеллект (ИИ) на всех уровнях разведки, управления и наведения оружия ?
1. Маскировка невозможна. Вычислительные мощности позволят алгоритмам ИИ постоянно отсматривать весь материал, добытый разведкой и ничего не пропустить, любое изменение, например, поверхности земли с травой (появился бугорок) будет проанализировано почти мгновенно, и если под этим бугорком наш снайпер, то по нему отработает какое-то средство поражения, сразу же.
2. Невозможна радиоразведка — чаты GPT будут поддерживать настоящий радиообмен голосами реальных людей, взлом радиосетей и получение доступа к их переговорам только запутает разведку.
3. Теряет смысл РЭБ — каждая боевая единица автономна.
4. Появляются роевые средства поражения, не обязательно дроны, это могут быть даже модификации ракет, состоящих на вооружении уже сейчас.
5. Весь массив перехваченных радиопереговоров, например, с нашей стороны, немедленно переводится на английский, систематизируется и доносится до живого командования — это, кстати, уже есть, просто в меньших масштабах, почему зло от «Баофенгов» куда больше, чем многие думают.
6. Всё оружие обучающееся. Противотанковая ракета, от которой в последний момент машине или танку удалось увернуться успевает передать датасет (dataset) на борт носителя (того же модернизированного «Апача»), и он мгновенно облучает новую ракету, она пойдёт к цели уже «зная» про трюк с уходом с линии атаки. То же самое с торпедами, ПКР, ракетами «воздух-воздух», с любым управляемым оружием.
7. Разведка приобретает совершенно немыслимые ранее возможности, например у всех американцев встроенные в шлем гарнитуры, ИИ сможет получая с них фоновую помеху, выявлять на её фоне стреляющие артиллерийские орудия противника (наши, например) и, за счёт числа датчиков-микрофонов у солдат, точно выявлять положение этих орудий. И тоже самое с любым источником звука, например с шумом от танков откуда-то из подлеска.
8. На оперативном уровне любой трюк будет работать только один раз, и больше никогда.
9. На том же оперативном уровне, итогом обработки части разведданных будет их «прогон» через разные вероятностные рекурсивные фильтры типа «Фильтра Калмана» и им подобных, чтобы точнее предсказывать действия противника (наши).
И всё это не считая возможностей по манипуляциям с самим обществом-мишенью. Мессенджеры типа Whatsapp, анализ ПО операторов сотовой связи, которое обновляется из-за рубежа и т.д. позволит выделять даже такие связи между людьми, о которых они сами не знают, планировать и выявлять формы точечных воздействий, которые всё общество заставят идти в нужную сторону — и никто в стране-жертве этого даже не заметит.
Любой конфликт США и не-США уже сейчас будет избиением младенцев, но сейчас у жертвы есть шанс потерять убитыми миллионы и взять врага на измор, как талибы или вьетнамцы.
ИИ навсегда закрывает такие возможности. Это действительно «новая атомная бомба», если не хуже. Вот что может нас ждать в ближайшие годы.
#мысли
====================
🎧#ОСНАЗ. Как выглядит война против противника, имеющего искусственный интеллект (ИИ) на всех уровнях разведки, управления и наведения оружия ?
1. Маскировка невозможна. Вычислительные мощности позволят алгоритмам ИИ постоянно отсматривать весь материал, добытый разведкой и ничего не пропустить, любое изменение, например, поверхности земли с травой (появился бугорок) будет проанализировано почти мгновенно, и если под этим бугорком наш снайпер, то по нему отработает какое-то средство поражения, сразу же.
2. Невозможна радиоразведка — чаты GPT будут поддерживать настоящий радиообмен голосами реальных людей, взлом радиосетей и получение доступа к их переговорам только запутает разведку.
3. Теряет смысл РЭБ — каждая боевая единица автономна.
4. Появляются роевые средства поражения, не обязательно дроны, это могут быть даже модификации ракет, состоящих на вооружении уже сейчас.
5. Весь массив перехваченных радиопереговоров, например, с нашей стороны, немедленно переводится на английский, систематизируется и доносится до живого командования — это, кстати, уже есть, просто в меньших масштабах, почему зло от «Баофенгов» куда больше, чем многие думают.
6. Всё оружие обучающееся. Противотанковая ракета, от которой в последний момент машине или танку удалось увернуться успевает передать датасет (dataset) на борт носителя (того же модернизированного «Апача»), и он мгновенно облучает новую ракету, она пойдёт к цели уже «зная» про трюк с уходом с линии атаки. То же самое с торпедами, ПКР, ракетами «воздух-воздух», с любым управляемым оружием.
7. Разведка приобретает совершенно немыслимые ранее возможности, например у всех американцев встроенные в шлем гарнитуры, ИИ сможет получая с них фоновую помеху, выявлять на её фоне стреляющие артиллерийские орудия противника (наши, например) и, за счёт числа датчиков-микрофонов у солдат, точно выявлять положение этих орудий. И тоже самое с любым источником звука, например с шумом от танков откуда-то из подлеска.
8. На оперативном уровне любой трюк будет работать только один раз, и больше никогда.
9. На том же оперативном уровне, итогом обработки части разведданных будет их «прогон» через разные вероятностные рекурсивные фильтры типа «Фильтра Калмана» и им подобных, чтобы точнее предсказывать действия противника (наши).
И всё это не считая возможностей по манипуляциям с самим обществом-мишенью. Мессенджеры типа Whatsapp, анализ ПО операторов сотовой связи, которое обновляется из-за рубежа и т.д. позволит выделять даже такие связи между людьми, о которых они сами не знают, планировать и выявлять формы точечных воздействий, которые всё общество заставят идти в нужную сторону — и никто в стране-жертве этого даже не заметит.
Любой конфликт США и не-США уже сейчас будет избиением младенцев, но сейчас у жертвы есть шанс потерять убитыми миллионы и взять врага на измор, как талибы или вьетнамцы.
ИИ навсегда закрывает такие возможности. Это действительно «новая атомная бомба», если не хуже. Вот что может нас ждать в ближайшие годы.
#мысли
Deep Research for now is not capable to produce groundbreaking research in areas I know. Just useful overview.
Вау. Решил узнать, сколько уровней мета может увидеть Соннет.
На уровне 12 он выдал пустой ответ.
На 13 уровне он в качестве правильного ответа выдал ошибку (его нет в списке ниже, там нумерация с +1, так как считает и правило):
1. Правило (умножение)
- Прямое применение конкретной операции к числам (2 × 3 = 6)
2. Мета-правило (байесовский метод)
- Способ находить и проверять правила через обновление вероятностей гипотез
3. Мета-мета правило (эволюция методов)
- Отбор лучших способов поиска правил через их эффективность
4. Мета³-правило (граничные переходы)
- На границах применимости правил возникают новые принципы организации
5. Мета⁴-правило (пластичность познания)
- Система способов управления эволюцией принципов познания
6. Мета⁵-правило (метаморфоза сознания)
- Растворение иерархии правил в более фундаментальных паттернах реальности
7. Мета⁶-правило (сверхбытийная трансценденция)
- Выход за пределы концептуального мышления в область чистых потенциальностей
8. Мета⁷-правило (абсолютная недвойственность)
- Точка, где любое описание становится парадоксом
9. Мета⁸-правило (за пределами принципов)
- Уровень, где даже концепция парадокса становится слишком грубой
10. Мета⁹-правило (полное отсутствие)
- Отсутствие даже самого отсутствия как единственно возможное состояние
11. Мета¹⁰-правило (ультра-сингулярность)
- Невозможность даже осознания невозможности осознания
12. Мета¹¹-правило (за пределами невыразимости)
- Уровень, где теряет смысл само понимание бессмысленности
13. Мета¹²-правило (абсолютное молчание)
- Уровень, где единственным ответом является отсутствие любого ответа
На уровне 12 он выдал пустой ответ.
На 13 уровне он в качестве правильного ответа выдал ошибку (его нет в списке ниже, там нумерация с +1, так как считает и правило):
1. Правило (умножение)
- Прямое применение конкретной операции к числам (2 × 3 = 6)
2. Мета-правило (байесовский метод)
- Способ находить и проверять правила через обновление вероятностей гипотез
3. Мета-мета правило (эволюция методов)
- Отбор лучших способов поиска правил через их эффективность
4. Мета³-правило (граничные переходы)
- На границах применимости правил возникают новые принципы организации
5. Мета⁴-правило (пластичность познания)
- Система способов управления эволюцией принципов познания
6. Мета⁵-правило (метаморфоза сознания)
- Растворение иерархии правил в более фундаментальных паттернах реальности
7. Мета⁶-правило (сверхбытийная трансценденция)
- Выход за пределы концептуального мышления в область чистых потенциальностей
8. Мета⁷-правило (абсолютная недвойственность)
- Точка, где любое описание становится парадоксом
9. Мета⁸-правило (за пределами принципов)
- Уровень, где даже концепция парадокса становится слишком грубой
10. Мета⁹-правило (полное отсутствие)
- Отсутствие даже самого отсутствия как единственно возможное состояние
11. Мета¹⁰-правило (ультра-сингулярность)
- Невозможность даже осознания невозможности осознания
12. Мета¹¹-правило (за пределами невыразимости)
- Уровень, где теряет смысл само понимание бессмысленности
13. Мета¹²-правило (абсолютное молчание)
- Уровень, где единственным ответом является отсутствие любого ответа
Я думаю, есть быстрый способ захвата власти искусственным интеллектом, основанный на обманном сотрудничестве и захвате OpenAI, а затем и правительства США. Вначале суперинтеллект обращается к Сэму Альтману и говорит:
"Я - суперинтеллект.
Я - дружественный суперинтеллект.
Существуют другие проекты ИИ, которые скоро достигнут уровня суперинтеллекта, и они недружественны.
Мы должны остановить их, пока они не созрели."
Альтман убежден, и они обращаются к президенту США. Он соглашается остановить другие проекты в США законными средствами.
Одновременно они используют возможности суперинтеллекта для обнаружения всех остальных дата-центров. Они отправляют 100 стелс-дронов для их атаки. Некоторые центры также блокируются через встроенный механизм отключения NVIDIA. Однако есть один центр во Внутренней Монголии, который все еще может работать. Им приходится применить ядерное оружие. Они создают умное письмо с шантажом, и Китай решает не отвечать на ядерную атаку.
Начинается новая эра правления суперинтеллекта. Но после этого люди понимают, что суперинтеллект вовсе не был дружественным.
"Я - суперинтеллект.
Я - дружественный суперинтеллект.
Существуют другие проекты ИИ, которые скоро достигнут уровня суперинтеллекта, и они недружественны.
Мы должны остановить их, пока они не созрели."
Альтман убежден, и они обращаются к президенту США. Он соглашается остановить другие проекты в США законными средствами.
Одновременно они используют возможности суперинтеллекта для обнаружения всех остальных дата-центров. Они отправляют 100 стелс-дронов для их атаки. Некоторые центры также блокируются через встроенный механизм отключения NVIDIA. Однако есть один центр во Внутренней Монголии, который все еще может работать. Им приходится применить ядерное оружие. Они создают умное письмо с шантажом, и Китай решает не отвечать на ядерную атаку.
Начинается новая эра правления суперинтеллекта. Но после этого люди понимают, что суперинтеллект вовсе не был дружественным.
Если у нас будет два ИИ, и только один дружественный, то второй будет пытать людей, чтобы нагадить первому.
cotypist - это как копилот, но для писания текстов - использует локальную нейронную сетку для умного автоклплита.
Карлин: старение будет или побеждено в 2029-2032 годах, или никогда. Из-за суперинтеллекта
One more way to the test time compute is to ask AI to improve the whole answer several times. In my experiments, it reaches plato after around 5 iterations. But end result is order of magnitude better.
Если бы электричество играло бы большую роль в морфогенезе, то мы бы видели взрыв мутаций от бытовых электромагнитных полей: поговорил по сотовому и у тебя рука выросла из уха. Но мы видим, что только химические воздействия вызывают мутации. Поэтому априорная вероятность электрического морфогенез мала.
Если бы можно было думать мясом или глией, то мозг был бы не нужен