Лооол

Користуючись нагодою:

Якщо ви, чи ваш знайомий, відносяться до того класу людей, яким треба, щоб аргумент виходив з вуст людини, над якою висить золота табличка з credentials, щоб сприйняти цей аргумент;

Якщо ви повірили людям, які кажуть, що нейромереж бояться лише ті, хто не знає, як вони працюють;

Якщо у вашому соціальному колі досі вважається модним сигналізувати свій інтелект висловлюванням думки про те, що екзистенційні ризики від ШІ є «конспірологією»;

то це для вас!

Буквальний винахідник глибинного навчання та нейромереж, лауреат премії Тʼюрінга та Нобелівської премії, який отримав премії саме за ці винаходи, вважає, що штучний інтелект усіх вбʼє з високою ймовірністю!

Талеб

Талеб – те, що називається, найбільш «суперечлива» фігура з чотирьох. Він постійне оре, обзивається і бажає заборонити ГМО, що на мій погляд є божевіллям. Він скоріше консерватор, ніж навпаки, що дуже суперечить моїм поглядам, і часто він нападає на людей, які напевно на заслуговують на це.

Проте.

Серед усіх чемних, поважних, серйозних, політично коректних людей не знайшлося жодного, хто встав би і сказав економістам, фінансистам, психологам, соціальним науковцям та іншим шарлатанам:

Зупиніться, тварюки, ви вбиваєте людей!

Чого варті усі ці люди, уся їхня чемність, якщо вони готові лише тихо кивати під інтелектуальні злочини невиразних масштабів? І якщо знайшлася одна людина, яка сказала голосно, сказала правду, що король голий, то чи так погано, чи так варто засудження, що вона сказала це грубо?

Легко критикувати метафори з публіцистичних книжок Талеба, і набагато складніше – Statistical Consequences of Fat Tails та конкретні наукові статті. Бо Талеб в цілому дуже правий, і досі серед усіх його ненависників не знайшлося жодного, хто б показав, що він не правий. Найкраще, що вони можуть сказати, це «ми і так знаємо все це». Так якщо ви і так знаєте, тварюки, чого ж ви продовжуєте це робити?

Зараз, звичайно, Талеб не один. Є еконофізика, є цілі галузі математичних фінансів, не забруднені економістами, проте той факт, що все це є – в значній мірі його заслуга. До економістів теж не відносяться вже так, як двадцять років тому, але і це не в останню чергу його заслуга. Колись він був повністю один, і навіть зараз він у разючій меншості. Мені здається цілком природнім, що перший голос одинокого спротиву виходить з вуст людини, що не поважає соціальні норми та може мати певний bias в бік нонконформізму, але чи така це велика проблема? І врахуйте те, що з економістами та компанією намагалися чемно розмовляти – о так, намагалися! Це ніколи ні до чого не призводило, це не люди в стані good faith, навіть якщо вони самі вірять в зворотнє. Розмовляти з тролем чемно – означає годувати троля.

Інша річ, не менш важлива, хоча набагато більш тривіальна – це прості життєві поради Талеба. Вони працюють, принаймні для мене, і цього достатньо. Особливо вони є приємним винятком у світі, де практично уся література з «саморозвитку» та «успіху» є відбірним шлаком, що створювався з метою викликати максимально інтенсивну реакцію нудоти. Знову ж таки, як і Ніцше, тут він описує здебільшого те, що вже імпліцитно відомо, але часто користь від того, що імпліцитне знання стає експліцитним, неоціненна. Попри усю кінцеву простоту результату, до нього б вже давно прийшли, якби шлях був легкий. Як так вийшло і чому саме Талебу це вдалося? Мені здається, справа у поєднанні сильного інтелекту, природної схильності до нонконформізму та оптимізаційного тиску на відсіювання будь-якої маячні, що здійснювався на Талеба як на трейдера. Звичайно, Талеб дуже розумний, проте не настільки розумний, щоб одного лише розуму вистачило на те, щоб зрозуміти все те, що він зрозумів. Інструменти теорії ймовірностей, які він використовує, це не щось дуже легке, але і не щось надзвичайно складне, але чомусь ніхто інший не додумався! Бо чудове володіння математичним апаратом він поєднує з дуже ясним розумінням того, як і навіщо його застосовувати. В соціальних науках це, як правило, можливо лише якщо ти абсолютний геній – наприклад, Мандельброт чи Гелл-Ман. Але якщо ти просто дуже розумний і знаєш математику дуже добре, то ти можеш досягти аналогічних результатів, якщо підставиш себе під жорсткий тиск емпіричної реальності, якщо помістиш себе в таке середовище, де в тебе нема жодного вибору окрім як підкорятися реальності та приймати ту форму, яку надає її тиск. Це, судячи зі всього, і вдалося Талебу.

Окрім того, Technical Inserto – це пісня. Його просто надзвичайно приємно читати. Це підручник з правильної статистики, перекладений на невимовну музику, так саме як фейнманівські лекції – це пісня про фізику.

Ніцше, Фейнман, Талеб – усі вони мають інстинкт поета. Їхні твори хочеться розтягувати і пережовувати, інколи суто заради форми, а не змісту, і кожного з них я читав місяцями – набагато повільніше, ніж я читаю книжки зазвичай. Окрім того, що вони поети, вони ще й актори, і свідомо чи ні, вони змушують читача насолоджуватися собою.

Юдковський зовсім інший. Він музику не пише.

Юдковський

Складно мені писати про нього. Сиджу і думаю. Просто треба було його слухати з самого початку. Просто треба було слухати.

Що я можу такого написати, щоб ви послухали? Не знаю. Чи буде твердження про те, що мені складно знайти свою більшу помилку, ніж те, що я не слухав його з самого початку, достатнім аргументом для вас? Гадаю, що ні. Якби воно було б, увесь світ був би інакший.

Чи варто мені порекомендувати в черговий раз прочитати Sequences of Rationality або AGI Ruin? Це вже все одного нічого не змінить, якщо якийсь один чи два українських студенти раптово стануть набагато розумнішими. Це все мало б сенс в іншому світі, де людство продовжило розвиватися, де в майбутнє дивляться з надією.

Світ, де людей треба вмовляти дослухатися до Юдковського, де є необхідність робити це, має дуже мало шансів так чи інакше, то хіба варто щось намагатися? Бо була ідея, в контексті якої, треба розуміти, він писав – ідея про прогрес, про те, що люди хочуть розумнішати і розвиватися, про те, що наша цивілізація досягне зірок, про те, що життя і розум – це краще, ніж навпаки. Glorious transhumanist future.

Народу ця ідея не зайшла.

Може, напишу потім щось більш розгорнуте, коли буде настрій.

Продуктивність в США зростає набагато швидше за довгостроковий тренд, прогнози і, звичайно, неспівставно швидше ніж в інших багатих країнах після пандемії. Наче і напрошується гіпотеза про те, що це через ШІ і що ми спостерігаємо перший макроекономічний ефект від ШІ, принаймні ніщо інше не спадає на думку. Але, чому в Британії наприклад тоді нема цього ефекту? Зрозуміло чому в ЄС нема, але Британія, Канада, інші багаті країни за межами США?

Намагався прочитати Project Lawful, але кинув десь посередині. Дуже цікаво, але дуже болісно - на усіх рівнях. Кислотна суміш теорії ігор для моделювання поведінки суперінтелектів, БДСМ, історії про «попаданця» в світ, який є чимось схожим на пекло чи перед-пекло, різної математики з спорадичним вставками популярної раціональності та науки як в HPMOR. Творіння геніального, але хворого розуму.

Читати не хочу далі (чи скоріше не можу), але хочеться дізнатися, чим усе закінчилося. Твір дуже великий і складається з постів на форумі, тому згодувати ЛЛМ складно.

Хтось читав/дочитав? Якщо так, можете надати спойлери будь-ласка? Можна в коментарях, можна в дм, якщо не хочете демонструвати широкому загалу, що читали це.

Чи може хтось перемогти Nvidia? Наразі це виглядає неможливим, коли думаю про це. Утім, лише 5 років тому Google мав все, а Microsoft - нічого. Google мав бути королем ШІ за всіма ознаками. А тепер саме Microsoft - друга у світі компанія як за капіталізацією, так і за AI power: найбільший (і найбільший просунутий) AI cloud service, найбільший провайдер послуг для ШІ-компаній (з дуже агресивною політикою розвитку, дає безкоштовно купу compute стартапам, як ніхто інший), Copilot інтегрований в усе, що тільки можна, на відміну від тієї ж Gemini. Але ж для Nvidia конкурентів взагалі не видно. 10 trillion by 2030 - це нижня межа, як на мене. До того ж, у кейсі Microsoft/Google зіграли роль зміни CEO, чого в Nvidia майже напевно не буде.

Настрій: вижити і помститися.

Увесь час до цього готувався, увесь час перемога Трампа здавалася ймовірною, але все одно є відчуття відчаю.

Ненавиджу.

Проблема навіть не в тому, що одні люди здатні прирікати інших на смерть, страждання чи зламане життя.

Гірше те, що ідіоти роблять це з розумними і чесними людьми - просто тому, що мають політичний голос.

Вайби 2014-го.

Будь-який макіївський алкаш, якому росіяни роздали автомат та гранати, міг вбити мене, якщо б я йому не сподобався. Когось так і вбили. Багато кого так і вбили чи зробили інвалідами. І ти б нічого не міг зробити, неважливо, чи є в тебе розум, гроші, чи ресурси. Насправді, наявність усього цього була лише додатковим приводом тебе вбити.

Тепер американські реднеки теж здатні усіх вбити - і знову я безсилий перед ідіотами, і знову, нехай я і маю набагато більше розуму і ресурсів, ніж 10 років тому, я не маю жодної можливості протистояти ідіотами чи врятуватися від них.

Саме це дратує найбільше.

Інша річ, яку треба винести з поточної ситуації - Ілон Маск надзвичайно розумний і здібний і його цінності дуже відрізняються від цінностей таких людей, як я. Це і так було зрозуміло, але тепер ще більше.

Він є свого роду прототипом misaligned superintelligence.

Треба бути психологічно готовими, що ніхто не зможе зупинити його на шляху тренування винищувача цивілізації.

У латентній боротьбі людства проти ШІ усе йде на користь ШІ, і найбільш здібна людина в світі цілком і повністю на боці ШІ.

Його фанати кажуть: never bet against Elon. І це дуже сильно схоже на правду. Я не знаю, як його зупинити. Ніхто не знає як його зупинити.

Нехай його ідіотська поведінка в твіттері не затьмарить розуміння того, що це надзвичайно сильний і підступний ворог.

Ладно, back to work.
За життя, розум, sentience і суперкластери - до останнього!
Будь-яка година відчаю - допомога ворогам.
Може, скоро буде про що розповісти позитивного.