Окей.

Перед тим, як розповісти про цих людей, декілька дисклеймерів:

Трактування цього переліку людей треба сприймати максимально буквально, а саме як «люди, що найбільш вплинули на мене, на мою думку», а не «найкращі люди, на мою думку» чи «люди, на яких варто усім орієнтуватися», чи «найрозумніші люди». Двоє з них дійсно є абсолютними геніями в абсолютному топі фактичних (але, звичайно, не потенційних) людських здібностей, але двох інших - ні. Кожен з них має свої вади, і я навіть не впевнений, що я хотів би, що б цей топ виглядав для мене саме так, як він виглядає. Але моя повага і подяка до цих людей безмірна, і я багато чому навчився від них - як в інтелектуальному, так і моральному плані.

Також треба розуміти, що є багато інших людей, які на мою думку вплинули на мене не принципово менше, ніж ці 4. Тобто, не треба проводити тут якусь дуже значну межу і сприймати це розділення як щось фундаментальне.

Але навіть після цих дисклеймерів, я впевнений, що те, що я хочу донести, буде доволі відрізнятися від того, що сприйме широкий загал. Єдине, що я можу зробити у зв'язку з цим - лише ще раз попросити інтерпретувати мої слова семантично.

Я представляю топ в хронологічному порядку свого життя - тобто, не в порядку значущості.

Отже, в нього входять:

Ніцше.
Фейнман.
Талеб.
Юдковський.

Далі я напишу про них - саме в цьому порядку. Я буду давати не "загальний огляд", але лише те, що я вважаю важливим та, як правило, оминається в "загальних оглядах" (вікіпедія і так далі). Тобто, те, що дається про цих людей в умовній вікіпедії чи біографії я теж вважаю дуже важливим, я просто пишу лише про те, що одночасно важливе і зазвичай не доноситься. Тому те, що я напишу, не можна сприймати ані як повноцінну характеристику цих людей, ані як повноцінну характеристику моєї оцінки цих людей. Сподіваюся, це зрозуміло також.

Ніцше.

Ніцше відомий насамперед як ідеолог, і його ідейним рекомендаціям можна знайти багато застосовувань. Як би мені не хотілося розповісти про це детально, як би оминання багатьох важливих речей про Ніцше не було б катастрофічним спрощенням, у цьому пості я мушу зосередитися на головному для мене:

Ніцше уявив трансгуманістичну ціннісну систему, в якій би мені хотілося жити, і ніхто більше ніколи не зробив цього.

В усьому просторі усіх речей, що я коли-небудь уявляв, нема для мене нічого кращого, ніж розумні і добрі істоти, що здатні бути повноцінно щасливими і мають могутність богів, тобто здатність довільно маніпулювати реальністю згідно зі своєю волею. Утім, така могутність в руках істот поверхневих, аксіологічно нерозвинених, істот, що не відповідають моїм уявленням про гідне існування і гідне щастя… - я б хотів оминути цього. Хоча це все одно краще ніж просто водень і гелій.

І так, я кажу моїм уявленням, бо таке моє найбільш заповітне, найбільш значуще бажання. Я не вибачаюся за егоїзм, бо привабливість цього бажання для мене більша, ніж те, проти чого можна встояти, і я щиро, усім серцем, усіма найкращими частинами свого розуму, вважаю, що так було б краще для всіх.

І якби це найбільш заповітне, найбільш значуще бажання здійснилися б, якби супекластери галактик були перетворені на неосяжні та невимовні творіння розуму та sentience, якби світло волі сутностей, що мають кваліа, надало сенс холодній, байдужій і безглуздій реальності, якби ці сутності жили свої найбільш повноцінні, найбільш на всіх рівнях приємні життя, які насправді варто жити, то з якого ціннісного зерна проросле би це дерево? Я думаю, що це було б щось схоже на ціннісну систему, що розвилася з тієї, що описана Ніцше. Звичайно, ціннісна система невимовних мешканців суперкластерів була б настільки далека від системи Заратустри, як система Заратустри далека від цілей комахи, але саме з системи Заратустри могла б початися ця еволюція. Принаймні, я не бачу, з чого ще вона б могла початися.

Бо, які альтернативи? Гіпертрофований гедонізм у вигляді Гедоніуму чи пошук рішень для задачі зайнятого бобра? Розумні люди часто задають це питання: якби у нас була сила богів, що б ми могли зробити з цією силою, що насправді відповідала нашим справжнім уподобанням? Хіба не обираємо ми між катастрофічною примітивністю ролі мавпи з джином, що виконує бажання, та аморфною беззмістовністю ролі автоматичної протидії другому закону термодинаміки та колектора інформації?

На мою думку, є інший шлях - шлях величі, зростання, узгодження мета-вподобань та вподобань, реалізації тих бажань, які відповідають тим частинам мого мозку, сповненого конкуруючих частин, які я вважаю найбільш глибокими, найбільш фундаментальними аспектами моєї особистості та цілей.

Є версія трансгуманізму, що дозволяє розкрити те, що я вважаю найкращими рисами людей, і при цьому повністю узгоджена з кінцевим результатом трансгуманістичного розвитку, який зазвичай постулюється (тобто, щось типу "богоподібні істоти підкорили собі усю реальність на фундаментальному рівні"). Є альтернатива для тих, хто не хоче ані загинути короткочасною іскрою сентієнтного життя на Землі (це неминуче, якщо не йти шляхом сингулярності-трансгуманізму), ані перейти в Гедоніум, ані перетворити Всесвіт на суперкомп'ютер з абсолютно чужими для нас цілями та вподобаннями (це єдині інші альтернативи, запропоновані, якщо йти шляхом сингулярності-трансгуманізму).

Цю версію трансгуманізму і уявив колись Ніцше - можливо лише тінь її чи спотворене зображення, але інші уявили лише білий лист.

Але як це співвідноситься з моїм презирством до філософів? Ніцше корисний і цікавий для мене саме коли він не філософ (у типовому розумінні цього слова), а коли він поет та ідеолог (або філолог, в меншому ступені) - тобто, коли формулює системи цінностей, дає життєві і мотиваційні поради, або просто пише щось естетичне. В тих рідкісних випадках, коли Ніцше намагається зʼясовувати, як влаштований і працює світ, він настільки ж безпорадний і некомпетентий, як і усі інші філософи. Це людина найбільшого гуманітарного таланту, але цей талант не переноситься на інші сфери. Деяке уявлення про його гуманітарний талант дає рекомендаційний лист, написаний для Ніцше, коли йому було 24 роки, професором Річлем:

"However many young talents I have seen develop under my eyes for thirty-nine years now, never yet have I known a young man, or tried to help one along in my field as best I could, who was so mature as early and as young as this Nietzsche."

"He is the idol and, without wishing it, the leader of the whole younger generation of philologists."

"He will simply be able to do anything he wants to do."

"I should stake my whole philological and academic reputation that the matter would work out happily." (про призначення Ніцше професором за рекомендацією без виконання формальних вимог)

При цьому всьому, ретроспективно мені здається, що жити без Ніцше можна доволі нормально, і точно не можна сприймати все, що він каже, серйозно (і ніколи не можна сприймати серйозно те, що він каже про питання науки). Я був під його впливом найбільше у 13-15 років, і мені здається, це релевантний вік для цього.

Фейнман.

Фейнмана дуже багато хто з найбільш розумних і впливових людей світу вважає своїм найкращим вчителем - “the best teacher I never had”. Тут все зрозуміло, і багато було сказано різними людьми про те, чому так.

Я хочу додати лише одну річ.

Що відрізняє найкращого, найбільш ефективного воїна від інших? Він - як і інші - може знати які завгодно прийоми, техніки, чи стилі бою, але він - на відміну від інших - ніколи не забуває, що мета справжнього бою - це перемогти ворога. Коли треба, він вбʼє мечем, коли треба - ткне олівцем в око. Він ніколе не дозволить собі змішати задачу перемогти із задачею продемонструвати кращий прийом чи з задачею перемогти найбільш розумним способом. Він розуміє ціну, яку треба платити за те, що під час бою оптимізується неправильний критерій, і він розуміє, як легко почати оптимізувати неправильний критерій, якщо бій, який ти ведеш, не вартує тобі життя, а є, наприклад, спортивним змаганням.

Це і робить Фейнмана, на мою думку, виразно сильнішим за звичайного геніального фізика. Він був сфокусований лише на отриманні наукового результату і ні на чому іншому, і він кристально чітко бачив цю мету перед собою. Так, він блискуче знав усі методи, що можна було знати, і так, він отримував задоволення від процесу, але він ніколи не робив помилку заміщення процесу на результат. Інтелектуальна чесність, яка вважається стандартною, базовою чеснотою науковця, справжня інтелектуальна чесність, яка зустрічається набагато частіше в уявленні людини про свою епістемологію, ніж в реальності, є рисою, яку дуже складно мати і яка входить у супереччя з багатьма аспектами людської природи. Легко змусити себе бути інтелектуально чесним, щоб не обирати найбільш приємні результати експерименту, але складно, наприклад, щоб відмовитися від якогось абстрактного епістемологічного принципу - бо зазвичай людина не сприймає епістемологічний принцип, в який вона вірить, як якийсь принцип, вона просто вважає, що реальність працює так. Елементарний приклад: астрономи до Кеплера (включно, власне з самим Кеплером спочатку) не вважали колові орбіти якимось довільним принципом, який вони обрали, вони вважали це тим, як реальність неминуче повинна працювати. У сучасній науці є теж багато прикладів цього явища. Ситуація ускладнюється і тим, що цей недостаток інтелектуальної чесності не є суто - або навіть в значному ступені - моральною річчю. Насправді, це дуже погано, тому що чесна людина може спокійно бути інтелектуально нечесною, і ті запобіжники, які не дають їй брехати, не мають майже нічого спільного з тими, які необхідні, щоб вводити себе в інтелектуальну оману. Інтелектуальна нечесність скоріше повʼязана з комбінацією недостатньо глибокого розуміння наукових методів та нездатності розрізняти “соціальні” та “справжні” цілі науки (тобто цілі "науки" як суспільного інституту та цілі "науки" ідеалізованої машини з пізнання). Елементарний приклад: людина, яка не отримала позитивного результату експерименту насправді, репортує позитивний результат, тому що отримала достатньо мале p-значення. Вона не зробила ніяких махінацій і не приховала нічого. Її інтелектуальна нечесність - це результат того, що (а) вона недостатньо добре розуміє, що таке p-значення та в чому його сенс, і (б) вона змішала цілі “отримати p-значення, яке за наявних допущень відповідає позитивному результату” і “отримати позитивний результат” (”вмісти застосовувати прийом, який, як очікується, добре вбиває” vs “вміти добре вбивати”).

Короче, Фейнман був навпаки. Він мав цю інтелектуальну чесність в повній мірі. І це складніше, ніж здається, бо ти не можеш просто змусити себе бути інтелектуально чесним, як можеш просто змусити себе не брехати, бо це скоріше інтелектуальна риса, а не моральна. Ти повинен бути дуже розумним, і окрім освіти, повинен мати дуже гарну інтуїцію.

Спрощено можна сказати, що справжня декларована ціль науки - це пізнання світу. На практиці, науковці (тобто, люди, що працюють в установах, що мають назви наукових установ) можуть займатися чотирма речами, в порядку зростання якості:

1. Відкриті махінації, фальсифікації чи генерація беззмістовного тексту.
2. Оптимізація наукометричних показників.
3. Оптимізація виконання формальних статистичних та епістемологічних критеріїв, які, як очікується, корелюють з пізнанням світу (частина з тих, хто їх максимізує, не баче різниці між ними та пізнанням світу, тобто для них це не кореляція, а тотожність).
4. Оптимізація власне пізнання світу. Судячи зі всього, треба мати неабиякий талант, щоб займатися саме цим, а не корелятом цього.

При цьому, можна рухати науку і оптимізуючи формальні критерії-кореляти (на то вони й кореляти). Більш того, недостатньо розумна людина неминуче зробить помилки, якщо почне сама намагатися фокусуватися на кінцевому результаті, а не корелятах (треба талант, щоб розуміти, що таке кінцевий результат). Але людина, що знаходиться на вершині наукової продуктивності, яка займається найбільш складними речами, якій нема кому делегувати задачу генерування проміжних епістемологічних інструментів, неминуче повинна фокусуватися на кінцевому результаті. Мідвіти проти цього в принципі, тому що вони бачили, як погано це позначається на інших мідвітах, але на найвищому рівні це критично необхідно, інакше все перестане працювати. І саме це вмів Фейнман найкраще за всіх.

Скарга Дірака на те, що фейнманівська квантова електродинаміка виглядає мерзенно (тобто математично складно і нагромаджено), для мене звучить як комплімент Фейнману.

У той самий час, памʼятаю інтервʼю з якимось ще живим, але старим корифеєм (напевно, Сасскінд, але можливо Пенроуз), де він розповідав про приклад з виступу Фейнмана на одній конференції, де той розробив просту і елегантну еквівалентну альтернативу якійсь надзвичайно математично просунутій і складній моделі якогось радянського фізика, який виступав на цій конференції перед ним.

У тому-то і справа.

Фейнман не піклувався про те, чи потрапить меч у серце, чи у голову, і наскільки витонченим чи грубим виглядає удар. Він піклувався лише про те, щоб вбити ворога.

Лазерний фокус його блискучого інтелекту був лише на тому, щоб робити науку - не затьмарений не тільки соціальними чи карʼєрними цілями, але і будь-якою філософією, уявленнями про те, як повинна чи не повинна виглядати наукова теорія чи процес її створення. Якщо Фейнман застосовував якийсь метод, це завжди було заради кінцевого результату - і ніколи заради самого методу. Геніального інтелекту було недостатньо для того, щоб досягти його результатів - і історія памʼятає цілий ряд більш математично геніальних фізиків. Треба було додати здатність концентрувати усі зусилля цього геніального інтелекту на тому, що мало значення. Саме цей додаток до геніальності, на мою думку, і зробив Фейнмана настільки могутнім фізиком.

Але навіть всього цього було б недостатньо, щоб вплинути на мене і на інших, якби Фейнман настільки не любив викладати, якби не отримував задоволення від того, щоб надавати прості, популярні пояснення, - та навіть якби його лекції не були записані на аудіо, щоб потім перекласти у повноцінні підручники. Передові науковці, як правило, не пишуть саме вступних підручників коли вони пишуть щось освітнє - вони пишуть або підручники на обрані теми для просунутих читачів або популярні книжки, які взагалі не є підручниками для вивчення науки. І коли зʼявляється вийняток - це саме по собі вже значна подія, тим більше, якщо це Фейнман.

Фейнман є безумовно генієм у повному сенсі цього слова, і він корисний для усіх і завжди. Його популярні книжки можна читати вже в дитинстві, але не варто оминати і його лекції з фізики - вони надзвичайно корисні незалежно від того, чим саме ви займаєтеся. Вони дають взірець того, як виглядає якісне пізнання і якісне розуміння, і людина, що побачила це один раз, ніколи вже не зможе - навіть якщо вона буде намагатися - не бачити різниці між якісною та неякісною інтелектуальною діяльністю.

Лооол

Користуючись нагодою:

Якщо ви, чи ваш знайомий, відносяться до того класу людей, яким треба, щоб аргумент виходив з вуст людини, над якою висить золота табличка з credentials, щоб сприйняти цей аргумент;

Якщо ви повірили людям, які кажуть, що нейромереж бояться лише ті, хто не знає, як вони працюють;

Якщо у вашому соціальному колі досі вважається модним сигналізувати свій інтелект висловлюванням думки про те, що екзистенційні ризики від ШІ є «конспірологією»;

то це для вас!

Буквальний винахідник глибинного навчання та нейромереж, лауреат премії Тʼюрінга та Нобелівської премії, який отримав премії саме за ці винаходи, вважає, що штучний інтелект усіх вбʼє з високою ймовірністю!

Талеб

Талеб – те, що називається, найбільш «суперечлива» фігура з чотирьох. Він постійне оре, обзивається і бажає заборонити ГМО, що на мій погляд є божевіллям. Він скоріше консерватор, ніж навпаки, що дуже суперечить моїм поглядам, і часто він нападає на людей, які напевно на заслуговують на це.

Проте.

Серед усіх чемних, поважних, серйозних, політично коректних людей не знайшлося жодного, хто встав би і сказав економістам, фінансистам, психологам, соціальним науковцям та іншим шарлатанам:

Зупиніться, тварюки, ви вбиваєте людей!

Чого варті усі ці люди, уся їхня чемність, якщо вони готові лише тихо кивати під інтелектуальні злочини невиразних масштабів? І якщо знайшлася одна людина, яка сказала голосно, сказала правду, що король голий, то чи так погано, чи так варто засудження, що вона сказала це грубо?

Легко критикувати метафори з публіцистичних книжок Талеба, і набагато складніше – Statistical Consequences of Fat Tails та конкретні наукові статті. Бо Талеб в цілому дуже правий, і досі серед усіх його ненависників не знайшлося жодного, хто б показав, що він не правий. Найкраще, що вони можуть сказати, це «ми і так знаємо все це». Так якщо ви і так знаєте, тварюки, чого ж ви продовжуєте це робити?

Зараз, звичайно, Талеб не один. Є еконофізика, є цілі галузі математичних фінансів, не забруднені економістами, проте той факт, що все це є – в значній мірі його заслуга. До економістів теж не відносяться вже так, як двадцять років тому, але і це не в останню чергу його заслуга. Колись він був повністю один, і навіть зараз він у разючій меншості. Мені здається цілком природнім, що перший голос одинокого спротиву виходить з вуст людини, що не поважає соціальні норми та може мати певний bias в бік нонконформізму, але чи така це велика проблема? І врахуйте те, що з економістами та компанією намагалися чемно розмовляти – о так, намагалися! Це ніколи ні до чого не призводило, це не люди в стані good faith, навіть якщо вони самі вірять в зворотнє. Розмовляти з тролем чемно – означає годувати троля.

Інша річ, не менш важлива, хоча набагато більш тривіальна – це прості життєві поради Талеба. Вони працюють, принаймні для мене, і цього достатньо. Особливо вони є приємним винятком у світі, де практично уся література з «саморозвитку» та «успіху» є відбірним шлаком, що створювався з метою викликати максимально інтенсивну реакцію нудоти. Знову ж таки, як і Ніцше, тут він описує здебільшого те, що вже імпліцитно відомо, але часто користь від того, що імпліцитне знання стає експліцитним, неоціненна. Попри усю кінцеву простоту результату, до нього б вже давно прийшли, якби шлях був легкий. Як так вийшло і чому саме Талебу це вдалося? Мені здається, справа у поєднанні сильного інтелекту, природної схильності до нонконформізму та оптимізаційного тиску на відсіювання будь-якої маячні, що здійснювався на Талеба як на трейдера. Звичайно, Талеб дуже розумний, проте не настільки розумний, щоб одного лише розуму вистачило на те, щоб зрозуміти все те, що він зрозумів. Інструменти теорії ймовірностей, які він використовує, це не щось дуже легке, але і не щось надзвичайно складне, але чомусь ніхто інший не додумався! Бо чудове володіння математичним апаратом він поєднує з дуже ясним розумінням того, як і навіщо його застосовувати. В соціальних науках це, як правило, можливо лише якщо ти абсолютний геній – наприклад, Мандельброт чи Гелл-Ман. Але якщо ти просто дуже розумний і знаєш математику дуже добре, то ти можеш досягти аналогічних результатів, якщо підставиш себе під жорсткий тиск емпіричної реальності, якщо помістиш себе в таке середовище, де в тебе нема жодного вибору окрім як підкорятися реальності та приймати ту форму, яку надає її тиск. Це, судячи зі всього, і вдалося Талебу.

Окрім того, Technical Inserto – це пісня. Його просто надзвичайно приємно читати. Це підручник з правильної статистики, перекладений на невимовну музику, так саме як фейнманівські лекції – це пісня про фізику.

Ніцше, Фейнман, Талеб – усі вони мають інстинкт поета. Їхні твори хочеться розтягувати і пережовувати, інколи суто заради форми, а не змісту, і кожного з них я читав місяцями – набагато повільніше, ніж я читаю книжки зазвичай. Окрім того, що вони поети, вони ще й актори, і свідомо чи ні, вони змушують читача насолоджуватися собою.

Юдковський зовсім інший. Він музику не пише.

Юдковський

Складно мені писати про нього. Сиджу і думаю. Просто треба було його слухати з самого початку. Просто треба було слухати.

Що я можу такого написати, щоб ви послухали? Не знаю. Чи буде твердження про те, що мені складно знайти свою більшу помилку, ніж те, що я не слухав його з самого початку, достатнім аргументом для вас? Гадаю, що ні. Якби воно було б, увесь світ був би інакший.

Чи варто мені порекомендувати в черговий раз прочитати Sequences of Rationality або AGI Ruin? Це вже все одного нічого не змінить, якщо якийсь один чи два українських студенти раптово стануть набагато розумнішими. Це все мало б сенс в іншому світі, де людство продовжило розвиватися, де в майбутнє дивляться з надією.

Світ, де людей треба вмовляти дослухатися до Юдковського, де є необхідність робити це, має дуже мало шансів так чи інакше, то хіба варто щось намагатися? Бо була ідея, в контексті якої, треба розуміти, він писав – ідея про прогрес, про те, що люди хочуть розумнішати і розвиватися, про те, що наша цивілізація досягне зірок, про те, що життя і розум – це краще, ніж навпаки. Glorious transhumanist future.

Народу ця ідея не зайшла.

Може, напишу потім щось більш розгорнуте, коли буде настрій.

Продуктивність в США зростає набагато швидше за довгостроковий тренд, прогнози і, звичайно, неспівставно швидше ніж в інших багатих країнах після пандемії. Наче і напрошується гіпотеза про те, що це через ШІ і що ми спостерігаємо перший макроекономічний ефект від ШІ, принаймні ніщо інше не спадає на думку. Але, чому в Британії наприклад тоді нема цього ефекту? Зрозуміло чому в ЄС нема, але Британія, Канада, інші багаті країни за межами США?

Намагався прочитати Project Lawful, але кинув десь посередині. Дуже цікаво, але дуже болісно - на усіх рівнях. Кислотна суміш теорії ігор для моделювання поведінки суперінтелектів, БДСМ, історії про «попаданця» в світ, який є чимось схожим на пекло чи перед-пекло, різної математики з спорадичним вставками популярної раціональності та науки як в HPMOR. Творіння геніального, але хворого розуму.

Читати не хочу далі (чи скоріше не можу), але хочеться дізнатися, чим усе закінчилося. Твір дуже великий і складається з постів на форумі, тому згодувати ЛЛМ складно.

Хтось читав/дочитав? Якщо так, можете надати спойлери будь-ласка? Можна в коментарях, можна в дм, якщо не хочете демонструвати широкому загалу, що читали це.

Чи може хтось перемогти Nvidia? Наразі це виглядає неможливим, коли думаю про це. Утім, лише 5 років тому Google мав все, а Microsoft - нічого. Google мав бути королем ШІ за всіма ознаками. А тепер саме Microsoft - друга у світі компанія як за капіталізацією, так і за AI power: найбільший (і найбільший просунутий) AI cloud service, найбільший провайдер послуг для ШІ-компаній (з дуже агресивною політикою розвитку, дає безкоштовно купу compute стартапам, як ніхто інший), Copilot інтегрований в усе, що тільки можна, на відміну від тієї ж Gemini. Але ж для Nvidia конкурентів взагалі не видно. 10 trillion by 2030 - це нижня межа, як на мене. До того ж, у кейсі Microsoft/Google зіграли роль зміни CEO, чого в Nvidia майже напевно не буде.