tgoop.com/resonate_now/143
Last Update:
Книга Nick Bostrom Deep utopia: life & meaning in a solved world, ранее иконы AI паники (в 2014 Superintelligence), а теперь наоборот (!) оптимиста, 500 стр, конспект:
Интро
- Для детей каждый новый день - страна чудес, чтобы играть, играть..
- Ничего не утверждаю, а исследую
ПНД
- Технология: бОльшее с меньшим усилием. Machine intelligence разгоняется - что будет с жизнью и смыслом в solved world, т.е. когда tech нам все - голод, болезни итп решат?
- В средние века в утопиях мечтали о выходных и стенах из еды (+ фонтан молодости), реализовалось. Кейнс в 1930 написал эссе про изобилие у внуков: через 100 лет +4-8x ВВП и 15ч. раб.неделя (факт: 5x и 36ч вместо 50). У работы есть value кроме $? Люди будут фигачить если +1 $млн продлевал бы жизнь на 5 лет. Еще в НКО люди стараются. Или альтруизм для элит?
- Думаю, скорость прогресса когда-то выйдет на плато (?!?). В земле и ресурсах за счет космоса проблем нет. В случае роста населения можем столкнуться с нео-мальтузианством?
- Цивилизация - это эмерджентность взаимодействия миллиардов людей, групп, институций, и у нее есть отдача от масштаба по всем координатам. Longtermism прав, что нужно больше ценностей мира и кооперации
ВТРН
- Наследие космоса: ежегодно из-за расширения Вселенной навсегда отдаляется на 3 галактики объем достижимой нами (даже на световой скорости) материи. Если лететь на 0.5 скорости света, то число достижимых звезд 6*10^16. Тогда на цилиндрах O’Neil’а сможет когда-либо прожить 10^43 людей (предполагая, что не встретим другие цивилизации)
- Мы не знаем потолка технологий - освоить все, что можно для управления природой, в тч сферы Дайсона для полного сбора энергии каждого солнца. Но советую поизучать нано производство, мотивацию AGI, самовоспроизводимые зонды von Neuman близких к скорости света, O’Neil, Dyson, VR и симуляция предков, aging, крио, genetic reprogramming, brain-computer интерфейсы/uploading
- Препятствия для автоматизации экономик: регуляции, статусный символизм, солидарность, религии, сентименты
- Tech может решить проблему координации обществ. Но проблема ценностей остается - новизна/дофамин, мораль, purpose, метафизика. Пишет, что психотерапия дает эмпатию/чувства
СРД
- В нас встроена ненасытность желаний: и с другими сравниваемся, и хотим динамику во времени
- Если (в теории) роботы смогут делать всю работу -> полная безработица. В случае частичной автоматизации мира эффекты непонятны, спекулятивно, но богатые начнут потреблять больше свободного времени. Непонятно про как добавленное роботами богатство будет распределяться в социуме. Хотя.. В богатых странах слабая корреляция счастья и доходов
- Полная безработица: переедать/спать/пить? Люди разные: Микеланджело vs. Michael Carrol в лотерею выиграл и переспал с 4000 женщин. Хотя раньше и дети работали.. Культура праздности/Онегин/скука? Или роль фокуса и самоконтроля наоборот вырастет/протестантство?
- Какие будут purposes/желаемое? Шоппинг? Спорт? Учеба? Родительство? Отдаться стимуляции в Neuralink’ах (игры, управляемые сны)? Или возникнут новые смыслы?
ЧТВ
- Может ли жизнь в утопии быть: а) интересной? б) наполняющей? в) со смыслами?
- Оглядываться на одобрение социума?
- Увлечение эстетикой и красотой всего?
ПТН
- На пути к технологической зрелости кроме сложности науки есть еще: физическая экспансия (по космосу лететь не быстро), редкие случайности/бедствия, готовность к инопланетянам, policies/координация для внутрицивилизационных активностей, вызовы культур
- Смыслы можно у других брать, а можно искать самому. Или пойти и в трансцендентное (но он супер-материалист, просто указал как опцию)
СБТ
- В сценарий утопии можно разными путями дойти и миру важно не накосячить, если не на ту траекторию вырулим
//
Витя:
- Ну и водища..🙈 Лучше MacAskill про longtermism. Диалогов треть книги (вопросы из зала/Сократ, а-ля Библия), не гармонично как у Дойча в “Начало бесконечности”. Традиции издательств устарели, но они все упираются
- Его разворот от “AI нас всех убьет” до “как жить в утопии?” поражает, упоминает психотерапию - это ее результат что-ли?
BY Резонанс с реальностью
Share with your friend now:
tgoop.com/resonate_now/143