VICTOR_OSYKA Telegram 403
Конспект What We Owe The Future от William MacAskill, книга про longtermism (долгосрочность). Илон Маск твитнул “близко к моей философии”. Простота - кажущаяся: писать помогали 200 экспертов (!) + рожал 2 года. Пачка рисунков раз и два + видео с моими комментами.

I. LONGTERMISM

- Этическая установка, что человечеству нужно теперь не просто заботиться об уровне жизни и неравенстве живущего поколения (исторически господствующая парадигма), а ещё и оптимизироваться под свое сверхдолгосрочное будущее как вида в целом. Плюс это мотиватор снижения existential risks (угроз человечеству как виду - ядерный конфликт, вулкан, взрыв солнца итп)
- Мы должны сейчас думать о всех будущих поколениях: УЖЕ пожили 100 млрд чел, живут СЕЙЧАС меньше 10 млрд, а общее число людей, кто МОГУТ еще родиться на Земле - 5*10^16 людей (если она будет обитаема еще 500 млн лет пока солнце не станет слишком ярким)
- Кейсы думания вдолгую: римские поэмы, конституция/отцы основатели США (Франклин вложил в 1790г в Бостон и Филадельфию $0.14 млн, за 200 лет выплаты траста составили $7 млн), межстрановая комиссия по климату (IPCC) etc.
- Будущее никто не знает, так что мы должны просто как в покере - делать ставки исходя из известной нам на данный момент научной инфо и апгрейдиться по мере поступления новой инфо
- Критерии для оценки наших инициатив: significance (вэлью), persistence (сколько будет длиться эффект события, пример: исчезновение глиптодонтов останется до конца вселенной), contingency (зависимость всех последствий буквально от нескольких конкретных действий).
- Паттерн: новое пластично и траектории можно менять, а далее все ригидно: Новый Завет, конституция США, появление ядерных вооружений, итп. Про потепление расчеты были в 1958, прогноз реализовался. А могли ещё в 1990ом запрайсить углеродный след, и были бы уже на другой траектории. Сейчас так же поверхностно относятся к advanced AI, synthetic biology, напряжению между США и Китаем
- Бизнесы некоторых longtermist’ов оч. успешны

II. СМЕНА ТРАЕКТОРИЙ
- Аболиционизм: пример как сложно шел отказ от рабства (даже Платон и Кант не были против), зато каковы последствия: свобода, права женщин, запрет телесных наказаний, комфорт сотням млн мигрантов, развитие LGBT итд. -> мы должны влиять на ценности будущих поколений. Небольшое число мыслителей (квакеры) раскручивали маховик (150 лет) и потом тысячи людей влияли на policy makers UK и Франции чтобы рабство стало unacceptable.
- Культурные нормы конкурируют друг с другом как в процессе эволюции. При этом сотни лет может быть двойственная мораль (мы не обижаем собак, но убиваем миллиарды кур) или value lock-in (нацизм, сталинизм, Библия уже 2000 лет самая продаваемая книга итп). Но быстрое развитие технологий начинает влиять на моральные нормы (AGI, gpt-3, alpha-fold). Мы нуждаемся в мире экспериментирующем с моралью, diversity идей + tolerant societies (LGBTQ итп - это просто для поддержания общего высокого разнообразия человечества в целом, как принцип, а не потому что правильно или нет) + глобализованный мир (“вавилонизация”). (далее оч много про AGI и известные опасения Ника Бострома про superintelligence + методы прогнозирования будущего (“все ошибаются”).
- Демография порождает будущие superpowers: в Индии 120 лет назад было 300 млн чел вместо 1.4 млрд сегодня, в Нигерии к 2100 будет 700 млн чел вместо 200 млн щас

III. СПАСЕНИЕ ЦИВИЛИЗАЦИИ

- Есть риски типа метеоритов могущих уничтожить Землю (вероятность 1/15-миллиардная в год) до редактированных вирусов «смертельный как Эбола, заразный как корь» (корона убила 17 млн чел - каждый 500ый в мире, а также были много утечек биооружия в СССР и Англии) и войн сверхдержав (США-Китай)/исчезновения империй (как Рим)
- Восстановление цивилизации требует удачи оказаться в Новой Зеландии (меньше пострадает от потопов, ядерной зимы, вирусов) + быть не аграрием (как 2 млрд чел на Земле), а ученым или инженером

(2-ая часть конспекта)



tgoop.com/Victor_Osyka/403
Create:
Last Update:

Конспект What We Owe The Future от William MacAskill, книга про longtermism (долгосрочность). Илон Маск твитнул “близко к моей философии”. Простота - кажущаяся: писать помогали 200 экспертов (!) + рожал 2 года. Пачка рисунков раз и два + видео с моими комментами.

I. LONGTERMISM

- Этическая установка, что человечеству нужно теперь не просто заботиться об уровне жизни и неравенстве живущего поколения (исторически господствующая парадигма), а ещё и оптимизироваться под свое сверхдолгосрочное будущее как вида в целом. Плюс это мотиватор снижения existential risks (угроз человечеству как виду - ядерный конфликт, вулкан, взрыв солнца итп)
- Мы должны сейчас думать о всех будущих поколениях: УЖЕ пожили 100 млрд чел, живут СЕЙЧАС меньше 10 млрд, а общее число людей, кто МОГУТ еще родиться на Земле - 5*10^16 людей (если она будет обитаема еще 500 млн лет пока солнце не станет слишком ярким)
- Кейсы думания вдолгую: римские поэмы, конституция/отцы основатели США (Франклин вложил в 1790г в Бостон и Филадельфию $0.14 млн, за 200 лет выплаты траста составили $7 млн), межстрановая комиссия по климату (IPCC) etc.
- Будущее никто не знает, так что мы должны просто как в покере - делать ставки исходя из известной нам на данный момент научной инфо и апгрейдиться по мере поступления новой инфо
- Критерии для оценки наших инициатив: significance (вэлью), persistence (сколько будет длиться эффект события, пример: исчезновение глиптодонтов останется до конца вселенной), contingency (зависимость всех последствий буквально от нескольких конкретных действий).
- Паттерн: новое пластично и траектории можно менять, а далее все ригидно: Новый Завет, конституция США, появление ядерных вооружений, итп. Про потепление расчеты были в 1958, прогноз реализовался. А могли ещё в 1990ом запрайсить углеродный след, и были бы уже на другой траектории. Сейчас так же поверхностно относятся к advanced AI, synthetic biology, напряжению между США и Китаем
- Бизнесы некоторых longtermist’ов оч. успешны

II. СМЕНА ТРАЕКТОРИЙ
- Аболиционизм: пример как сложно шел отказ от рабства (даже Платон и Кант не были против), зато каковы последствия: свобода, права женщин, запрет телесных наказаний, комфорт сотням млн мигрантов, развитие LGBT итд. -> мы должны влиять на ценности будущих поколений. Небольшое число мыслителей (квакеры) раскручивали маховик (150 лет) и потом тысячи людей влияли на policy makers UK и Франции чтобы рабство стало unacceptable.
- Культурные нормы конкурируют друг с другом как в процессе эволюции. При этом сотни лет может быть двойственная мораль (мы не обижаем собак, но убиваем миллиарды кур) или value lock-in (нацизм, сталинизм, Библия уже 2000 лет самая продаваемая книга итп). Но быстрое развитие технологий начинает влиять на моральные нормы (AGI, gpt-3, alpha-fold). Мы нуждаемся в мире экспериментирующем с моралью, diversity идей + tolerant societies (LGBTQ итп - это просто для поддержания общего высокого разнообразия человечества в целом, как принцип, а не потому что правильно или нет) + глобализованный мир (“вавилонизация”). (далее оч много про AGI и известные опасения Ника Бострома про superintelligence + методы прогнозирования будущего (“все ошибаются”).
- Демография порождает будущие superpowers: в Индии 120 лет назад было 300 млн чел вместо 1.4 млрд сегодня, в Нигерии к 2100 будет 700 млн чел вместо 200 млн щас

III. СПАСЕНИЕ ЦИВИЛИЗАЦИИ

- Есть риски типа метеоритов могущих уничтожить Землю (вероятность 1/15-миллиардная в год) до редактированных вирусов «смертельный как Эбола, заразный как корь» (корона убила 17 млн чел - каждый 500ый в мире, а также были много утечек биооружия в СССР и Англии) и войн сверхдержав (США-Китай)/исчезновения империй (как Рим)
- Восстановление цивилизации требует удачи оказаться в Новой Зеландии (меньше пострадает от потопов, ядерной зимы, вирусов) + быть не аграрием (как 2 млрд чел на Земле), а ученым или инженером

(2-ая часть конспекта)

BY Victor Osyka, техноцивилизация


Share with your friend now:
tgoop.com/Victor_Osyka/403

View MORE
Open in Telegram


Telegram News

Date: |

How to build a private or public channel on Telegram? Select “New Channel” Commenting about the court's concerns about the spread of false information related to the elections, Minister Fachin noted Brazil is "facing circumstances that could put Brazil's democracy at risk." During the meeting, the information technology secretary at the TSE, Julio Valente, put forward a list of requests the court believes will disinformation. 3How to create a Telegram channel?
from us


Telegram Victor Osyka, техноцивилизация
FROM American