Колонки

«Манифест лонгтермистов» — как развивать технологии и жить, чтобы открывать галактики и решать глобальные проблемы

Колонки
Виктор Осыка
Виктор Осыка

Экс-VC, фаундер progresspunks

Анастасия Удальцова

«What We Owe the Future» — книга Уильяма МакАскилла, философа и этика из Оксфорда, сторонника эффективного альтруизма, которую рекомендовал к прочтению Илон Маск: по словам миллиардера, эта работа близка его философии.

Виктор Осыка, экс-VC, фаундер progresspunks, автор Telegram-канала о техногенных цивилизациях, делится конспектом этого «манифеста лонгтермистов» — книги о том, как ускорить прогресс.

«Манифест лонгтермистов» — как развивать технологии и жить, чтобы открывать галактики и решать глобальные проблемы

 

Содержание по разделам:

  1. Глава 1. Лонгтермизм
  2. Глава 2. Как менять траекторию человеческой цивилизации
  3. Глава 3. Как спасать цивилизацию
  4. Глава 4. Каким может быть конец света?
  5. Глава 5. Как заинтересованному читателю действовать в повседневной жизни

Мое мнение

 

1. Лонгтермизм

В 2002 Илон Маск сказал, что через три года NASA запустит в космос астронавтов. На деле это случилось только через восемнадцать лет. При чем тут лонгтермисты?

Longtermism (долгосрочность) — этическая установка о том, что человечеству теперь нужно не только заботиться об уровне жизни и неравенстве живущего поколения, но и оптимизироваться под свое долгое будущее в перспективе — как вида в целом. 

Это движение — мотиватор снижения экзистенциальных угроз — ядерного конфликта, извержения вулканов, взрыва солнца. 

Мы сейчас должны думать о всех будущих поколениях: за всю историю мира было 100 млрд человек, сейчас на земле живет меньше 10 млрд. Ученые подсчитали, сколько людей еще могут родиться на Земле, если она будет обитаема еще 500 млн лет (пока Солнце не станет слишком ярким) — и это всего 5*10^16 людей.

Такую ответственность за будущее брали и до нас: 

  • Римские поэты начали говорить об этом в поэмах, 
  • Конституция закрепила наши обязанности на бессрочный временной горизонт, отцы-основатели США сами думали вдолгую — так, в 1790 Франклин вложил в Бостон и Филадельфию $0.14 млн на 200 лет — выплаты траста за это время составили $7 млн,
  • Межстрановая комиссия по климату (IPCC) напоминает нам о том, что мы можем сделать сегодня.

Естественно, никто не знает, что нас ждет в будущем. Наше положение можно сравнить с покером — мы делаем ставки исходя из актуальной научной базы, постепенно обновляя эти знания и совершенствуя «ходы». 

Уильям МакАскилл, философ и этик из Оксфорда, сторонник эффективного альтруизма

МакАскилл предлагает основные метрики, как наши действия работают для лонгтермизма: 

  1. significance (важность), 
  2. persistence (сколько будет длиться эффект события: например, исчезновение глиптодонтов останется до конца вселенной), 
  3. contingency (насколько сильно конкретное действие повлияет на будущее).

По МакАскиллу, в цивилизации прослеживается паттерн: все новое сперва пластично, траекторию можно поменять, но со временем все костенеет и становится ригидным.

Так, расчеты про глобальное потепление были сделаны в 1958 — однако если бы в 1990 году человечество ввело торговлю квотами на эмиссию парниковых газов (CO2), возможно, мы были бы на совершенно другой траектории.

Сейчас также поверхностно относятся к advanced AI, synthetic biology, напряжению между США и Китаем — это зона будущих проблем, которые сейчас упускаются аналогично климату в 1990-м.

 

2. Как менять траекторию человеческой цивилизации

МакАскилл глубоко разбирает аболиционизм, как сложно шел отказ от рабства, но какие последствия он при этом принес: 

  • свобода, 
  • права женщин, 
  • запрет телесных наказаний, 
  • решение части миграционных проблем,
  • развитие LGBT.

Мы должны влиять на ценности будущих поколений. Небольшое число мыслителей (квакеры) раскручивали этот «маховик» 150 лет. Тысячи людей влияли на политику и устройство Великобритании и Франции, чтобы рабство стало неприемлемым.


Читайте по теме:

Почему климатические стартапы стали привлекательнее, чем Apple и Google

Рост доверия и снижение цен: как технологии Web3 повлияют на потребителей и бренды в будущем


Культурные нормы конкурируют друг с другом как в процессе эволюции. При этом сотни лет может быть двойственная мораль или value lock-in (Библия уже 2 тыс. лет самая продаваемая книга). Однако быстрое развитие технологий начинает влиять на моральные нормы (AGI, gpt-3, AlphaFold). 

Мы нуждаемся в мире, экспериментирующем с моралью и разнообразием идей + вводим практику tolerant societies (то же LGBTQ в лонгтермизме — шаг для поддержания высокого уровня многоплановости человечества в целом) и принцип глобализованного мира («вавилонизация»). 

МакАскилл много рассуждает про AGI и опасения Ника Бострома про superintelligence, разбирает методы прогнозирования будущего («все ошибаются»). Он интересно формулирует, что демографические тренды порождают будущие superpowers: 120 лет назад в Индии жили 300 млн человек, а сегодня — 1.4 млрд, а, скажем, в Нигерии к 2100 году будет 700 млн чел вместо 200 млн сегодня. 

 

3. Как спасать цивилизацию

Для лонгтермистов невыносимы экзистенциальные риски

  • от метеоритов, которые могут уничтожить Землю (с вероятностью 1/15-миллиардной в год), 
  • до модифицированных вирусов — «смертельных, как Эбола, заразных, как корь» (COVID-19 убил 17 млн чел. — это каждый 500 в мире),
  • войн сверхдержав (США — Китай), 
  • исчезновения империй (как Рим). 

Чтобы восстановить технологическую цивилизацию нашего уровня развития, нужно оказаться в Новой Зеландии (она меньше пострадает от потопов, ядерного воздействия и вирусов) и оказаться не просто рабочим или аграрием (как 2 млрд человек на Земле), а ученым или инженером. 

 

Изменение климата

Нам нельзя игнорировать: если прекратим действовать — увеличим экзистенциальные риски (например, исчерпав легко доступные сейчас ископаемые виды топлива).

Скорость технологического прогресса с 1970 похоже замедляется, динамика в основном в компьютерах и интернете. Скорость роста total factor productivity (отношение всех внешних факторов к внутренним) — например, урожай с одного акра земли в 19 веке и сейчас — упала с 1.5% до 0.9% в год. 

В перспективе на следующие 100 лет такая разница будет означать, что будущие поколения будут жить почти в два раза хуже. Но в лонгтермизме — на горизонте миллионов лет — это неверный аргумент, поскольку экспоненциальный рост невозможен на таких горизонтах, он всегда когда-то оканчивается.


Читайте также:

Информационные технологии в экологии: почему важно стремиться к углеродной нейтральности

Девять советов по развитию социально ответственного бизнеса


Однако стагнация цивилизации на века/тысячелетия опасна тем, что она может застрять в этом технологически недоразвитом состоянии и просто не пережить какую-то экзистенциальную катастрофу, с которой справилась бы более развитая цивилизация. 

Прогресс стал сложнее: исследование Стэнфорда говорит, что удвоение идей/технологий/компаний за тот же период требует каждый раз в четыре раза больше людей. В США сейчас в 30 раз больше ученых, чем в 1930 (и 5% ВВП отвечают за R&D) — в мире число ученых удваивается каждые 20 лет (а с 1800 года это число выросло в 500 раз). 

Поддерживать такие темпы притока людей в науку сложно — за пределами Африки мир движется к экспоненциально убывающему населению. 

 

Что делать? 

  1. Увеличивать долю населения, идущую в рисеч, и пытаться увеличивать рождаемость (что сложно: в Венгрии на это тратят 5% ВВП, а рождаемость выросла всего с 1.3 до 1.5 ребенка на семью); 
  2. Развивать AGI и проводить исследование за счет них; 
  3. клонировать Эйнштейнов. 

Нам нужно не свалиться в стагнацию, пока популяция Земли еще на своем пике — иначе застой может отбросить нас на тысячи лет назад.

 

4. Каким может быть конец света?

Derek Parfit, бывший преподаватель и научный руководитель МакАскилла в институте All Souls в Оксфорде, исследовал population ethics (как наши действия влияют на то, сколько людей родится в будущем). Он понял, что не так важно благосостояние людей сейчас — важнее, чтобы не исчезли все будущие поколения. Это стало первым общественным вбросом идей о population ethics. 

Эти идеи пока что довольно абстрактные.

Сейчас ученые пытаются понять: если люди будут жить хуже, но при этом число родившихся людей будет больше — это даст лучший или нейтральный эффект? 

Поистине астрономические масштабы будущих поколений вынуждают нас не просто думать о выживании человечества, но и о достигаемых им в будущем масштабах.

 

Счастливы ли сегодняшние люди? 

Разные методы соцопросов по миру дают всего 10% людей, недовольных своей жизнью (будем считать это уровнем «критически плохо»). При этом чем выше ВВП на душу, тем выше оценка удовлетворенности жизнью — последнюю сотню лет людям точно хорошо. 

Однако ежегодно 70 млрд цыплят и 100 млрд рыб и несколько миллиардов других животных убивают на еду. Поэтому в 18 лет МакАскилл стал вегетарианцем.

 

5. Как заинтересованному читателю действовать в повседневной жизни

Будущее развивается, и мы пока не можем его спрогнозировать. 

Однако мы можем:

  • делать вещи, верные для многих сценариев возможного будущего;
  • выбирать для цивилизации пути с большим выбором опций; 
  • продолжать глубже изучать прошлое и будущее;
  • изучать заброшенные сферы знаний: в них мало людей, и еще не сорвали низковисящие яблоки, можно нащупать что-то прорывное;
  • менять личное потребление;
  • более глобальный шаг на сегодня — оставлять 10% своих доходов для вложений в эффективные НКО. 
  • быть активным избирателем и гражданином: влиять на распределение государственного бюджета, распространять важные идеи (создать какое-то движение?), растить детей;
  • фундаментально — творить добро.

 

Мое мнение

1. Материалист пытается через рацио обнаружить что-то большее, чем его жизнь

В подростковом возрасте МакАскилл занимался urban climbing. Он сорвался с отеля в Глазго, и стекло фонаря порезало его тело на три дюйма вглубь, не задев органы. Этот случай сильно повлиял на его отношение к жизни. 

2. Мы правда можем получить больше завтра, если поработаем сегодня

Причем такая «работа» должна идти сверху: 

В людях очень сильны referential adaptations: они «привыкают к хорошему», но все равно ждут ежегодные улучшения потребления.

3. Антропоцентризм — слишком сильна наша вера, что AI будет френдли и не уничтожит людей как вид. 

4. Digital uploading — человеческое сознание можно будет загрузить в датацентры по всей галактике.

Max Tegmark считает, что будущее — в расселении цифровых сознаний по галактикам. Такая связь может быть очень долгой, и это будет уже не единое человечество в одном времени, а целая перспектива нескольких поколений — понадобятся тысячи лет, чтобы отправить сообщение даже со скоростью света.

5. Аксиоматика population ethics и их ментальные конструкции пока что далеко, их объект изучения слишком сложен.

6. Права животных в сравнении с людьми — у нас пока нет объективного выбора полностью поменять это.


Иллюстрации предоставлены автором

Фото на обложке: Shutterstock / Lia Koltyrina

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе последних новостей и событий!

Нашли опечатку? Выделите текст и нажмите Ctrl + Enter

Материалы по теме

  1. 1 Российские ученые разработают экологичную упаковку из нанокомпозитного материала
  2. 2 Свежий взгляд: 15 эко-приложений для вашего телефона
  3. 3 Альтернативное топливо: на чем будут ездить автомобили будущего
  4. 4 Робот в кухне и строгий клиент: самые важные тренды FoodTech 2022
  5. 5 Экология и экономические риски — как экологическому стартапу найти баланс и выжить
AgroCode Hub
Последние новости, актуальные события и нетворкинг в AgroTech-комьюнити — AgroCode Hub
Присоединяйся!