Life 3.0—возможные варианты развития Artificial General Intelligence

Главное

• Одна из самых увлекательных нон-фикшн книг, которую я когда-либо читал
• Тэгмарк рассуждает про то, как AGI [Artificial General Intelligence] может зародиться, по каким сценариям может пойти его развитие.
• Тэгмарк виртуозно переключается между уровнями абстраций:
  • таймлайнов: затрагивает и соверменный контекст и ближайшее будущее и спекулирует про десятки миллиардов лет будущего
  • контекстов: этика, контексты и мотивы разных стран,
  • технических деталей: и затрагивает основы искуственного интеллекта и технологий и умеет объяснять сложнейшие тезисы на пальцах
• В книге много отсылок к популярным книгам и фильмам: Transcendence, Her, Ex Machina..
• Моя любимая глава—6, про следующие 10 миллиардов лет, в которой Тэгмарк спекулятивно рассуждает как AGI будет летать по вселенной, испарять чёрные дыры, бороться с тем, что вселенная расширяется. И выполнять вычисления, конечно.

Тезисы

• Life 1.0—не может изменять ни свой софт, ни своё железо, и то и то задано через ДНК и развитие идёт только за счёт эволюции через поколения
• Life 2.0 [вы находитесь здесь]—может изменять свой софт. Люди приобретают новые навыки, ставят себе цели
• Life 3.0—Потенциально, сможет изменять своё железо. Ещё не существует на Земле.
• Интеллект—это способность достигать сложные цели
• Совокупное мнение экспертов в области искуственного интеллекта: интеллект, это про информацию и вычисления, а не про плоть и кровь. Это значит, что нет фундаментальных ограничений для создания AGI, Artificial General Intelligence
• Вычисления не зависят от того, на чём они выполняются. Будь то, механические реле, нейроны или транзисторы.
• Нейроны и NAND-gates способны выполнять универсальные вычисления. То есть на них можно построить бесконечно сложные алгоритмы.
• можно обучать алгоритмы машинного обучения в виртуальной реальности. Именно это и делают AlphaGo и AlphaStar // этот тезис, кстати, удивил меня, так как из него вытекает много прикольных применений: например, можно создать бизнес на том, чтобы в деталях эмулировать какие-то физические процессы и окружения, которые происходят в реальности, чтобы алгоритмы роботов могли ОЧЕНЬ БЫСТРО обучаться в виртуальной реальности базовым движениям и уже потом выходить для обучения в реальный мир.
• fun fact: оказывается, в 60-70 годах биологи во главе с Мэтью Месельсоном вели кампанию по введению запрета на развитие и распространение биологического оружия и преуспели
• Маск, Тэгмарк и Лекс Фридман утверждают, что сообщество учёных из области AGI недостаточно внимания уделяют попыткам адекватного регулирования и контроля потенциально опасных проявлений AGI.

Варианты развития AGI

• Допустим, человечество приближается к созданию AGI
• факторы, которые будут определять как AGI повлияет на мир:
  • с какой скоростью AGI будет переходить из состояния «значительно ниже способностей человека» в «сверхинтеллект». Дни, недели, годы?
  • какими будут цели у развивающегося AGI и насколько его цели будут сонаправлены с целями человечества
  • сколько стран/компаний будет находиться на равных стадиях развитий AGI
  • сколько будет стоить электричество и хостинг на которых будет развиваться AGI
• Тэгмарк не предсказывает конкретный вариант развития AGI, но перечисляет возможные сценарии. Приведу в пример один:

Потомки

• AGI кратко- и среднесрочно доброжелательно настроен к человечеству: устраняет неравенство, бедность, помогает людям жить наполненной жизнью, но у него свои цели. Цели бесконечно продлевать жизнь человечества у него нет, и со временем человечество вымирает.
• Вводит политику «один ребёнок на семью»
• Для тех у кого нет детей—выдаётся робо-ребёнок, идентичный натуральному

Следующие 10 миллиардов лет

• Оказывается, вселенная расширяется быстрее скорости света! И это проблема, так как области до которых могут добираться физические объекты постепенно сужаются
• Самые эффективные способы превращать материю в энергию—построить сферу Дайсона вокруг квазара (42% эффективности) испарять чёрные дыры (90%) // оказывается, чёрная дыра в размере меньше атома!!
• У AGI не будет ограничений биологических организмов на путешествия сквозь космос: не нужна избыточная защита от радиации, выше порог допустимых перегрузок, не нужно нести системы поддержания жизни.
• РАДИ БОГА, ЧИТАЙТЕ КНИГУ, ЭТО САМАЯ ИНТЕРЕСНАЯ ЧАСТЬ