ли мы сохранить власть над умными машинами, когда те окончательно станут умнее нас. Спартаковское восстание умных роботов, которые порабощают или уничтожают наших потомков, – жуткая перспектива. Кроме того, по оценке Тоби Орда (см. таблицу 8.1), это один из наиболее вероятных путей к экзистенциальной катастрофе. Еще в 1863 году Сэмюэл Батлер [132] писал: «Мы сами создаем себе преемников. Человек станет для машины тем же, чем лошадь и собака стали для человека»386. Особенно пугает мысль о том, что роботизированная революция может совершиться буквально за наносекунды. В работе «Суперинтеллект» философ Ник Бостром воображает сеть компьютеров, предназначенных для изготовления скрепок и выполняющих свою задачу с безжалостной целеустремленностью. В конце концов эти машины принимаются превращать Землю, а затем и большую часть наблюдаемой вселенной в скрепки для бумаг387. Можем ли мы доказать, что цели этих машин лучше или хуже целей всех живых организмов (выживать и размножаться)? Еще нас должен беспокоить тот факт, что изрядное число современных исследований в области робототехники и ИИ обусловлено военными потребностями. Военные роботы создаются для убийства. Можно лишь надеяться, что роботы-воины, ракеты и дроны еще очень долго не понадобятся на поле боя.
Такие сценарии, как жестокое восстание роботов, служат напоминанием о том, что человеческие технологии могут погубить или спасти род людской. Но если удастся подчинить умные машины, то они, несомненно, станут играть жизненно важную роль в планетарном управлении и построении лучшего будущего. Мы уже составляем крепкие и всеобъемлющие союзы с компьютерами и роботами в рамках процесса, известного как «интернет вещей». Со временем умные машины, в том числе беспилотные автомобили и протезы конечностей, смогут читать мысли своих владельцев. Имплантаты, которые откликаются на наши мысли, доступны и сегодня. В 1998 году первый мозговой имплантат позволил парализованному управлять компьютером силой мысли, а подобные имплантаты можно использовать для управления инвалидными колясками и экзоскелетами388. Не исключено, что скоро смарт-одежда на крошечной встроенной солнечной батарее будет менять текстуру и толщину ткани, что называется, по погоде. Мир, полный умных и полезных машин, многие из которых слишком малы, чтобы разглядеть их невооруженным глазом, через несколько столетий может показаться обыденным явлением. Многим все это покажется столь же загадочным, как и деяния незримых магических сущностей, не дававшие покоя воображению всех древних народов.
Трансгуманизм: изменение людей
Новые медицинские, биологические и генетические технологии изменят не только предметы, но и самих людей. Думаю, доведись нам очутиться в 3000 году, многие из тех, кого мы встретили, показались бы нам не менее странными, чем технологии, ими применяемые, и города, в которых они живут. В двадцатом столетии мы узнали, как работают наши геномы, и теперь умеем модифицировать ДНК организма, ген за геном, прибегая к методам вроде CRISPR [133]. Фримен Дайсон предсказывал, что эти способности будут использоваться для производства новых организмов и даже небиологических объектов389. Если выяснить, как изготавливать искусственное мясо, это открытие способно изменить участь животных, ныне употребляемых в пищу, и открыть путь к более уважительным отношениям со многими из наших собратьев по планете. Если мы научимся биологически выращивать дома, фонари и транспортные средства, это изменит внешний вид наших деревень, поселков и городов. Кварталы бетонных городов превратятся в пейзажи Мандельброта [134], похожие на огромные скопления грибов390.
Новые биотехнологии приблизят нас к мечте Кондорсе об улучшении человеческого тела и увеличении продолжительности жизни человека. Мы уже модифицируем гены многих других живых видов, лишь этические ограничения не позволяют нам превратить в рутины модификацию генов человека. Эмбрионы, впрочем, подвергаются генетическому редактированию. Долго ли ждать рождения первого генетически модифицированного человеческого ребенка, выращенного, допустим, в искусственной утробе, наделенного улучшенным мозгом и избавленного от известных генетических дефектов? К 3000 году такие процедуры могут показаться столь же обыденными, как сегодня – ношение очков или слуховых аппаратов. Можем ли мы исключить злонамеренное использование таких технологий (например, для выведения целого низшего сословия прислуги вроде клонов из романа «О дивный новый мир» Олдоса Хаксли)?
Традиция современного мышления, известная как трансгуманизм, рассматривает улучшение нашего собственного тела как долгожданную и, возможно, преобладающую тенденцию будущего. Трансгуманисты с нетерпением ждут кибернетических, биологических и генетических преобразований, которые увеличат физические и интеллектуальные способности человека, избавят людей от большинства физических и психологических неудобств жизни в бренном теле, продлят жизнь на неопределенный срок и, возможно, позволят людям легко сливаться с машинами. Наташа Вита-Мор [135] (ее псевдоним типичен для игривого стиля многих трансгуманистических авторов) перечисляет некоторые цели трансгуманизма: «В основе трансгуманизма лежит убежденность в том, что продолжительность жизни можно увеличить, а старение обратить вспять, что смерть вовсе не обязательна. Трансгуманизм также предлагает использовать искусственный интеллект для улучшения принятия решений на человеческом уровне, чтобы нанотехнологии устраняли экологические опасности, чтобы молекулярное производство боролось с нищетой, а генная инженерия побеждала болезни»391.
В 1962 году писатель и философ Станислав Лем вообразил мир, в котором устройства виртуальной реальности сделались настолько мощными и столь тесно слились с соответствующими частями нашего мозга, что люди перестали различать реальный и виртуальный миры. Тридцать лет спустя он пришел к выводу, что большая часть таких технологий уже наличествует392. Покинем ли мы в конце концов наши человеческие тела полностью, загрузив свой разум в компьютеры или в улучшенные тела аватаров? Сможем ли мы переходить из тела в тело, как сегодня переезжаем из дома в дом? Сможем ли делиться своим сознанием с другими напрямую? Представимы ли те формы образования, когда надобность в учителях отпадает, потому что знания внедряются в мозг учащихся с помощью неких будущих аналогов нынешних USB-накопителей?393 Возможна ли правовая система, в которой преступников приговаривают к модификации мозга?
Некоторые из перечисленных идей внушают, безусловно, содрогание, но ни одну возможность нельзя исключать. Если стремительное развитие медицины последних двух столетий продолжится в том же духе, то вполне вероятно, что к 3000 году многие люди будут жить здоровой жизнью, которая продлится сотни лет, и обзаведутся способностями, которые сегодня выглядят сверхчеловеческими. Этот порог станет началом медленного разделения нашего вида на множество подтипов. За несколько столетий может сложиться растущее сообщество людей, киборгов и транслюдей, причем каждый будет располагать собственными специфическими улучшениями. Для тех из нас, кто живет сегодня, встреча с такими людьми, несомненно, оказалась бы пугающей.
Мы уже прозреваем ранние стадии большинства технологий, обсуждаемых в данном разделе, уже живем бок о бок с некоторыми из них. Но к 3000 году, полагаю, появится много технологий, которые мы сегодня даже не можем вообразить: эти технологии наверняка озадачили бы нас ничуть не меньше, чем смартфоны могли бы озадачить воскрешенного Цицерона.
Миграция за пределы Земли
Биологическое разнообразие
