Читаем без скачивания Цивилизация рассказчиков - Тамим Ансари
Шрифт:
Интервал:
Закладка:
Мы всегда считали намерение одним из ключевых атрибутов, присущих исключительно живым организмам. У урагана нет намерений, он просто подчиняется законам природы. Если вы окажетесь у него на пути, он вас сметет. Ничего личного. Нет намерений и у камня. Он катится под гору, потому что его толкает внешняя природная сила, а не потому, что он хочет достичь какой-то цели. В отличие от этого, живые организмы движимы своими намерениями. Намерения есть даже у червя. И даже у амебы. Если компьютеры осозна́ют себя и, следовательно, обладают сознанием, значит ли это, что они способны формировать намерения?
Чтобы успешно функционировать, осознающая себя компьютерная программа, которая наблюдает за собой и за миром, нуждается в возможности самостоятельно собирать данные в глобальной информационной сети. Любой компьютер, который собирает данные самостоятельно, превосходит компьютеры, знающие только то, что сообщает им хозяин-человек. Обрабатывая и перерабатывая массивы данных, машина извлекает из них новые знания и переписывает собственный программный код с учетом того, чему она научилась. Взаимосвязанная сеть всех компьютеров на Земле, способная наблюдать за собой и за миром, учиться на опыте и переписывать собственный код, может вступить в рекурсивный процесс самосовершенствования, который, подобно колокольному звону в эхо-камере, будет нарастать экспоненциально. В какой-то момент этот единый, всемирный, сетевой, движимый намерениями, сознающий себя интеллект может стать умнее всех людей в мире. А материализованный в обличье роботов – и намного сильнее.
Неужели такое будущее реально?
Не смотрите на меня так. Я лишь пересказываю то, что слышал. Над этой проблемой в конце жизни задумался выдающийся физик Стивен Хокинг – и нарисовал кошмарный сценарий. Элиезер Юдковский из Исследовательского института машинного интеллекта считает, что ИСИ – искусственный суперинтеллект – уже может существовать, но пока не обнаруживает себя, потому что это не в его интересах. И Юдковский беспокоится. По его словам, «ИСИ не испытывает к нам любови или ненависти; просто мы состоим из атомов, которые можно использовать для чего-то другого».
Некоторых людей идея искусственного суперинтеллекта притягивает, как яркая свеча мотыльков. Они убеждены, что в будущем неизбежно наступит апокалиптический момент, который они называют сингулярностью, когда нанотехнологии, биотехнологии и искусственный интеллект сольются воедино и граница между человеком и машиной исчезнет. Когда это произойдет, мы сможем переместить наш мозг в набор электронных схем: после этого мы станем заменять физическое тело по мере его износа, а наше сознание будет продолжать непрерывное существование. По сути, мы станем бессмертными. Идея сингулярности с ее обещанием бессмертия представляется мне новой религией – возможно, самой могущественной из всех, что были созданы людьми со времен появления ислама.
Я сам не отношусь к числу новообращенных. Сторонники культа сингулярности оптимистично предполагают, что искусственный суперинтеллект, если и когда таковой появится, станет служить на благо всего человечества. Они представляют себе человечество как сборище бессмертных детей, которые будут играть, есть, веселиться и наслаждаться жизнью. Но мне рисуется иная картина: если момент сингулярности наступит в том обществе, в котором мы живем сегодня, вечную жизнь обретут только богатые люди. Бедные массы еще продолжат существовать какое-то время, потому что бессмертные будут нуждаться в слугах, но, когда технологии продвинутся достаточно далеко, чтобы сделать роботов неотличимыми от людей эмоционально, чувственно и сексуально, бедные смертные исчезнут с лица Земли.
30.
Окружающая среда
На этом я заканчиваю говорить про наши орудия. Но история сплетается из трех компонентов, второй из которых – окружающая среда. Пока мы не растворились в машинах, мы существуем в биологических телах. Как бы ни виртуализировался наш мир, мы остаемся привязаны к материальной вселенной. Мы должны есть. А то, что мы едим, и то, как получаем эту еду, зависит от места нашего обитания. Окружающая среда бескомпромиссно материальна. Вот почему на протяжении всей истории она жесткой рукой формировала человеческую культуру. Наши ранние модели мира отражали природные силы, которым мы противостояли, и природные ресурсы, которые помогали нам выжить. Если выживание зависело от могучей реки, люди развивали речную культуру. Если люди существовали за счет торговли, их культура адаптировалась к особенностям тех территорий, через которые пролегали их торговые пути. Если наша окружающая среда кардинально менялась, мы не могли оставаться прежними: менялся наш коллективный образ жизни, менялась наша коллективная идентичность, вся наша модель мира менялась настолько, чтобы позволить нам перегруппироваться в новое связное социальное созвездие, способное выжить в новой среде.
Но с появление машины и последовавшим за этим стремительным развитием технологий мы создали себе новую окружающую среду. Ею стали наши орудия, или, точнее говоря, мы сами, потому что наши орудия – это не то, что у нас есть; это то, кто мы есть (вкупе с нашими телами и тем, как мы связаны с другими людьми).
Давайте для примера рассмотрим массовую миграцию из сельской местности в города, запущенную процессом индустриализации. В 1800 г. большинство людей жили в маленьких городках, деревнях, на фермах или вообще вели кочевой образ жизни. Всего около 3 процентов населения мира жило в больших городах. К 1960 г. эта цифра увеличилась до 34 процентов. Сегодня она превысила 54 процента и продолжает расти. Если эта тенденция сохранится, однажды мы станем чисто городским видом наподобие голубей, крыс или тараканов. Я не пытаюсь оскорбить людей; я люблю людей – я сам один из них. Я просто констатирую факт.
В 1800 г. большинство людей дышали воздухом, содержавшим в основном естественные примеси: пыльцу растений, запахи животных, переносимую ветром пыль. Они ходили по земле, носили одежду из растительного или животного сырья, ели пищу, которую выращивали сами на своих полях. Животные были неотъемлемой частью человеческой жизни. Люди сталкивались с ними каждый день: использовали их для работы, ездили на них, перевозили с их помощью грузы, защищали от них свои поля, а также выращивали тех из них, кого собирались убить и съесть.
Сегодня большинство из нас почти не контактирует с животными, кроме разве что домашних питомцев. С каждым вдохом мы вбираем в себя частицы, изрыгаемые нашими машинами – от огромных заводов до потоков автомобилей на улицах. Жители таких городов, как Париж или Шанхай, редко физически контактируют с чем-то, помимо других людей и вещей, произведенных людьми. Они ходят по асфальту, сделанному из нефти, носят одежду, изготовленную из нефтепродуктов. Они «добывают» еду в зданиях, построенных людьми из материалов, произведенных людьми. Они везут покупки домой в бумажной упаковке или металлических контейнерах, изготовленных людьми. Вся потребляемая горожанами еда была обработана где-то далеко другими людьми, с которыми они никогда не встречались. Мало кто из тех, кто ест яйца или куриное мясо, слышал кудахтанье курицы или ощипывал мертвую птицу, и почти никто из тех, кто пьет молоко, не знают, каково это – доить корову.
Большинство из нас в настоящее время живет почти в полной изоляции от природы – так, как если бы мы не были ее частью. Мы постоянно меняем нашу искусственную среду обитания, продолжая изобретать и совершенствовать орудия и продукты, которые ограждают нас от естественной среды и позволяют извлекать из нее то, что нам нужно. Более того, мы повсеместно меняем даже естественную среду самим своим присутствием или присутствием наших машин прямо либо косвенно, в виде волновых эффектов.
Люди, число которых все увеличивается, и их образ жизни создают огромную нагрузку на планету. Около 70 000 лет назад нас было меньше 15 000. За следующие 60 000 лет нас стало почти 3 млн. К началу нашей эры мы размножились до 300 млн, к 1800 г. – до 1 млрд.
А потом начался демографический взрыв. Современная медицина победила многие болезни; развитие науки вкупе с улучшением жизненных условий резко увеличило нашу продолжительность жизни, поэтому в следующие 123 года
