расположенные вблизи краев листа. Затем весь процесс повторяется заново. Если процент успешных отождествлений вырос, компьютер сохраняет внесенные в алгоритм изменения; если нет, возвращается к исходным установкам. В любом случае компьютер будет продолжать вносить в алгоритм различные изменения, всегда сохраняя те, которые приводят к увеличению процента верных отождествлений. В конце концов система достигнет наивысшего процента успешных ответов, и в этой точке мы можем сказать, что она стала «тренированной».
В процессы такого вида можно вносить также множество разнообразных «примочек». Например, машина может смешивать инструкции из разных программ – по сути, «выводить скрещиванием» новые алгоритмы. Самые удачные из них затем снова скрещиваются для выведения еще более эффективных программ – так возникает некий причудливый аналог биологического естественного отбора. Этот так называемый метод эволюционного алгоритма – всего лишь один из примеров построения программы AI, искусственного интеллекта.
За последние годы описанный вид примитивного процесса тренинга AI был усовершенствован настолько, что машины теперь учатся производить очень сложные операции – например, распознавать человеческие лица или управлять беспилотным автомобилем. В литературе снова и снова поднимаются вопросы о значимости этих новоприобретенных способностей компьютера для повседневной жизни человечества и для рынка труда в будущем. Для наших целей, однако, более всех остальных важен один аспект AI: после того как программа начала процесс тренинга, никакие инструкции со стороны человека ей больше не нужны. Фактически, в случае сложных программ людям почти наверняка не удастся даже узнать, что именно сделала машина с исходной программой. Программа, таким образом, превращается в настоящий «черный ящик». Этот аспект AI породил область знаний, которую можно назвать компьютерной психологией и которая сводится к попыткам человека понять, как именно машина пришла к своему конечному результату.
Именно выход процесса модификации алгоритмов из‐под контроля человека и за пределы человеческого понимания и дал начало понятию искусственной жизни. Кроме того, эта потеря контроля порождает в человеческом разуме антиутопические картины грядущего господства компьютеров, обычно принимающих форму роботов. Особенно часто подобные предположения начинают звучать, когда речь заходит о технической сингулярности – упомянутой выше точке, в которой компьютеры становятся настолько же «разумны», как люди, и приобретают способность самосовершенствоваться без участия человека.
Однако, если отвлечься от сопровождающего эти разговоры нездорового возбуждения, станет ясно, что все страхи по поводу сингулярности крутятся вокруг одного предположения: существует нечто, называемое разумом, и как только машины приобретут его в достаточном количестве, они сделаются механическими версиями людей. Это предположение, в свою очередь, опирается на другое (обычно негласное): что человеческий мозг есть не более чем необычайно совершенный компьютер. Доводами за и против этого тезиса пестрит множество книг и научных журналов. Например, в своей книге «Новый ум короля» физик‐теоретик из Оксфордского университета Роджер Пенроуз погружается в глубины абстракций современной математики, чтобы доказать, что человеческий мозг способен выполнять операции, которые компьютеру недоступны в принципе.
Итак, зафиксируем основные различия между человеческим мозгом и компьютером (более подробно мы их обсудим чуть ниже):
• Мозг легко делает то, что с трудом дается компьютеру, и наоборот.
• Скорость работы нейронов измеряется в миллисекундах, транзисторов – в наносекундах, то есть транзисторы в миллион раз быстрее.
• У мозга наличествуют электрические и химические механизмы управления; у компьютера – только электрические.
Человеческий мозг силен в решении таких задач, как распознавание образов и оценка контекста высказываний – то есть именно тех, где компьютеры становятся в тупик. С другой стороны, где‐то существует компьютер, который знает по именам всех, кто завтра должен лететь рейсами United Airlines, – и с этой задачей не справится ни один человек. Мозг и компьютер имеют довольно разные сильные стороны. В результате они прекрасно работают вместе.
Основной рабочий элемент мозга – нейрон, основной рабочий элемент компьютера – транзистор. Обычный нейрон получает сигналы от других нейронов и каким‐то образом – как именно, мы, по правде говоря, не понимаем – решает, посылать ли ему самому сигнал соседним нейронам. На все это, включая очистку для дальнейших действий у нейрона уходит примерно миллисекунда. Современные транзисторы включаются и выключаются как минимум в миллион раз быстрее. Конечно, по человеческим стандартам фантастически быстро происходит и то и другое – но здесь мы просто приведем пример, позволяющий в полной мере осознать различие между одним и другим. Допустим, человек A (изображающий транзистор) может выполнить определенное задание за день. Допустим, человек B (нейрон) тоже может выполнить то же задание, но в миллион раз медленнее. Пусть человек A начал выполнять свое задание 24 часа назад. Вопрос: когда человек B должен был начать выполнять свое задание, чтобы закончить его одновременно с A? Ответ: за 770 лет до н. э., за несколько столетий до того, как в древнегреческих Афинах были сформулированы законы логики.
Отметим, наконец, что эндокринная система человека способна производить множество химических веществ, которые оказывают огромное воздействие на функционирование мозга. Представьте, например, что вы идете сдавать трудный экзамен сразу после разрыва с вашим женихом или невестой. (Будучи довольно старыми профессорами, мы оба можем засвидетельствовать, что такие вещи случаются намного чаще, чем вы думаете.) Так что, хотя и мозг, и компьютер имеют в своем составе системы, работающие на основе электрических импульсов, у мозга есть еще и химические рычаги управления.
Общий вывод из наших рассуждений таков: мы не можем рассматривать существующие сейчас компьютеры под тем же углом, под каким мы рассматриваем человеческий мозг. Эти две системы слишком уж различны. Это не значит, что, по нашему мнению, никому и никогда не удастся построить компьютер, достаточно сложный для того, чтобы его можно было бы счесть живым и разумным. Это далеко не так. Просто, если бы такой компьютер был построен, он не был бы представителем «Человечества 2.0», но имел бы совершенно иной вид разума, совершенно отличный от нашего. И хотя мы не можем даже приблизительно представить себе, на что такой разум мог бы походить, мы счастливы присоединиться к легиону писателей‐фантастов, которые рисуют роботизированные компьютеры будущего лишенными человеческих эмоций. Этот вывод, похоже, логически вытекает из отсутствия у компьютеров какого бы то ни было эквивалента эндокринной системы, которая может стать – а может и не стать – составной частью высокоразвитых машин будущего.
Будет ли развитие «сознательных» компьютеров означать конец человечества? В настоящий момент это один из самых распространенных апокалиптических сценариев. Большинство подобных антиутопий предполагают, что в какой‐то момент развития техники совершенные компьютеры достигнут технической сингулярности, станут разумными и поймут, как усовершенствовать свою конструкцию. Люди при этом, как мы уже говорили выше, этих изменений могут до какого‐то момента не замечать вовсе. Однако начиная с этого момента, как говорится во всех этих сценариях, машины начнут
