и машины станет решающим при взгляде на компьютер, машину нашего времени.
Божественные машины
Глава, в которой изложена история символических машин, предназначенных для механизации мышления, и представлена первая реальная машина, способная это сделать, а также показано, что думающие машины требовали не только новой математики, но и иного способа мышления, и что благодаря этому новой парадигмой отношений между человеком и машиной стала игра, пришедшая на смену зеркальному отображению.
Фантазия об универсальном мозге
Шел 1943 год. Беседа между двумя джентльменами, регулярно встречавшимися за чаем в кафетерии при Лаборатории Белла, текла довольно вяло. Долговязый американец был вполне открыт для светской беседы, его интересовало множество вещей, например джаз, езда на велосипеде, жонглирование и машины, способные читать мысли, его собеседник, англичанин, оказался замкнутым и нелюдимым и охотно называл себя отшельником. Они не могли говорить о своих исследованиях: они оба работали над проблемами шифрования, и им запрещалось распространять информацию об этом за пределами своего отдела. Поэтому они увлеченно играли в интеллектуальную игрой: будут ли компьютеры в ближайшем будущем обладать сознанием и смогут ли они думать, как люди, и если да, то как это можно проверить? В один из редких эмоциональных моментов во время беседы в кафетерии англичанин, Алан Тьюринг, воскликнул, что он хотел бы создать не гениальный мозг, а совершенно нормальный мозг, такой, как у президента AT&T, компании, которая в то время владела Лабораториями.
Оба собеседника принадлежали к числу самых блистательных умов своего времени. Американец Клод Шеннон занимался разработкой математически фундированной теории информации, основанной на проблеме шифрования, а Тьюринг недавно разгадал код немецкой шифровальной машины «Энигма» и тем самым оказал заметное влияние на ход войны[397].
Тьюринг уже создал «мыслящую машину», правда, только в своей голове. Эта машина состояла из хранилища для программ и данных, головки для чтения и записи и бесконечно длинной полосы бумаги. Ей было суждено внести вклад в решение вопроса о том, могут ли машины мыслить. Сам Тьюринг в 1936 году, когда вышла его статья «О вычислимых числах», сформулировал эту проблему более осторожно: можно ли вычислить все?[398] За этим стоял вопрос, могут ли машины принимать решения, что, по мнению Тьюринга, означало бы, что они мыслят.
Тьюринг доказал с помощью виртуальной машины, более известной как Универсальная машина Тьюринга, что это невозможно. Так он отреагировал на проблему разрешения, сформулированную геттингенским математиком Давидом Гильбертом. Гильберт хотел знать, может ли математика быть полной, то есть возможно ли решить все математические задачи с помощью фиксированной процедуры, без человеческой интуиции или гениальных идей. В этом случае их могла бы решить и машина. Тьюринг создал такую машину в своем воображении и использовал ее, чтобы доказать, что даже его бесконечная машина с бесконечно длинной полоской бумаги не может вычислить все числа. Это нанесло тяжелый удар программе Гильберта, после чего она была окончательно опровергнута Куртом Гёделем, но это уже другая история.
В наши задачи не входит описание деталей этой дискуссии о полноте математики. Важно лишь то, насколько тесно разработка компьютера была связана с вопросом об антропологических различиях. Для чего бы ни предназначались компьютеры – для оптимизации противовоздушной обороны, создания атомной бомбы, для предсказания погоды или биржевых спекуляций, – вопрос о том, что такое человек, оказывается существенным с самого начала[399]. Точнее, на кону стояло нечто большее. Тьюринг хотел создать не просто мыслящую машину, как он объявил тогда в кафетерии, а совершенную машину, которая могла бы рассчитать все и решить все проблемы.
Тьюринг искал божественную машину.
Тем временем он вернулся в Англию. Вопрос о том, может ли машина мыслить, как человек, и обретут ли компьютеры когда-нибудь сознание, не оставлял его. Позднее его судили за гомосексуальность и заставили пройти химическую кастрацию, после чего Алан Тьюринг, один из самых значительных ученых XX века, покончил с собой.
Тьюринг предложил тест, который, по его собственной осторожной формулировке, поможет выяснить, сумеет ли человек определить, с кем он общается – с другим человеком или с машиной. Этот тест известен как тест Тьюринга, хотя сам ученый называл его игрой в имитацию, поскольку речь шла о том, может ли компьютер подражать человеку[400].
Тьюринг несколько раз менял схему теста, но принцип оставался прежним: испытуемый А сидит напротив человека В и машины С за занавеской. А разрешается задавать В и С столько вопросов, сколько он хочет, в письменном виде, а в конце он должен определить, кто из них двоих человек, а кто машина. Конечно, В и С могут лгать.
«Бомба» Тьюринга – Уэлчмена – компьютер, который Тьюринг сконструировал в Блетчли-Парке специально для расшифровки сообщений, закодированных немецкой шифровальной машиной «Энигма»
Без сомнения, компьютер изначально задумывался как полезная машина – если в войне вообще можно найти нечто полезное, – но одержимость вопросом о том, может ли машина обладать сознанием и мыслить, сохраняющаяся по сей день, наводит на мысль, что за этим кроется нечто большее. Похоже, наше понимание самих себя зависит от странного вопроса о том, чем мы по существу отличаемся от машины, в противном случае можно с уверенностью предположить, что, даже если компьютер обладает сознанием и может мыслить, он не может прогуляться по лесу, насладиться сексом или приготовить идеальный томатный соус – и все это за одно воскресенье.
Фильм «Бегущий по лезвию» Ридли Скотта (1982) дает представление о том, что такое тест Тьюринга. Разновидность этого теста появляется в фильме под названием теста Войта – Кампфа. С помощью щелевой лампы, подобной тем, что используют офтальмологи, полицейский, который занимается поиском андроидов, незаконно находящихся на Земле, проверяет реакцию зрачков испытуемых на стрессовые вопросы. Теоретически, в отличие от человека, машина не должна проявлять никаких эмоциональных реакций. Однако уже на первом тесте ситуация выходит из-под контроля. Когда руководитель эксперимента спрашивает андроида о его матери, он приходит в такую ярость, что стреляет в экспериментатора.
В этой мрачной антиутопии также поднимается вопрос о том, как отличить машины от людей. В фильме, словно в затянувшемся тесте Тьюринга, перебираются один за другим все возможные отличительные признаки. Эмоции, как мы видели, не являются надежным критерием различия. Что же тогда – интеллект, любовь, душа (которая отражается в глазах), воспоминания? В заключительном монологе андроид Рой Бэтти (Рутгер Хауэр) дает тревожный ответ: истинно человеческим является осознание собственной конечности – в фильме этого достигает только машина, тогда как человек боится признать
