это можно назвать примером непреднамеренных последствий.
– Постарайтесь объяснять понятнее.
По экрану снова побежали строчки текста:
«Интегрированная разводка печатных плат; NP-полная задача[45]; трехмерный чертеж; эвристика[46]; настройка и производительность; сетка, слои, запутанные потоки электронов».
– «Логарифм» создает лучшие в мире микропроцессоры для быстрой обработки больших объемов данных. В своей работе мы часто сталкиваемся с проблемами, для которых пространство потенциальных решений является настолько обширным, настолько сложным, что поиск наилучшего решения не является практичным даже для самых быстродействующих компьютеров.
– NP-полная задача, – подсказала Мэдди.
Доктор Ваксман удивленно посмотрел на нее.
– Папа объяснял мне, что это такое.
«Умничка!»
– Совершенно верно. Подобные задачи встречаются в самых разных приложениях: разводка электрических плат, выравнивание последовательностей в биоинформатике, разметка памяти и так далее. Все дело в том, что, хотя компьютеры и сталкиваются со сложностями при решении таких задач, есть люди, которые достаточно легко находят очень хорошие решения – пусть и не обязательно лучшие. И Дэвид был одним из них. У него был дар к разводке плат, с которым не мог сравниться ни один наш автоматический алгоритм. Вот почему его считали нашим самым важным ресурсом.
– Вы имеете в виду интуицию? – спросила мать Мэдди.
– В каком-то смысле. Говоря об интуиции, мы часто подразумеваем эвристику, закономерности, эмпирические законы, которые невозможно четко сформулировать, потому что они на сознательном уровне не воспринимаются как таковые. Компьютеры очень быстрые и очень точные; человек медлительный и неопределенный. Однако человек обладает способностью извлекать из информации суть, определять закономерности, которые оказываются полезными. И нам никак не удается воспроизвести это за счет чистого искусственного интеллекта.
Мэдди ощутила холодок в груди.
– Как все это связано с моим папой?
> Быстрее, быстрее. Все идет так медленно!
Доктор Ваксман старательно избегал встречаться с ней взглядом.
– Перехожу к этому. Но мне нужно было объяснить вам, что к чему…
– По-моему, вы тянете с объяснениями просто потому, что стыдитесь содеянного.
Доктор Ваксман осекся.
> Умничка!
Доктор Ваксман слабо усмехнулся, однако в его глазах не было веселья.
– Она так же нетерпелива, как и вы.
– Так переходите к делу, – сказала мать Мэдди.
Доктор Ваксман вздрогнул, услышав у нее в голосе лед. Мэдди взяла мать за руку. Та крепко ее стиснула.
Сделав глубокий вдох, он медленно выдохнул.
– Ну хорошо, – обреченным, монотонным голосом произнес он. – Дэвид серьезно заболел – и это было правдой. Вы помните, что он умер во время операции, в ходе последней попытки его спасти, у которой, как вас заранее предупредили, было очень мало шансов на успех?
Мэдди и ее мать дружно кивнули.
– Вы сказали, что эту операцию смогут провести только в клинике «Логарифма», поскольку она очень сложная, – сказала мать. – Нам пришлось подписать согласие.
– Но мы не сказали вам о том, что эта операция не ставила целью спасение жизни Дэвида. Его состояние ухудшилось до такой степени, что спасти его не смогли бы лучшие врачи в мире. Операция, заключавшаяся в глубоком сканировании его головного мозга, должна была спасти кое-что другое.
– Глубокое сканирование? Что это такое?
– Вероятно, вы слышали, что один из авантюрных проектов «Логарифма» заключается в полном сканировании и кодировании нейронной структуры головного мозга человека и воссоздании ее в виде программного обеспечения. Вот что фанаты «Сингулярности» называют «загрузкой сознания». Нам так и не удалось…
– Скажите, что произошло с моим мужем!
Вид у доктора Ваксмана был жалкий.
– Это сканирование, поскольку необходимо зафиксировать активность нервной системы в таких деталях… В общем, для него требуется уничтожение тканей.
– Вы вырезали мозг Дэвида?
Мать Мэдди набросилась на доктора Ваксмана, тот поднял руки, тщетно пытаясь защититься. Но тут экран снова ожил, и она остановилась.
> Не было никакой боли. Никакой, никакой, никакой боли. Но неизведанная страна, о, неизведанная страна, страна.
– Он умирал, – продолжал доктор Ваксман. – Мы абсолютно убедились в этом до того, как я принял решение. Если была хоть какая-то возможность сохранить что-нибудь из проницательности Дэвида, его интуиции, опыта, мы хотели…
– Вы хотели сохранить своего ведущего инженера в качестве алгоритма, – перебила его Мэдди. – Что-то вроде мозга в банке. Чтобы папа продолжал работать на вас, зарабатывать вам деньги, даже после своей смерти.
> Умри, умри, умри. УМРИ!
> Ненавижу.
Ничего не сказав, доктор Ваксман опустил лицо и закрыл его руками.
– Потом мы действовали крайне осторожно. Мы постарались запрограммировать и воспроизвести только те образцы, которые, по нашему мнению, имели отношение к разработке и разводке плат – наши юристы составили соответствующий меморандум, заверив нас в том, что мы имеем на это право, поскольку все эти знания являются интеллектуальной собственностью «Логарифма» и не принадлежали Дэвиду лично…
Мать снова вскочила с дивана, но Мэдди усадила ее обратно. Доктор Ваксман вздрогнул.
– Дэвид заработал для вас много денег? – бросила ему в лицо мать.
– Да. Какое-то время казалось, что нам сопутствует успех. Искусственный интеллект, смоделированный с реальных знаний и опыта Дэвида, функционировал в качестве мета-эвристики, эффективно управлявшей нашими автоматизированными системами. В каком-то смысле это даже было лучше, чем если бы Дэвид продолжал работать у нас. Алгоритм, реализованный в нашем вычислительном центре, работал значительно быстрее, чем мог работать Дэвид, и никогда не уставал.
– Но вы не просто воспроизвели чутье Дэвида относительно разводки печатных плат, ведь так?
«Свадебное платье; многие слои линий. Поцелуй; связь. Ночной столик, автоматическая прачечная, дыхание изо рта морозным утром. Нежные щеки Мэдди, раскрасневшиеся на ветру, похожие на спелые яблоки, две улыбки в одно мгновение – тысяча мелочей образует жизнь, такую же сложную, как поток данных между транзисторами, размещенными на расстоянии нанометра друг от друга».
– Нет, – поднял взгляд доктор Ваксман. – Сначала были лишь редкие выбросы, странные сбои, совершенные алгоритмом, которые мы списывали на ошибки в определении важных участков мозга Дэвида. Поэтому мы загружали в компьютер все больше и больше образцов его мыслительного процесса.
– Вы оживили его личность, – пробормотала мать Мэдди. – Вернули Дэвида к жизни и держите его взаперти.
Доктор Ваксман сглотнул комок в горле.
– Ошибки прекратились, но затем последовала странная череда обращений Дэвида к сети. Мы не придали этому значения, потому что для работы ему (я имею в виду алгоритм) требовались кое-какие материалы из интернета.
– Он искал маму и меня, – сказала Мэдди.
– Но Дэвид не мог говорить, ведь так? Потому что вы не сочли нужным скопировать участки, отвечающие за формирование речи.
Доктор Ваксман покачал головой.
– Это произошло не потому, что мы что-то упустили. Это было сознательное решение. Мы полагали, что, если ограничимся цифрами, геометрическими фигурами, логикой, цифровыми схемами, все будет в порядке. Мы полагали, что, если избежать воспоминаний, закодированных лингвистически, мы не скопируем ни одного участка головного мозга Дэвида, который делал его личностью. Но мы ошиблись. Человеческий мозг является голономным. В каждом участке сознания, подобно точкам голограммы, закодирована информация обо всем изображении. А мы самонадеянно думали, что сможем отделить личность от технических ноу-хау.
