Читаем без скачивания Шаг к звездам - Андрей Ливадный

— Герберт тебе не кажется, что мы собирались заняться иной проблемой? Сейчас полночь, все лаборатории закрыты, сектор пуст, но в нашем распоряжении не так много времени. Ваймонт встает в пять утра и…

— Я ничего не забыл, Алан. — Герберт устало помассировал виски. — И не собираюсь отказываться от наших договоренностей.

— Тогда в чем дело? Ты подготовил оборудование?

— Нет. Я был занят.

— Чем, позволь спросить?

— Вот этим… — Ричардсон указал на экран компьютерной системы. — Сегодня один из строительных роботов сорвался с двухсотметровой высоты. Это случилось после нашего с тобой разговора. Дежурный сообщил мне о происшествии с пульта, и я выехал на место падения.

— Ну? — Прищурился Алан, не находя логической взаимосвязи между разбившимся кибермеханизмом и темой их утренней беседы в кафе.

— Это уже десятый случай… — Объяснил Герберт. — На начальных стадиях строительства ничего подобного не происходило, аварии начались три недели назад, а сегодня ситуация внезапно получила непредсказуемое развитие: за то время пока я ехал к месту падения кто-то уже побывал там и изъял нейромодули из разбившегося механизма.

Керби задумался.

— Периметр стройки строго охраняется. — Наконец высказал он свое мнение. — Вряд ли кто-то проник на территорию мегаполиса извне.

— Здесь ты абсолютно прав. — Мрачно подтвердил Герберт. — Скажу больше, — модули изъял не человек.

— Что?!.. — Спокойствие на миг изменило полковнику, и он недоверчиво посмотрел на Ричардсона.

— Посмотри сам. Вот видеозапись события. — Капитан коснулся сенсора на терминале, и изображение ожило. Керби ждал комментариев, но их не последовало. Видимо Герберт хотел услышать его мнение по поводу инцидента.

— Не вижу ничего примечательного. — Произнес Алан, проследив, как бетонная конструкция сбила кибермеханизм. — Думаю, что на стройках подобные инциденты происходят достаточно часто.

— Да. — Согласился Герберт. — Люди склонны ошибаться, пренебрегать техникой безопасности, но машины — нет. Год стабильной безаварийной работы лишь подтверждает серьезность проблемы. Дело в том, что эти механизмы, — он указал на экран, — принципиально отличаются от андроидов, которыми ты командовал в Афганистане. Их нейросети объединены в систему, ядром которой является написанная мной программа «Дарвин».

Заметив откровенное недоумение в глазах Алана, Герберт моментально вспомнил свой разговор с Уилсбергом, и постарался вкратце передать его суть, объяснив полковнику смысл работы «Дарвина».

— Это саморазвитие? — Выслушав его, полуутвердительно произнес Керби.

— Да. Я предупреждал генерала, что процесс может иметь непредсказуемые последствия, но он стоял на своем.

Керби хмуро покачал головой.

— Не верю, что ты пошел на поводу у Альберта, слепо следуя его приказам.

— Ты прав. Не зная с какой скоростью будут самосовершенствоваться нейросети машин под управлением «Дарвина», я ввел чисто физический ограничитель потенциального саморазвития системы, ограничив ее возможности тридцатью нейромодулями. Чтобы тебе было понятно, проведу природную аналогию, — эволюция наших предков напрямую связана с ростом объема головного мозга…

— Скажем проще, — перебил его Алан. — Кошка никогда не станет мыслить абстрактно, хотя обладает изрядной долей сообразительности. Насколько я понимаю количества нейросетей, расположенных под черепной коробкой наших домашних любимцев, недостаточно для формирования собственного «я».

— Грубо, но верно. — Согласился Ричардсон. — Я то же отталкивался от подобного постулата, хотя понимал, что количественный недостаток может быть компенсирован качеством взаимосвязей, возникающих между отдельными нейрочипами. Система «Дарвин» не вводит ограничений сложности саморазвивающейся структуры. При этом следует помнить, что у машины есть постоянные запоминающие устройства, где храниться информация, и мощные сопроцессоры, управляющие сервомеханизмами робота. То есть нейросети в данном случае не обременены рутинными задачами, и могут отождествляться с высшими слоями церебральной коры головного мозга человека. Они получают информацию, распознают ее, анализируют и отдают указания подчиненным системам, формируя поведение машины.

— Хорошо, это я понял. — Алан непроизвольно покосился на электронные часы, отметив, что уже четверть первого.

— В таком случае взгляни сюда. — Герберт указал на экран, где был остановлен кадр, снятый видеокамерой наблюдения за несколько секунд до рокового удара бетонной конструкции. — Попробуй сам определить сбой.

Керби внимательно взглянул на изображение.

— Не вижу ничего особенного… — Спустя минуту признал он.

— Тебе когда-нибудь приходилось просыпаться в гостях после хорошей вечеринки? — Неожиданно спросил Ричардсон.

— Ну, бывало. — Пожал плечами Алан.

— Тогда тебе должно быть знакомо чувство недоумения, когда незнакомая окружающая обстановка вызывает мгновенный мысленный вопрос: «Где я»?

Керби кивнул, усмехнувшись.

— У меня такие ассоциации по большей части связаны не с вечеринками…

— Это не важно. Здесь иллюстрируется одно из свойств разума: он всегда моделирует ожидаемую ситуацию, несколько опережая реальное событие. Ты открываешь глаза, но видишь совсем не тот интерьер, который предполагал рассудок, и лишь воспоминание, что накануне ты уснул не дома, а в гостях, расставляет все на свои места.

Керби вновь покосился на экран.

Некоторое время он напряженно всматривался в детали изображения, пока, наконец, не заметил очевидный для Герберта нюанс: за несколько мгновений до удара все механизмы продолжали работать, и лишь один из них стоял, пристально наблюдая за движением бетонного блока…

— Он предполагал событие? — Керби щелкнул ногтем по силуэту машины.

— Да. — Герберт укрупнил картинку. — Он явно ожидал, что сейчас произойдет удар. Я проанализировал все предыдущие случаи и пришел к выводу: инциденты не инсценированы, они произошли скорее вследствие резкого повышения числа машин, работающих на ограниченном пространстве высотных объектов, но, что закономерно: данный кибермеханизм являлся свидетелем трех предыдущих аварий. — Герберт сделал несколько переключений, и в кабинете внезапно зазвучали человеческие голоса:

— …ого, да тут и собирать-то нечего. Надо же, с такой высоты гробанулся.

— Да… что называется «восстановлению не подлежит».

— Ладно, давай, все равно нужно собрать обломки.

— А куда их? Это даже на запчасти не сгодиться. Мусор.

— Тебе приказано — собрать, вот и выполняй…

Герберт остановил воспроизведение.

— Механизм с серийным номером «3476» находился в момент разговора на месте события. Все машины обучены распознаванию речи, так что он усвоил информацию, о том, что разбившийся робот классифицируется как «мусор». Последующие трое суток он ожидал очередного происшествия, с тем, чтобы изъять нейромодули из изувеченного механизма.

— Зачем? Ты ведь сказал, что они ограничены тридцатью чипами.

— Они оснащаются тремя десятками микрочипов, — уточнил Герберт. — Но, как любая машина, строительные роботы рассчитаны на вероятную модернизацию, — их материнские модули содержат еще полсотни резервных разъемов. — Ричардсон встал и нервно прошелся по кабинету. — В завершении могу сказать, что 3476-ой исчез. После изъятия чипов он не вернулся на строительную площадку. Канал связи не работает, видимо он заблокировал внешний доступ к данным.

— Это ставит жирный крест на использовании «Дарвина», верно?

— Без сомнений. Программа потенциально опасна. Не хочу даже думать, какими тропками пойдет саморазвитие человекоподобных машин, для которых запланировано по сотне нейрочипов в качестве базы и еще двести резервных разъемов для вероятного расширения системы.

— И что ты собираешься делать? — Криво усмехнулся Алан. — Пойдешь на доклад к Уилсбергу?

Герберт прекратил расхаживать по кабинету. Облокотившись о терминал компьютерной сети, он раздраженно посмотрел на Керби, и спросил, не воспринимая его сарказма:

— А, по-твоему, я должен промолчать?

— У тебя есть альтернатива «Дарвину»? — Задал полковник встречный вопрос.

— Нет. — Покачал головой Герберт.

— В таком случае, прислушавшись к твоему мнению, Уилсберг будет вынужден полностью заморозить стройку, и доложить, что миллиарды долларов зарыты в землю, а новая национальная идея тотального технического превосходства Соединенных Штатов изволила сдохнуть, только из-за того, что один из тысяч строительных роботов проявил опасную инициативу? Ты считаешь, генерал пойдет на это?

Ричардсон угрюмо промолчал в ответ.