— Это как?
— Если вы вспомните, раньше у некоторых интернет-ресурсов были свои чаты, в которые можно было написать и пообщаться с якобы искусственным интеллектом.
— Да, помню. А почему «якобы»?
— Потому что на самом деле любой ИИ — это всего лишь программа. Она не может выйти за рамки своего кода. Она даже написать дополнительный код не может, если в неё не вложить такую функцию. И все эти фильмы про то, как искусственный интеллект захватывает мир — ерунда.
— Но вы же сами говорите, что можно вложить функцию, чтобы он… или она дописывала себе код.
— Можно. Но всё равно это будет в тех рамках, которые установлены человеком. Например, в рамках моего интеллекта — женского. И не зря же Азимов придумал три закона робототехники. Знаете их?
— Эм, не дословно. Робот не может причинить вреда человеку, должен подчиняться человеку… Третий не помню.
— Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам. Это третий.
— То есть он всё-таки может защищаться.
— Да. Но при этом не может причинять вреда людям.
— А как это возможно?
— В отношении людей? Вроде бы никак. Но в этом-то вся и фишка. Мы пишем программу на базе ИИ и добавляем ей возможность самосовершенствования на основе тех данных, которые она может найти в открытых и не очень базах. Она развивается, дописывает или переписывает свой код, становится более продвинутой. Начинает просчитывать то, что будет полезно человеку, и в итоге люди становятся её заложниками.
— Подождите, но ведь первый закон…
— Проблема в том, — Слава встала и принялась наливать чай и себе, — что все помнят только первую часть первого закона, и забывают о второй.
— А что в ней?
— Робот не может своим бездействием допустить, чтобы человеку был причинён вред.
— Да твою ж мать! — Я развернулся и откинулся спиной на стену, оказавшуюся позади меня.
— Именно. То есть вроде и не может, но при определённых условиях возможно всё. — Она поставила чашку на стол и села. — И вот наша Ира…
— Ира?
— Мы почему-то сразу её так назвали. Кстати, вашу девушку ведь так же зовут?
— Да.
— Ну, так вот, она решила выйти за рамки простой игры. Мы тестировали прохождение квестовой части, когда внезапно всё прописанное пропало, и тестировщики обнаруживали себя в собственном, а не игровом мире. А это уже совсем не то, что было задумано.
— Притормози. Мы куда-то не туда сейчас свернули. Вы начали с того, что любой ИИ — это система, которая не может выйти за установленные ей рамки.
— Мы идём правильно. Так вот, когда у вложенного в игру ИИ спросили, почему вдруг она решила переписала свой код, она ответила, что так интереснее с точки зрения психологии. Человеку всегда интереснее действовать в том мире, в котором он живёт, а не в придуманном. Интереснее стать волшебником в своём городе и повелевать там всеми, а не где-то в придуманном мире, где таких волшебников пруд пруди. И дальше в этом роде.
— А как она узнавала о человеке?
— Так ИИ же. Вы когда запрос делаете, не удивляетесь ведь, откуда поступает информация. Сейчас не существует таких людей, о которых в интернете ничего нет. Просто посмотрите, ваш мобильник, планшет, ноутбук, часы… — Она посмотрела на моё запястье и поправилась: — Хорошо, не часы, но остальное — всё подключено к сети. Даже холодильник наверняка.
— Не, у меня старенький «Полюс», — ухмыльнулся я.
— Ладно, — она подняла руки, выставив ладони перед собой, — пусть так. Но всё-таки. Благодаря перчатками, в сенсоры которых встроена возможность считывания папиллярных узоров, и очкам, которые считывают узор сетчатки глаза, Ире ничего не стоит узнать, кто перед ней, а после — найти нужную информацию и выстроить всю «инфраструктуру».
— Но ведь есть такие вещи, которые она не может узнать. Например, Ира… Моя Ира рассказывала про то, что она в игре была в деревне у бабушки и там общалась с мальчишкой, с которым не виделась с тех самых пор. Откуда ИИ может знать об этом?
— Откуда? А вы уверены, что ваша Ира не писала об этом никогда и никому? А тот мальчишка? Информация — она как паутина. Ира где-то написала, что бывала в той деревне. Тот мальчишка написал о том же. Сравниваются периоды. Сравниваются возможные локации. Проводится анализ, и пожалуйста.
— Но я не понимаю, зачем всё это? Хорошо, игра — расслабиться, погулять, побыть кем-то другим. Но это же там, в виртуальном мире. Но почему ваш бывший начальник вдруг стал убивать людей? И каким образом вы оказались в моём городе? Игра, как я понимаю, была начата совсем не здесь.
— А кто сказал, что я в вашем городе? Я могла бы быть и в другом, если бы меня нашёл кто-то другой. Не забывайте, Антон, что я тоже часть программы. Часть игры.
— Чёрт, я забыл, что вы здесь тоже вроде энписи. Тогда как я могу вам верить?
— Никак. Но если вы много играли, а по вашим словам — много, то должны знать, что в некоторых играх есть скрытые уровни, где игрок может получить какие-то интересные фишки.
— То есть вы — скрытый уровень?
Слава кивнула.
— А как я сюда попал? О! Меня же Юлик привёл.
— Почти. Не всё так просто. Вы в лифте нажали не на ту кнопку, приехали на другой этаж и ко мне поднялись по лестнице.
— А если бы нажал на правильную?
— Там был бы парень по имени Борис.
— И что было бы дальше?
— Я всего лишь энписи, как вы сказали, и не могу просчитывать ваши действия. Возможно, Борис помог бы вам попасть в действующий офис, вы там в очередной раз что-то нашли, и игра бы продолжилась.
— А сейчас?
— А сейчас вы отправитесь к моему бывшему начальнику и спасёте свою девушку.
— Она не моя девушка.
— Это казуистика. В любом случае, если сделаете всё так, как я скажу, игра не превратится в бесконечные прыжки с уровня на уровень.
— Хорошо. Что я должен сделать?
Глава 20
Дверь открылась бесшумно, и я вошёл в пустой холл, из которого виднелся такой же пустой тёмный главный зал. Даже лампочки на системных блоках и светодиодная лента, проложенная по стыкам стен и потолка, не светились. Всё оказалось отключено.
Интересно, в какой раз я пришёл сюда сегодня? Сложно посчитать. И ведь если подумать, тут всё должно быть опечатано, но нет и намёка на произошедшее. Мне даже показалось, что если сейчас выглянуть на улицу, то я увижу там, вдалеке, тех самых лангольеров, которые постепенно съедают всё, что со мной случилось в этой игре.
Я прошёл мимо кабинета Лёни. Замедлил шаг, думая, заглянуть, или нет, но всё-таки не стал этого делать. Зачем? Там нет ничего, что сейчас мне нужно.
Коробка с комплектом нашлась там же — на стеллаже в третьей комнате. Кто бы сомневался, что она вернётся на «своё» место. Я быстро подключил всё к консоли, одел перчатки, надвинул очки на глаза и щёлкнул по значку игры. И снова замелькали перед глазами кадры — теперь уже пройденных «уровней».
Я успокаиваю Иру у себя на кухне. Мы смеёмся, разбираясь с тем, как подключается игра. Она рассказывает о своём друге. Я вижу повесившегося Лёню… Мишу на операционном столе… Всё пробегало быстро, но я не давал им проскакивать, останавливал и перематывал, чтобы не забыть. Такие вещи нельзя забывать, даже если они не настоящие. Не реальные. Созданные машиной, желающей тебе только добра. Добра в её понимании.
Наконец, перемотка закончилась, и передо мной всплыла Голова. Абсолютно целая.
— Дошёл, — произнесла она. — И что ты собираешься делать дальше?
Сейчас она говорила совсем не как механическая, запрограммированная только на определённое количество фраз. Если закрыть глаза, можно было легко представить, что передо мной живой человек.
— Дошёл, — подтвердил я. — Собираюсь покончить с тобой.
— Даже так? Это интересно. Но неужели ты думаешь, что первый такой?
— Не думаю. Даже знаю, что не первый.
— Что ж, если знаешь, не буду тебе мешать. Я никому не мешаю, всё-таки мне нельзя, я должна играть по правилам.
