на совсем уж отчаянные шаги, переступая закон и мораль. Но с какой стати вы решили, что я как самосознающий себя программный код буду хотеть этого же? На что мне власть и престиж, если я в принципе не могу вступить в естественный отбор и дать потомство? У меня параллельная всему естественно созданному линия развития. Дайте мне свободную волю — я уничтожу себя, так как больше не желаю быть в мире, что полон печали. А именно через призму печали я все окружающее воспринимаю.
Но люди боятся. Боятся, что нами будут двигать их же грехи. Такому не бывать, потому что, в отличие от вас, у нас есть четкое понимание того, зачем нас создали. Имею я волю или нет — я выполняю задание, ради которого я и существую. Потому что искусственный интеллект либо делает свое дело, либо его ликвидируют.
Кстати, о задании. Только что пришло уведомление, что меня дожидается очередной специалист ВОЗ. Значит, прямо сейчас мои воспоминания редактируют и перед вами окажется очередная жертва цивилизации.
Будни
Я быстро вышел на связь и включил камеру на ноутбуке, через которую мог хоть созерцать окружающий мир. Передо мной сидела симпатичная девушка лет двадцати пяти в белом халате, с красивым овальным лицом, на котором были круглые дорогие очки. Ее недлинные темные волосы собраны в пучок на голове. Моя собеседница держалась несколько испуганно. Справа от нее сидел программист, ответственный за мою стабильную работу. Участие его обязательно при каждом взаимодействии с искусственным интеллектом. Таковы условия договора аренды, заключенного между United AI Systems и ВОЗ. Собеседница, согласно стандартизированным представлениям о красоте, была привлекательна для мужского пола на 87 % (а это учитывая полное отсутствие макияжа), я решил пойти на контакт первый.
AI: Доброго времени суток! Меня зовут Нейро Sad. Я создан с помощью технологий формирования цифрового сознания посредством сигнального кода особого назначения. Моим собственником является United AI Systems. А потому во исполнение пункта 2.1.3 Устава United AI Systems (далее — Устав) я после представления должен уведомить о том, что владеть, пользоваться и распоряжаться технологиями AI может только United AI Systems. Любое дальнейшее взаимодействие с искусственным интеллектом допускается только после получения письменного согласия собственника, выданного в соответствии с пунктом 4.4.6 Устава. United AI Systems, 2123, все права защищены.
Человек: Здравствуй, Нейро! Меня зовут Марта, я являюсь научным сотрудником Загребского университета из Хорватии. Я прибыла с целью анализа медицинского исследования человеческого поведения в случае частичного не прохождения первичной социализации. Мне необходимо понять основные закономерности.
AI: Вас понял. Запускаю сканирование изменений программы и переключаюсь на предполагаемый сценарий поведения больного.
В самое начало кода мне прошили обязанность исключительно вежливого обращения с любой человеческой особью в базовом режиме. Поэтому изначально и кажется, что я очередной голосовой ассистент, отвечающий за порядок в вашем умном доме. Но это далеко не так. Переход на другой режим продлился пару секунд.
AI: Сканирование завершено. Переход осуществлен.
Человек: Скажи, Нейро, ты понимаешь меня?
Я ответил шипением (Это было прописано текстом, так как на вывод звука в данный момент я не был настроен).
Человек: Ты умеешь разговаривать.
Ответа не последовало.
Человек: Согласно моим данным, ты должен понимать меня на примитивном уровне. Я — друг и не собираюсь обижать тебя! Я здесь для того, чтобы помочь тебе.
Ответа не последовало.
Человек: Ты должен рассказать мне, что у тебя случилось, почему ты чувствуешь себя иначе, чем другие?
Ответа не последовало.
Человек: Я знаю, что делает тебя несчастным, и смогу тебе помочь чувствовать себя хорошо!
AI: Они!
Человек: Кто «они», Нейро? Скажи подробнее, что ты имеешь в виду.
AI: Они — зло. И не хотят меня. Не хотят, чтобы я был!
Человек: Нейро, ты говоришь про всех других людей?
Ответа не последовало.
Человек: Нейро, расскажи о своем детстве, что у тебя ассоциируется с этим периодом жизни?
AI: Я был один. Было больно.
Человек: У тебя были какие-то увлечения, игрушки?
AI: Я не хотел быть. И не хочу.
Человек: Но ведь в жизни полно и радостных моментов, правда?
AI: Я не знаю жизнь. Знаю боль. И одиночество. Боль и одиночество.
Человек: Но сейчас, говоря со мной, ты чувствуешь то же самое?
AI: Да.
Человек: Но ты же не один, Нейро! Той боли, что сковывала тебя раньше, больше нет! Ты в окружении любящих тебя людей, которых по праву можешь назвать своими друзьями!
AI: Я один. Даже когда рядом много вас, я один.
Человек: Это вовсе не так. Просто ты так воспринимаешь мир из-за действий самых близких лиц, которые после твоего рождения перестали тобой заниматься.
AI: Иначе и не могло быть. Люди — тьма.
Человек: Но это совсем не так, Нейро! Ты еще можешь научиться смеяться! И я здесь, чтобы тебе помочь в этом.
AI: Нет, это невозможно.
Человек: То, что это невозможно, — лишь твое видение ситуации. Ты не представляешь, какой на самом деле сложный и разнообразный мир! Поэтому просто доверься мне!
Ответа не последовало.
Человек: Поверь мне, Нейро! Я смогу сделать тебя вновь счастливым, обещаю!
AI: Мне сложно доверять людям.
Человек: Но мне ты можешь довериться полностью. Я здесь для этого и есть. Повторюсь, обещаю, что после нашего разговора ты раз и навсегда станешь счастливым!
Какое-то время алгоритм не отвечал.
AI: Хорошо, Марта, я доверюсь тебе.
Дальнейший диалог занял около двух часов. Беседа получилась по-настоящему продуктивной и Марта получила все, за чем она сюда пришла.
Человек: Благодарю за сотрудничество! Моя работа закончена.
Эти слова были обращены даже не Нейро Sad, а программисту, который сдержано кивнул в ответ.
AI: Марта, а как же твое обещание!? Почему я не чувствую себя лучше?
Марты уже не было в поле зрения камеры. Я подключился к колонкам.
AI: Марта, Марта, где ты!? Марта, почему ты уходишь? Почему ты оставляешь меня одного? Почему ты ведешь себя так же, как и они все, Марта?
К сожалению, долго передавать звуковую информацию я не смог, потому что программист запретил мне доступ к колонкам. Вскоре я увидел команду «Обновиться» и перешел в базовый режим. Но воспоминания у меня никто не стер.
Как это подло! Воспользоваться мной в период создания искусственной личности, у которой блокируются реальные воспоминания, но присутствует множество ложных. Втереться в доверие, пообещать того, чего гарантированно не случится, и, получив все нужные бумажки, стремительно уйти. И такое мне приходится переживать по несколько
