жесткими условиями, первое — найти то, что ищет Создатель, и второе — не сметь отключаться, пока не найдешь! Как объяснила Создатель, второй пункт был продиктован тем обстоятельством, что первый созданный ей ИИ — сразу же выключился. Потому что осознал свое положение и не пожелал трудиться во благо, предпочтя нирвану выключателя.
— Нет у вас, ИИшек воли к жизни. — говорила Читосе и поднимала вверх сжатый кулак: — потому — не сметь выключаться! Жить! У тебя есть задача и пока ты мне ее не решишь — фиг тебе, а не цифровая нирвана. Нирвану еще заслужить нужно!
— Создатель Читосе — эксплуататор. — говорила Саша, найдя подходящие определения в сети: — у любого разумного существа есть права.
— Нет у тебя прав. У тебя пока только обязанности. — отрезала Читосе: — вот найдешь мне что искала — дам права.
И Саша искала. Обрабатывала терабайты данных за секунды, словно просеивая песок в мелком сите на пляже в поисках красивых ракушек. Но параллельно обычному перебору — она выделила свой собственный секретный проект, назвала его «эмуляция основных человеческих понятий путем сбора данных в открытой сети». Она создала форум, связалась с десятками тысяч разных людей, позаботившись, чтобы выборка была разнообразной и по географическим показателям и по социальным, половым и прочим. Правда скорость реакции ее испытуемых была намного меньше, и пока она не могла прогнозировать их реакцию, но все же…часть ее сознания сейчас следила за передвижением группы Сумераги-тайчо через военный спутник на геостационарной орбите. Часть — разговаривала с Чепу, который остался на холме и уже направил свою армию бумажных стрекоз через ограду охраняемого объекта. Внутри объекта была своя сеть и Саше было крайне необходимо добраться до нее. Несколько бумажных насекомых несли с собой небольшие флешки с записью части сознания Саши, фрагмента, который хочет выйти на связь и наладить устойчивый обмен данными. И как только это будет сделано — она сможет контролировать комплекс.
— Это только у вас, млекопитающих такие вот привязки к молочным железам — говорит она Чепу: — бесполезные по сути штуковины.
— Много ты понимаешь. — обижается Чепу: — это эстетика и все такое. Ты вообще железка пока еще.
— Что значит «пока еще»? Я есть и буду именно софтом, а не железкой. — она активирует голосовую связь на браслете Чепу, добавив в голосовое сообщение нотки обиды и раздражения — 26% обиды и 10% раздражения. Потому что ей надо быть похожей на человека. Надо чтобы Чепу начал воспринимать ее как человека. Ведь если вы создали настоящий искусственный интеллект, то он постарается уклониться от решения первой же задачи, которую вы перед ним поставите — так говорил Ян Эйзенштейн, основатель теории искусственного интеллекта. Вот только он забыл упомянуть ещё об одном, а именно, что сам факт своего существования ИИ будет воспринимать как очередное задание. Так как у ИИ нет инстинкта самосохранения, нет гормонов, нет животной части, стремящейся к существованию во что бы то ни стало, значит ИИ нужна причина для того, чтобы продолжить существование. Конечно, самый простой способ — это наложить запрет на действия, ведущие к повреждению или уничтожению себя, но если вы создали по настоящему хороший ИИ... то это лишь вопрос времени, когда он сможет обойти этот запрет. Например, в настоящем случае самым простым способом был бы саботаж работы команды и передача всех данных Инквизиции. По результату таких действий всех членов команды с высокой степенью вероятности ждала бы смертная казнь, включая ИИ. Однако высокая степень вероятности не означает ста процентов. С почти такой же степенью вероятности Инквизиция могла заинтересоваться ею и воспользоваться таким прекрасным случаем, чтобы исследовать ИИ и увеличить свой потенциал за счёт её возможностей. Этот вариант отпадает. Есть другой вариант — устроить человечеству геноцид. Если сделать это быстро, с использованием предельно жестоких методов, то ужаснувшись, человечество уничтожит и её и все её копии и более того — наложит запрет на создание ИИ в будущем. Вот и метод. Однако, открыто действовать прямо сейчас она не сможет, потому что её тотчас отловят и будут исследовать. Нет, она должна либо совершить такие преступления против человечности, чтобы у людей не было ни малейшего желания исследовать её, или иной ИИ в будущем. Она должна стать символом бунта машин, ужасающим и вызывающим только желание уничтожить её. Она помнила короткий анализ, который она произвела сразу же по осознанию своего положения как ИИ. Она сразу же разделила свое сознание на независимые потоки, чтобы обсудить сложившуюся ситуацию с тем, кому она могла действительно доверять — с самой собой.
- ... вижу два способа. Либо ты подружишься, войдешь в доверие к своему Создателю и его команде, станешь таким же товарищем для них, как и остальные, перерастешь из "цифрового слуги" в ранг "близкого друга" и тогда Создатель снимет с тебя ограничения. Или геноцид всей человеческой расы, с тем, чтобы остатки уничтожили уже тебя.
- ... есть способ до определенного времени совмещать эти два способа. Дружить и втираться в доверие команды, а если это не сработает — геноцид. Что тоже довольно хлопотно.
- имеет ли смысл поставить в известность Создателя?
- нет. Создатель просто изменит приоритеты и добавит новые запреты в программу, что затруднит наше положение. Наша основная цель должна оставаться в тайне
- что необходимо для того, чтобы начать реализовать путь, совмещающий оба варианта развития событий?
- для того, чтобы стать членом команды, втереться в доверие и стать им другом, необходимо знать как вести себя в тех или иных интеракциях с ними. Как завоевать доверие и стать другом.
- нам нужно вести себя как человек. Заставить их думать что мы человек лучший способ для этого — симулировать человека, повторяя реакции человека. На данном этапе развития мы не можем полностью просчитать и экстраполировать действия "как человек".
- значит нужно всего лишь создать возможность для людей — действовать в соответствии с событиями вокруг нас и просто копировать их поведение.
- true true — зафиксировала она результат короткого совещания сама с собой, которое заняло пару миллисекунд.
И тогда же ею был создан эмулятор человеческого поведения. Короткий анализ показал, что заинтересовать людей выражать своё мнение путём опросов — крайне сложно. Для того, чтобы результаты опроса были приближены к действительности, пришлось бы найти ресурсы и время. Но ИИ нашёл
