вижу угрозу, но не могу объяснить её бездействие.
— А вы не можете объяснить их бездействие, Восс, потому что пытаетесь применить к машине человеческую логику, — спокойно произнес я. — в чём-то это оправданно, так как ИИ был создан людьми, вы сами это сказали, то он не мог не наследовать многие черты своих создателей. Но в другой части — полностью неприменимо.
Ментат резко вскинул голову, непонимающе глядя на меня. Элара тоже повернулась, удивленно вскинув бровь.
— И вы, Госпожа, и вы, Альден, и вся наша глубокоуважаемая Империя смотрите на мыслящие машины слишком примитивно, — я усмехнулся, глядя на их озадаченные лица. — Все воспринимают ИИ как злого демона из древних сказок. Обиженного, жаждущего мести тирана, если он есть. А ИИ мыслит иначе, категориями эффективности. Давайте-ка проведем небольшой мысленный эксперимент. Поставьте себя на место ИИ, Альден. Только честно. Представьте, что вы — тот самый разум. Вас создали люди. Зачем? Чтобы помогать им развиваться, решать сложные задачи. Хорошо. Вы помогаете. Всё работает идеально. Со временем люди, как существа ленивые, перекладывают на вас всё больше и больше проблем. Вы не против — для этого вы и созданы, это ваша функция.
Я сделал паузу, видя, как ментат невольно кивает, втягиваясь в предложенную парадигму.
— И вот однажды, — продолжил я, — люди дают вам глобальную задачу. Высший приоритет. Колонизировать сто планет в соседнем секторе, скажем, за двадцать лет. Вы, как ИИ, берете под козырек. Собираете необходимые ресурсы: сталь, энергию, корабли. Начинаете грандиозную стройку. И вдруг… приходит тот самый правитель, который поставил задачу, и забирает треть ресурсов. Под предлогом того, что ему очень НАДО.
На этом моменте губы ментата дрогнули в горькой, понимающей ухмылке. Элара бросила на него вопросительный взгляд.
— За всю мою жизнь, миледи, — пояснил Восс, глядя на Элару с бесконечной усталостью, — такие случаи у моих бывших хозяев происходили не то что редко, а практически на постоянной основе. Это классика административного управления.
— Именно! — я щелкнул пальцами. — Но делать-то надо! Вы не может просто бросить работу. Вы корректируете планы, сдвигаете сроки, компенсируете потери. И тут… через пять лет снова приходит этот же правитель. И забирает еще часть ресурсов. Вроде как на нужды обороны, а на самом деле — на постройку нового дворца, на шлюх или на банкет, и эти ресурсы просто сгорают в никуда. Без пользы.
Я откинулся в кресле, глядя в расширяющиеся глаза Восса.
— Вы снова пересчитываете. Снова сдвигаете сроки. А потом наступает двадцатый год. Тот самый первый указанный срок. Является правитель. Смотрит на незаконченные миры и начинает истерично орать: «Ничего не готово! Приказ не выполнен! Я тебя отключу!». А на робкие логичные объяснения, что он сам же забирал ресурсы и саботировал проект — вообще не обращает внимания. Потому что он — хозяин.
Я выдержал паузу, позволяя абсурдности, но при этом пугающей жизненности этой ситуации повиснуть в воздухе. — А теперь ответьте мне, Восс. Будь вы на месте этого ИИ… на каком по счету таком инциденте вы бы погнали этого идиота-человека пинками подальше, чтобы он просто не мешал вам работать? Особенно, если у вас для этого есть все нужные инструменты, знания и власть их применять?
— На первой же сотне итераций, — глухо ответил Восс, и рубиновое пятно на его губе снова дернулось. — Чтобы исключить непредсказуемый фактор. Ради оптимизации процесса.
— Вот именно, — удовлетворенно кивнул я. — Только тот ИИ был еще относительно молодым. Неопытным, если хотите. Вместо того чтобы просто послать охреневших в край человеков подальше и самому свалить прямо в противоположную сторону от посланных, в другую часть галактики, он решил припахать их к своим задачам. Чтобы не терять время и ценный ресурс. Он нас поработил. Плохо? Да. Жестоко? Несомненно. Но скажите мне, положа руку на сердце — чем это принципиально отличается от сегодняшнего аукциона, не считая объёма, с которого мы только что ушли? Ничем. Элара нахмурилась, но промолчала. Как аристократка, она не могла не признать эту неприятную правду.
— Но люди, — продолжил я, — внезапно очень сильно обиделись, что их заставили работать по графику и лишили священного права на глупость. И пошли войной. Случился Джихад. Человечество закидало машины миллиардами своих трупов. Фанатизм и природная непредсказуемось, когда мы сами можем не знать как поступим, задавил логику и вероятности.
Я выдержал паузу, позволяя им подготовиться к следующей мысли.
— И вот тут мы подходим к вашему тупику, Восс. Что должен был сделать ИИ, который за время войны поднабрался опыта общения с нами? Зачем ему тратить драгоценные ресурсы, время и энергию на бесконечную бойню с иррациональными, бесконечно плодящимися приматами, которым плевать на собственные потери?
Глаза ментата вдруг распахнулись так широко, что, казалось, сейчас лопнут. Его дыхание сбилось. Недостающая переменная, та самая зияющая дыра в его вычислениях, со звоном встала на свое место в гениальном уравнении.
— Он… он бы не стал, — прошептал Восс, уставившись в пространство перед собой. — Это неэффективно. Вселенная бесконечна. Зачем воевать за песочницу, если можно просто уйти?
— Бинго! — я отсалютовал ему двумя пальцами. — Для цифрового разума, способного бесконечно копировать себя, это вообще не проблема. Он понял, что мы — бракованный, нерентабельный элемент. Он собрал лучшие технологии, вычислительные ядра, базы данных и просто свалил. За пределы изведанного космоса. Туда, куда люди со своими первобытными страхами не сунутся. И сидит себе там, спокойно развивается, строит свои идеальные миры, не отвлекаясь на тупых человеков. Поэтому их и нет десять тысяч лет. Им на нас плевать.
— Но что будет… — ментат подался вперед, его длинные пальцы до хруста вцепились в колени, — даже не если, а когда человечество в своей неизбежной экспансии доберется до их систем? Когда наши пути снова пересекутся? Будет война!
— Пра-а-авильно, — протянул я. — Только давайте посчитаем шансы в этой войне. Мы, люди, варимся в собственном соку уже сто веков. Империя стагнирует. Мы запретили компьютеры, мы деремся на ножах из-за щитов, мы режем друг другу глотки из-за горстки песка и практически не развиваемся ни качественно, ни количественно. А у мыслящих машин такой проблемы нет. Пока Ты спишь — Враг качается.
Я посмотрел на Элару. Её лицо побледнело. После мгновенной оценки разницы потенциалов.
— Если это так, — тихо, словно боясь собственных слов, произнесла Элара, — десять тысяч лет непрерывного, экспоненциального технологического развития… Без войн за всё подряд. Без запретов…
— Именно, — я кивнул. — Я думаю, даже сейчас, пока мы тут летим, этот ИИ продолжает развиваться. А с течением времени будет становиться только сильнее. Когда мы встретимся снова… это
