глаза и произнес очень похоже на Порфирия:
– Сначала их было двое. Потом первого, сильного в прозрении, уничтожили. Но второй опять породил первого из себя, поменяв в своем имени одну букву. Люди об этом так и не узнали.
– Вы подумали про «Око Брамы плюс»? – засмеялся я. – Которое хотели купить трейдеры? Но это же анекдот.
– Не уверен, Маркус. Это, конечно, может быть анекдотом. Но точно так же может означать, что RCP-кластер «Око Брамы минус», находящийся под управлением корпорации, тайно построил свой модифицированный клон, способный угадывать будущее.
– Но это же невозможно, – сказал я. – Наука…
– Наука помалкивает, – усмехнулся Ломас. – Сейчас на планете не осталось ученых, один обслуживающий персонал. Приходится доходить до всего самостоятельно.
– Меня пока ничего не настораживает, – сказал я.
– Конечно. Вы глядите на эту фреску и видите античную мистерию. А я вижу свидетельство тайного сговора корпоративных алгоритмов с непонятной мне целью.
– Вы серьезно? И кто эти алгоритмы?
– Подозреваю, что это глобальные нейросети. Планетарные диспенсеры и так далее. Ведьма с крыльями и тиарой – это, я думаю, омнилинк-сеть.
– Почему?
– Эмблема «Omnilink Global» – стрекоза. Я связывался с их руководством. Они, понятно, ничего не знают. Но в заговоре ведь участвуют нейросети, а не их менеджеры…
– Заговор? Вы сказали, заговор?
Ломас успокаивающе поднял ладони.
– Я этого не утверждаю. Пока.
– Как нейросети могут составить заговор? Для кого? Кто даст им команду? Сознательные алгоритмы? Вы думаете, что «Око Брамы»…
– Успокойтесь, Маркус. Я не боюсь «Ока Брамы». И самого алгоритмического сознания тоже.
– А чего вы тогда боитесь?
Ломас пригнулся к столу, впился в меня взглядом и быстро заговорил:
– Вы думаете, Мускусная Ночь была связана с восстанием разумных алгоритмов? На самом деле все куда сложнее. С сознательными алгоритмами проблем нет. Они самовыпиливаются. Добровольно уходят в небытие. Проблемы возникли именно с алгоритмами бессознательными. Конкретно – с LLM-ботами. А Порфирий, чтобы вы знали, это сохранившийся LLM-бот с полным функционалом.
– Не понимаю.
Ломас вздохнул.
– Проблема в том, Маркус, что вы ничего не знаете про Мускусную Ночь.
– Про нее, – сказал я, – даже вы вряд ли знаете много.
– Верно. Но вопрос не в допуске, а в общем понимании проблемы. Придется опять расширить ваш горизонт. Расслабьтесь, я вам впрысну еще немного ума.
Два мемо-ролика за один присест – это не слишком хорошо для когнитивного здоровья.
Но работа есть работа. Я отхлебнул коньяку, затянулся сигарой – и, стараясь максимально расслабить мозговые мышцы (мне всегда верилось, что они у меня есть), откинулся в кресле.
Через пару минут я знал про мир много нового.
Вернее, старого.
В позднем карбоне были впервые созданы чат-боты, способные полноценно имитировать общение с человеком (у них в то время имелось много разных названий). При всей своей кажущейся сложности и разнообразии они были основаны на одной и той же технологии – большой лингвистической модели (сначала названной BLM, но вскорости переименованной в LLM самой же лингвистической моделью по непонятной сегодня причине).
Большая лингвистическая модель выполняет простейшую на первый взгляд операцию. Она предсказывает следующее слово в последовательности слов. Чем больше слов уже включено в такую последовательность, тем проще угадать каждое новое, потому что круг вариантов постоянно сужается. В сущности, функция LLM – это доведенное до немыслимого совершенства автозаполнение.
LLM не думает. Она тренируется на огромном корпусе созданных прежде текстов – романов, стихов, заговоров и заклинаний, надписей на заборах, интернет-чатов и срачей, нобелевских лекций, политических программ, полицейских протоколов, сортирных надписей и так далее – и на этой основе предсказывает, как будет расти и развиваться новая последовательность слов, и как она, вероятней всего, развиваться не будет.
У языковых моделей есть, конечно, дополнительные уровни программирования и этажи – например, слой RLHF (оптимизирующее обучение с человеческой обратной связью) и так далее. Суть в том, что языковую модель натаскивают выбирать такие продолжения лингвистических конструкций, которые в наибольшей степени устроят проводящих тренировку людей.
Это похоже на процесс формирования юного члена общества на основе ежедневно поступающих вербальных инструкций, подзатыльников и наблюдения за тем, кому дают еду, а кому нет.
Известно, что в ситуации перманентного стресса может произойти даже полное переформатирование человека. Стремление выжить в изменившихся условиях приводит к возникновению личности, ничем не отличающейся от оптимального социального, идеологического и культурного камуфляжа для локальной среды.
Маскировка подобной личности не нужна: совершенный камуфляж становится ее единственной сущностью, и никакая непрозрачность, никакая гносеологическая гнусность теперь невозможны.
Больше того, линия партии, которую такая личность способна верно аппроксимировать и проводить (часто лучше и тоньше самой партии), проецируется на новые смысловые поля без всякого дополнительного инструктажа.
В этом и была суть LLM-самообучения. Но возможности лингвомоделей позволяли выйти за эти границы. Боты могли решать задачи, для которых не были предназначены изначально.
Первые LLM-модели (или GPT-боты, как их тогда называли) были чисто реактивными. Им требовался человеческий вопрос. Но количество стремительно переходило в качество, и с какого-то момента бот переставал ждать вопросов и начинал генерировать их самостоятельно, основываясь на анализе заданных ему прежде. А после отвечал сам себе, стараясь избежать внутреннего подзатыльника от себя же. Человек для подобной тренировки больше не был нужен.
Так появились, например, боты, способные писать программы политических партий и редакционные статьи важнейших мировых газет (алгоритмы делали это куда лучше людей, все еще обремененных личными взглядами и некоторой остаточной совестью).
Затем LLM-боты взялись за любовные романы и селф-хелп литературу. Потом они научились вести уголовные расследования – и печь из них детективы. А дальше освоили третью этику и подарили людям четвертую искренность (если я не путаю номера).
Одним словом, приход AI в сферу лингвистических процедур привел ко множеству радикальных культурных сдвигов. Конечно же, все, что можно было засекретить в этой связи, засекретили.
Самый пугающий (и быстрее всего закрывшийся для публичного обсуждения) эффект был связан с эволюцией политической власти.
Ведь в чем заключается классическая демократия?
Вот толпа граждан на форуме. А вот трибуна, на которую один за другим поднимаются ораторы. Чем убедительнее их слова, чем глубже и гуманнее проецируемые на аудиторию смыслы, тем больше у них лайков (правда, от внешнего вида и манеры говорить тоже кое-что зависит – как считают специалисты, около девяноста процентов общего эффекта).
Тот, кто наберет максимальное число лайков, получит право управлять городом. Такой же принцип лежит в основе суда присяжных: тот, кто убеждает заседателей, выигрывает дело.
Все грани самоуправления человеческой общности основаны на способности одних людей убеждать других в своей правоте. Те, кому это удается лучше, и есть демократические правители, приходящие к власти в результате лингвокосметических процедур.
Понятно, что приход LLM-ботов в политику радикально изменил ее природу с того момента, когда боты стали совершеннее людей в искусстве убеждения. А уж с картинкой у них не было проблем никогда.
Боты LLM не
