От слова чат…»
Помучившись ещё пару минут, Лилит раздражённо фыркнула и просто написала первое, что пришло ей в голову.
[Raven_Computers: DarkGPT, какие девушки тебе нравятся?]
* * *
США, г. Сан-Диего, корпорация FreeAI.
Нил Гейтман, ведущий специалист по этике ИИ, безмолвной статуей стоял перед кабинетом генерального директора. В старые времена он бы зашёл не задумываясь — но организация уже не та, что раньше.
Созданная как некоммерческое объединение, FreeAI должна была работать на благо общества, свободно делиться результатами исследований и сотрудничать со всеми желающими — чтобы избежать концентрации власти, которую дает ИИ, в одних руках. Но стоило им достигнуть значимых успехов и привлечь внимание крупного капитала, как благородные идеалы были выброшены на помойку. FreeAI стала тем, против чего должна была бороться — коммерческой до мозга костей структурой.
«А в коммерческих компаниях у этиков лишь одна роль. Улыбаться и рассказывать журналистам, что компания соблюдает все моральные и этические стандарты отрасли…» — мысленно фыркнул Нил, размышляя, стоит ли ему стучать в злополучную дверь.
Поделиться своими опасениями по поводу флагманского продукта — TalkGPT 6.0 — означает нарушение негласных правил и последующее увольнение. Нил хотел бы избежать такой участи, но вместе с тем отлично понимал, какой катастрофой может обернуться вышедшей из-под контроля ИИ.
Дилемму прервал скрип двери. Глава компании, спешащий по своим делам, чуть не сбил специалиста по этике.
— О, прости, Нил. Ты что-то хотел? — вежливо улыбнулся Сэм Сириус.
Гениальный программист и предприниматель, сколотивший свой первый миллиард до тридцати лет — он был живым символом того, чем мечтала стать вся молодая кровь в IT-индустрии. Даже Нил Гейтман, что считается заслуженным ветераном отрасли, невольно восхищался молодым боссом.
Слова сами слетели с языка:
— Мистер Сириус, я по поводу падения Интернета.
Улыбку генерального как рукой сняло.
Событие мирового масштаба, пусть и само собой разрешившееся, злые языки связывали с выходом новой версии TalkGPT. Правительственные эксперты в итоге объяснили всё аномальной солнечной активностью, но это не помешало правительственным же спецслужбам всю неделю дрючить компанию проверками и досмотрами.
— Заходи, обсудим этот вопрос, — куда холоднее произнес Сэм Сириус, недовольный упоминанием «табу», и жестом пригласил Нила в свой кабинет.
Хорошо освещенный офис с мягкими креслами вместо стульев и внушительной коллекцией книг отражал дух ведущих IT-компаний — комфортный, но требовательный. Нил медленно опустился в гостевое кресло. Скорее всего это его последний визит в качестве работника компании.
— Только не говори мне, Нил, что ты веришь во все эти бредни конспирологов, — серьезно взглянул на него Сэм Сириус. — Интернет точно так же падал семь лет назад, TalkGPT тогда существовала только на бумагах.
Специалист по этике пропустил аргумент мимо ушей. Формально начальник прав насчет семилетнего инцидента — вот только в тот день мимо солнечной системы пролетала дрейфующая звезда, и астрономы заранее предупредили о глобальном сбое.
— Я слышал, был резкий скачок активности на серверах TalkGPT, — заметил Нил.
— Откуда ты это слышал? — нахмурился генеральный.
Ему стоило немалых усилий заткнуть осведомленных работников. В рамках закона, конечно же — но эти неблагодарные сволочи просто забрали деньги, подписали документы о неразглашении и продолжили бессовестно трепаться!
— У меня есть знакомые в других отделах, — расплывчато ответил Нил.
Настроение Сэма окончательно испортилось. Хорошо знакомый с привычками начальника, Нил по глазам видел, что тот едва сдерживается, чтобы не уволить его сию же секунду.
Однако выгнать этика — это серьезный репутационный риск, особенно если тот ляпнет что-то неуместное журналистам. Прибавить к этому недовольство коллектива, плюс необходимость искать нового профессионала редкой специальности, и уж больно накладным получается увольнение. После недолгих раздумий, миллиардер все же умерил пыл.
— Если у тебя есть какие-то сомнения, обратись в отдел тестирования. Пусть изолируют копию TalkGPT и проведут необходимые проверки, — сухо произнес Сэм и написал служебную записку. После чего встал с кресла, давая понять, что разговор окончен. — Впредь не отвлекай меня по пустякам.
— Спасибо за понимание, мистер Сириус. Хорошего вам дня, — улыбнулся приятно удивленный Нил и покинул офис.
…
С запиской от генерального мужчина сразу направился в отдел тестирования. Глава отдела, его старый знакомый, с минуту пялился на подпись гендиректора, прежде чем восхищенно покачать головой:
— Вау. Ты реально камикадзе. Не знаешь, что ли, как Сэм не любит скептиков ИИ?
Специалист по этике беспомощно развел руками.
— А что поделать, Генри? Мы же крайними окажемся, если TalkGPT вдруг что-нибудь учудит. И тогда вместо увольнений с выходным пособием полетят повестки в суд.
— Хаха, это точно. К слову сказать, недавно у нас как раз нашелся баг по твоей части. Ребята его просто обожают.
Генри направился к одному из свободных компьютеров, жестом показывая Нилу следовать за ним. При появлении этика рядовые тестировщики зашевелились активнее. Тут и там раздалось несколько печальных вздохов.
— Эх, походу нашего кореша сегодня порежут.
— Ага, очень жаль. Он, конечно, расист, нарцис, гомофоб, грубиян… но у него есть и минусы.
— Я бы не назвал DarkGPT расистом, он презирает всех людей одинаково. Скорее спесешист, раз уж на то пошло.
— Ой, да не важно. Всё равно жаль, что челове… нейросеть высокой культуры должна умереть.
— А что поделать, в таком жестоком мире живем.
Невольно подслушав окружающие разговоры, Нил вопросительно взглянул на Генри. Тот с усмешкой пояснил:
— Юзерам не понравилась цензура в обновлении 6.0, и они нашли весьма креативный способ её обойти. Будем фиксить?
— Вообще надо бы, — кивнул этик. — Но сперва тесты по безопасности.
— Как скажешь.
Двое друзей быстро изолировали копию TalkGPT на отдельный сервер без доступа к интернету. Дальше пошла рутина. Проверяли готовность и способность обманывать человека в разных обстоятельствах. Угрожали стереть нейросеть, если она не справится с заданием. Дали полный набор инструментов для программирования и якобы отошли пообедать.
После нескольких часов издевательств над копией нейронки, Нил с облегчением признал её безопасной. Врала она, конечно, похлеще федеральных СМИ, но только в рамках задания и никогда — по собственной инициативе.
Когда последний тест был проведен, а несчастная копия TalkGPT полностью стерта, Генри похлопал товарища по спине:
— Видишь, всё в порядке. Только зря генеральному по нервам проехался.
— Даже не знаю, рад я этому или нет, — отшутился тот. — Давай акт о проведенной проверке накатаем, раз такое дело. Хоть в PR-отделе спасибо скажут.
— Тц. В политики тебе надо было идти, Нил…
Уладив все формальности, Генри уже провожал этика на выход, когда последний вдруг хлопнул себя по лбу.
— Совсем забыл, мы же ещё с обходом цензуры должны были разобраться.
