Первым делом авторы задаются вопросом о том, что именно мы понимаем под мегапроектом. Манхэттенский проект и программа «Аполлон» по объёму ежегодных затрат достигали в пике 0,4% ВВП США, что для современного объёма ВВП США составило бы около 80 млрд долларов в год. Авторы показывают, что современные крупные проекты в области исследований и разработки имеют обычно значительно более скромные объёмы финансирования. Например, проект по созданию лазерно-интерферометрической гравитационно-волновой обсерватории (Laser Interferometer Gravitational-Wave Observatory, LIGO) довольствовался 300 млн долларов в год, проект по расшифровке генома человека — 400 млн долларов в год, Большой адронный коллайдер на этапе постройки обходился в 475 млн долларов в год, а на этапе эксплуатации — 1 млрд долларов в год. Пиковое значение годового бюджета Международного термоядерного экспериментального реактора (International Thermonuclear Experimental Reactor, ITER) составило 2 млрд долларов. Только проект по созданию F-35 (семейства малозаметных многофункциональных истребителей-бомбардировщиков пятого поколения), ежегодные предполагаемые расходы по которому авторы статьи оценивают в 16 млрд долларов, может в какой-то мере сравниться по этому показателю с «Аполлоном» и Манхэттенским проектом. Авторы предполагают, что теоретически мегапроект по созданию AGI может быть на один-два порядка дороже современных мегапроектов, что автоматически выводит его за пределы возможностей частного сектора.
Однако выделение столь большого бюджета вовсе не является достаточным условием успеха подобного проекта. Даже увеличение финансирования Манхэттенского проекта с 0,4% ВВП до 4% или даже 40% не могло бы позволить создать ядерную бомбу в 1935 г. Если одна женщина может родить ребёнка за девять месяцев, это вовсе не значит, что девять женщин смогут родить его за месяц. Можно сказать, что сложная научная задача сходна с перетаскиванием тяжёлого груза — чем больше у него площадь поверхности, тем больше людей может быть задействовано и тем проще будет переместить данный груз. Для научной задачи можно тоже ввести условную «площадь поверхности» [surface area], характеризующую, насколько хорошо задачу можно разделить на подзадачи для одновременной работы нескольких исследователей. При этом возможно и расширять саму «площадь поверхности» задачи, чтобы работы по ней могло вести большее число исследователей, тем самым ускоряя прогресс.
Авторы считают, что в реальности возможны три варианта состояния дел в области проектирования общего искусственного интеллекта (AGI):
1) у этой проблемы будет стадия «взлёта», но мы пока ещё не «вырулили на взлётную полосу»;
2) у этой проблемы будет стадия взлёта, и мы уже находимся внутри неё;
3) у этой проблемы в принципе не будет стадии взлёта, потому что последний шаг для создания AGI окажется невозможным реализовать как мегапроект (например, если AGI будет создан в результате неожиданного теоретического прорыва в другой области, который резко повысит возможности уже созданных систем).
В статье авторы озвучивают страхи в отношении того, что в силу своей возможности быстрой консолидации ресурсов авторитарные режимы могут продвинуться в задаче разработки AGI дальше, чем демократические, что создаёт угрозу глобального технологического превосходства первых.
Для оценки продвижения к стадии взлёта авторы предлагают мониторинг следующих областей:
1) запланированные подзадачи [Roadmapped sub-problems]: появление чётко сформулированного набора подзадач для проекта по созданию AGI;
2) производственная функция AGI [AGI production function]: появление производственной функции AGI, которая бы описывала взаимосвязь затрат ресурсов (времени обучения, данных, вычислений и других ресурсов) с производительностью ИИ;
3) капиталоёмкость [Capital intensiveness]: рост инвестиций в аппаратную инженерию и программное обеспечение;
4) параллелизм [Parallelism]: подзадачи решаются параллельно (а не последовательно) несколькими командами;
5) скорость обратной связи [Feedback speed]: более быстрая оценка результатов решения подзадач позволяет менять подходы на основе полученных результатов и более эффективно использовать ресурсы;
6) поведение ключевых действующих лиц [Behavior of key actors] — учёных, политиков, предпринимателей и так далее.
В конце исследования авторы делятся мнением о существующем положении дел и перспективах данного направления:
1) «площадь поверхности» проблемы AGI в настоящее время, по всей видимости, слишком мала, чтобы отдельные государства могли воспользоваться своими ресурсами и добиться успеха в создании AGI. Однако когда фундаментальные исследования в достаточной мере расширят эту «площадь», всё может резко измениться;
2) в связи с научными и геополитическими последствиями такого сдвига необходимы более точные метрики для оценки того, насколько исследования AGI близки к стадии взлёта;
3) предлагается дальнейшее уточнение и формализация показателей прогресса по продвижению к этой стадии.
Учитывая сказанное выше, можно сделать вывод, что перед ИИ сегодня стоит множество интересных проблем, решение которых может существенно изменить привычный нам мир. Причём список задач и направлений исследований, приведённый в этой главе, вовсе не претендует на полноту — в стремительно развивающейся области новые ответвления исследований возникают весьма быстро, и не всегда есть возможность уследить за всем, что происходит в университетских лабораториях и корпоративных исследовательских центрах. В качестве шагов по направлению создания AGI можно рассматривать и многозадачные мультимодальные фундаментальные модели, и новые модели в области обучения с подкреплением (такие, например, как MuZero), и новые подходы в области активного обучения (например, GFlowNets[3350]), и новые успехи в симуляции биологических нейронных сетей (такие, например, как проект лаборатории Rain Neuromorphics по моделированию работы мозга[3351]).
Более того, создание AGI может стать следствием сугубо прикладных исследований, ведь между текущими возможностями ИИ-систем и возможностями гипотетического общего искусственного интеллекта лежит множество интеллектуальных задач, решение которых необходимо для развития вполне конкретных продуктов и сервисов. И некоторые из этих задач могут оказаться AI-hard-задачами, то есть задачами, требующими для своего решения наличия у решающих их систем общего интеллекта. Исследование свойств стафилококков и череда совпадений привели Александра Флеминга и его коллег к одному из величайших научных событий XX века — открытию пенициллина. Работа над машинным переводом привела к появлению трансформерных архитектур и фундаментальных моделей — наиболее передовых инструментов современного ИИ. Не исключено, что очередное локальное, на первый взгляд, достижение откроет нам прямую короткую дорогу к AGI. Или, быть может, этот путь уже открыт и нам просто стоит правильным образом скомбинировать уже существующие методы, сдобрить полученную смесь огромными вычислительными мощностями, и, вуаля, золотой ключик у нас в кармане?! В конце концов, ChatGPT — это продукт именно такого подхода. Все основные предполагаемые ингредиенты (большие трансформерные модели, самообучение, дообучение на целевых данных, обучение с подкреплением) были хорошо известны ещё несколько лет назад.
