сотрудничества с Министерством обороны в области ИИ является прямым пособничеством противнику.
2. Технологические фирмы создают комитеты по этике для разработки руководящих принципов работы в области ИИ и Интернета вещей, а также предлагают на законодательном уровне запретить правительству США иметь дело со странами, которые используют ИИ для угнетения своих граждан. Значительная часть американских военных, руководителей технологических компаний выступают за более активное, вплоть до принятия законодательных актов, противодействие Соединенных Штатов китайскому цифровому авторитаризму, который давно уже вышел за пределы Китая и становится, по их мнению, угрозой для всего человечества.
3. Компании и университеты подчеркивают, что изоляционизм и замыкание исключительно на внутренних проблемах США создает стратегическую угрозу, прежде всего, для самих Соединённых Штатов. Технологический бизнес однозначно высказывается за широкое международное сотрудничество, за более активное привлечение талантов и высококвалифицированных специалистов в Соединенные Штаты. Сотрудники национальной безопасности и правоохранительных органов подчеркивают, что новый американский изоляционизм успешно используется Китаем, максимально широко привлекающим компьютерные таланты со всего мира и стремительно развивающим международное сотрудничество в области ИИ.
Альтернативное видение будущего
Прогноз Комиссии носит не столько аналитический, сколько нормативный характер. Комиссия описывает будущее таким, каким бы хотелось его видеть, и которое наверняка таким не будет.
Комиссия представляет себе мир, в котором ИИ используется для продления и обогащения жизни, для развития способностей и расширения возможностей для максимального числа американцев. Комиссия надеется, что благодаря целенаправленной работе удастся блокировать наибольшие опасности и снизить риски негативного воздействия ИИ на Америку. Комиссия полагает, что одна из главных миссий ИИ – это освободить людей от тяжелых, однообразных, негативно влияющих на здоровье человека работ. Мы верим, что в будущем мире удастся защитить конфиденциальность данных и оградить их от злоупотреблений. В отличие от сегодняшних опасений, технологии ИИ помогут сделать мир более прозрачным и предсказуемым. Это будет мир, где системы ИИ используются в соответствии с основными ценностями, которыми дорожат американцы. Он будет защищать, а не ослаблять права американцев, закрепленные в конституционных документах.
В то же время не меньше шансов на реализацию имеет и черная сторона будущего. Вполне вероятно, что цифровой авторитаризм перестанет быть прерогативой Китая и союзных ему стран и станет ответом на усиливающиеся экономические, политические, социальные кризисные явления во всем мире. Цифровой авторитаризм вполне может отбросить человечество даже не в средневековье, а гораздо дальше, во времена рабовладельчества и даже кастового строя. Главная опасность ИИ состоит в том, что он мультиплицирует риски тоталитаризма и диктатуры, которые существовали и существуют на протяжении всей человеческой истории. Особое опасение вызывает тот факт, что наряду с системным цифровым авторитаризмом в Китае, отдельные элементы этого антигуманного строя начинают проявляться и в либеральных демократиях по всему миру.
ИИ способен дестабилизировать глобальный мир, покоящийся на взаимном страхе перед применением ядерного оружия. В отличие от ядерного оружия кибервооружения, управляемые ИИ, позволяют уничтожать объекты критической инфраструктуры, экономический потенциал, городские инфраструктуры и население в строго дозированных, заранее установленных масштабах. Соответственно, снимается главное преимущество ядерного оружия как гаранта мира – обязательность взаимного уничтожения. Комбинация развитого ИИ и кибервооружений позволяет агрессорам надеяться на первый победный обезоруживающий удар, после которого противник не только не сможет восстановить политическое и экономическое управление, но и не будет способен нанести ответный киберудар.
Согласование основных принципов
Комиссия надеется начать в США широкую национальную дискуссию в части использования ИИ для национальной безопасности. В рамках дискуссии ставится задача сформировать общенациональный консенсус вокруг базовых принципов взаимодействия между ИИ и национальной безопасностью.
I. Глобальное и безусловное лидерство в технологиях ИИ является приоритетом номер один национальной безопасности. Учитывая центральную роль ИИ в будущей экономике, общественной жизни и национальной безопасности, правительство США должно разработать и неуклонно проводить в жизнь на двухпартийной основе инвестиционную стратегию, направленную на увеличение технологического преимущества Америки перед остальным миром в области ИИ.
Глобальное лидерство предоставляет оборонным учреждениям и органам правопорядка США доступ к лучшим технологиям и ставит Соединенные Штаты в наилучшее положение в этой области. Глобальное лидерство создает возможность для активной политики Соединенных Штатов по развертыванию системы международных норм, стандартов и договоров, касающихся ИИ. В то время как американские компании будут продолжать играть ключевую роль в исследованиях, разработках и эксплуатации ИИ, правительство должно нести основную ответственность за финансирование фундаментальных и рискованных исследований в области ИИ.
II. Принятие ИИ как центральной платформы обороны и безопасности является безотлагательным национальным императивом. Главным направлением первоочередного применения ИИ в сфере национальной безопасности является использование ИИ для повышения оборонной и наступательной мощи кибервооружений, сил специального назначения, а также высокотехнологичных войск и подразделений.
Наего базе Комиссия ставит задачу осуществить глубокую модернизацию инфраструктуры обеспечения полной информационной осведомленности и интеллектуального превосходства американских вооруженных сил на поле боя. Военнослужащие должны иметь доступ к самым передовым технологиям ИИ для защиты американского народа, американского образа жизни и союзников США.
III. Руководители частного сектора, должностные лица, отвечающие за обеспечение благосостояния и безопасность американского народа, должны более активно, чем в последние годы, наращивать и повышать эффективность инвестиций в фундаментальные и прикладные исследования по теме ИИ.
Особая роль в значительном увеличении этих инвестиций принадлежит федеральному правительству, включая вооруженные силы и национальное разведывательное сообщество. Они должны брать на себя наиболее спорные рискованные инвестиции и в случае успеха передавать их в частный сектор при условии максимального вклада частного сектора в укрепление американского лидерства в сфере использования ИИ для национальной обороны. Промышленность должна помогать правительству обеспечить американское лидерство, а правительство – не только предоставлять инвестиции, но и формулировать политику ответственного использования ИИ в целях национальной безопасности.
IV. Таланты остаются главным и важнейшим фактором обеспечения лидерства в области ИИ. Комиссия ставит задачу в ближайшие несколько лет осуществить глубокую реформу американской средней школы как основу образовательной системы на базе STEM. Необходимо прямо сказать, что в ближайшем будущем высококвалифицированная миграция имеет важнейшее значение для обеспечения кадрами высоких технологий вообще и ИИ, в частности.
Одни из важнейших преимуществ Америки – это высшее образование и технологический бизнес. Они являются магнитами, притягивающими лучшие таланты в области ИИ со всего мира. Высочайший уровень образования, неограниченное финансирование стартапов, свобода и безопасность, которые может предоставить Америка, позволяет стране приобретать лучшие кадры и, прежде всего, из Китая и России. Дословно в докладе ставится задача «поощрять этот процесс и иметь в виду, что любой специалист – программист, разработчик в области ИИ – приехавший в Америку из Китая, России и других стран цифрового авторитаризма – это не только большой плюс в копилку американского лидерства, но и минус для потенциала
