Здесь в силу ограниченного объёма книги я не буду подробно останавливаться на более детальном разборе этой безусловно интересной работы (в числе авторов которой, кстати говоря, числится уже хорошо знакомый вам Йошуа Бенджио, аспирант которого Эрик Эльмознино написал первые версии двух больших разделов исследования). Добавлю лишь, что, рассмотрев с точки зрения предложенных признаков четыре продвинутые модели (GPT, Perceiver, PaLM-E и Adaptive Agent), авторы работы приходят к выводу, что ни одна из существующих систем ИИ сознанием не обладает. При этом и не существует очевидных технических препятствий для создания систем ИИ, удовлетворяющих всем выдвинутым критериям. Примечательно, что некоторые специалисты, обеспокоенные возможностью ИИ-апокалипсиса (подробнее подобные страхи мы рассмотрим в части 7), сразу после выхода этого исследования поспешили выступить с его публичной критикой, рассуждая о том, что эта работа может стать элементом руководства по созданию потенциально опасных ИИ-систем, обладающих сознанием[2433].
В общем, хотя в настоящее время мы вполне можем быть уверены, что искусственные нейросети не осознают себя так, как осознаём себя мы, это, однако, не значит, во-первых, что мы никогда не сможем создать более сложные системы, в том числе обладающие развитым самосознанием, а во-вторых, что создаваемые сегодня системы бесполезны в областях, связанных с человеческим поведением, психической сферой, и в частности эмоциями.
6.5.2 Эмоциональный интеллект
Системы, основанные на технологиях ИИ, в наши дни стали неотъемлемой частью техносферы. Выполняя задачи в рамках автоматизации тех или иных бизнес-процессов, системы ИИ должны эффективно взаимодействовать с людьми и, следовательно, обрабатывать поступающие от людей данные, а также производить данные, предназначенные для восприятия людьми. Проблематика, связанная со взаимодействием человеческого общества с системами ИИ, в наши дни исследуется в рамках направления, получившего название «социальный ИИ» [Social AI]. В манифесте проекта «Социальный ИИ и расширенный интеллект» (Social AI and Extended Intelligence) исследовательской группы «Человеческая динамика» (Human Dynamics) в MIT основная идея этого направления сформулирована следующим образом: «Существует глубокий страх, что человеческая работа будет заменена искусственным интеллектом. Вместо того чтобы соревноваться с машинами, наша цель — показать, что комбинация „человек + ИИ“ будет работать лучше, чем люди и ИИ, работающие в одиночку. Хотя ни один человек не лучше машины для выполнения некоторых задач, нет машины лучше человека с машиной»[2434].
Эмоциональная окраска коммуникативных сигналов, используемых людьми, является их важной содержательной компонентой. Например, эмоциональная окраска речи клиента того или иного сервиса или тон, в котором выдержан текст отзыва, могут свидетельствовать о степени удовлетворённости качеством услуг. Эмоциональное состояние сотрудника компании, проявляющееся в его речи или поведении, может влиять на производственные риски — например, усталый или испытывающий сильные переживания работник с большей вероятностью может допустить ошибку. Работа грамотного руководителя или специалиста отдела кадров во многом основана на анализе эмоциональной компоненты информации, а поэтому системы ИИ, встраиваемые в соответствующие бизнес-процессы, также должны уметь оперировать с этими данными. Если мы говорим о системах социального ИИ, то, так же как и при работе в паре двух людей, важное значение для эффективности труда имеет эмоциональный комфорт человека, «психологическая совместимость». Если же говорить о современных персонифицированных клиентских сервисах, то их вообще трудно представить без учёта эмоциональной составляющей коммуникаций и психологического профиля клиента. Словом, способность систем ИИ обрабатывать эмоциональную информацию представляет на сегодняшний день не только теоретический, но и вполне практический интерес.
Созданием технологий, ответственных за обработку эмоциональной информации в системах ИИ, занимается направление, получившее название «аффективные» или «эмоциональные вычисления» [affective computing]. Иногда также употребляются термины «искусственный эмоциональный интеллект» (ИЭИ) (Artificial Emotional Intelligence, AEI) и «эмоциональный искусственный интеллект» (ЭИИ) (Emotion Artificial Intelligence, EAI) — специалисты пока не договорились о том, в какое место аббревиатуры ИИ (AI) следует в данном случае вставлять букву Э (E), тем более что некоторые интерпретации допускают, что место её вставки несколько меняет смысл полученного словосочетания. Например, ЭИИ может специализироваться на аналоге эмоций в системах ИИ, а ИЭИ — на обработке эмоциональной информации при помощи систем ИИ. Однако зачинатели этого направления, исследователи из «Группы эмоциональных вычислений» [Affective Computing Group] Медиалаборатории MIT (MIT Media Lab), кажется, не делают подобного различия, по крайней мере в их публичных высказываниях оба варианта, похоже, используются без видимой системы.
Итак, эмоциональные вычисления — это направление в науке и технологии, занимающееся созданием систем, способных распознавать, интерпретировать, обрабатывать и воспроизводить человеческие эмоции, а также целенаправленно стимулировать их возникновение у людей. Считается, что это направление появилось на свет в 1995 г. с выходом в свет одноимённого технического отчёта профессора из Медиалаборатории MIT Розалинды Пикард. Вот цитата из преамбулы этого отчёта: «Недавние неврологические исследования показывают важную роль эмоций в человеческом познании; эмоции не являются роскошью. Напротив, эмоции играют решающую роль в рациональном принятии решений, в восприятии, во взаимодействиях между людьми и в человеческом интеллекте. Эти факты в сочетании с возможностями, которые компьютеры приобретают в области выражения и распознавания эмоций, открывают новые области для исследований. Эта статья определяет ключевые вопросы „эмоциональных вычислений“, то есть вычислений, которые связаны с эмоциями, возникают из них или преднамеренно влияют на них. Предложены новые модели для компьютерного распознавания человеческих эмоций и описаны как теоретические, так и практические [их] приложения для изучения взаимодействия человека с компьютером, для поиска воспринимаемой информации, для искусства и сферы развлечений, для здоровья человека и для машинного интеллекта. Потенциальные значительные достижения в теории эмоций и познания зависят от развития эмоциональных вычислений, особенно с использованием носимых вычислительных устройств. Эта статья указывает вызовы и будущие направления исследований в этой новой области»[2435], [2436].
Позже идеи Пикард получили развитие в её книге[2437], целиком посвящённой эмоциональным вычислениям.
Что касается понятий «эмоциональный искусственный интеллект» и «искусственный эмоциональный интеллект», то это довольно прозрачная отсылка к весьма популярной концепции «эмоционального интеллекта». Любопытно, что корни этой концепции мы можем найти ещё в трудах Чарльза Дарвина. В 1872 г. в своей книге «Выражение эмоций у людей и животных» (Expression of the Emotions in Man and Animals, 1872)[2438] основатель эволюционной теории писал о значении внешних проявлений эмоций для выживания и адаптации. Эмоциональные механизмы испокон веков были важным адаптационным механизмом, позволявшим людям уживаться друг с другом, находить общий язык с соплеменниками и соседними племенами. Как писал позже знаменитый советский и американский генетик Феодосий Добржанский: «Ничто в биологии не имеет смысла, кроме как в свете эволюции» [Nothing in biology makes sense except in the light of evolution] (собственно, данная фраза стала заголовком его статьи[2439], написанной в 1973 г.). Это верно и в отношении эмоций, и в отношении их внешних проявлений, выполняющих роль социальных сигналов.
