Читаем без скачивания Восстание машин отменяется! Мифы о роботизации - Дэвид Минделл

Катастрофа самолета рейса 447 авиакомпании Air France и операция по поиску его обломков связывают воедино современную автоматизацию и робототехнику в двух экстремальных средах: на границе стратосферы и в глубинах моря. Воздушное судно упало в океан из-за ошибок во взаимодействии человека с автоматизированными системами. Потом его обломки были обнаружены людьми с помощью дистанционно управляемых и автономных роботов.

Хотя слова «автоматизированный» и «автономный» (в своих наиболее распространенных значениях) предполагают, что такие системы действуют самостоятельно, в обоих случаях провал или успех произошел не из-за машин и людей, действующих по отдельности, но из-за совместных действий машин и людей. Люди-пилоты боролись за жизнь воздушного судна, автоматизированного с целью большей безопасности и надежности; множество связанных друг с другом судов, спутников и свободно плавающих буев помогали определить место катастрофы; инженеры обрабатывали информацию, полученную от роботов, и действовали в соответствии с ней. Автоматизированные и автономные аппараты постоянно возвращались к своим создателям – людям – за информацией, энергией и указаниями.

Трагедия рейса 447 авиакомпании Air France ясно дала понять, что, постоянно приспосабливаясь к среде обитания и видоизменяя ее, мы переделываем и самих себя. Как пилоты могли стать настолько зависимы от компьютеров, что уронили совершенно исправный самолет в море? Какой становится роль человека в таких областях, как перевозки и транспорт, исследовательская и военная деятельность, когда, кажется, все больше и больше задач первостепенной важности выполняется машинами?

Согласно крайней точке зрения, люди близки к тому, чтобы «выйти из употребления», что роботам «не хватает буквально одного обновления программ», чтобы стать полностью автономными, как недавно писал Scientific American[2]. Приверженцы этого взгляда говорят нам, что роботы наступают – мы все чаще встречаем их в знакомой обстановке. Обеспокоенность неизвестными и сомнительными возможностями искусственного интеллекта возникает в связи с мнением о том, что мы находимся на пороге «сверхразумности». Наш мир стоит на грани перемен, в сущности, он уже меняется под влиянием роботов и автоматизации. Неожиданно возникают все новые проекты, воплощающие старые мечты об умных машинах, которые помогают нам выполнять свои профессиональные обязанности, облегчают физический труд и рутинные задачи в повседневной жизни. Роботы, существующие и работающие в непосредственной близости от людей на физическом, когнитивном и эмоциональном уровне, становятся все более обширной и многообещающей темой для исследований. Автономность – мечта о том, что в один прекрасный день роботы будут вести себя как полностью самостоятельные субъекты, – остается источником вдохновения, инноваций и опасений.

Волнение вызвано остротой эксперимента; точные формы этих технологий далеки от завершенности, а еще менее определенно их социальное, психологическое и когнитивное значение. Как изменят нас наши роботы? По какому образу и подобию мы сделаем их? Что останется от наших традиционных сфер деятельности – ученый, юрист, врач, солдат, менеджер и даже водитель и дворник, – когда эти задачи будут выполнять машины? Как мы будем жить и работать?

Нам не нужно заниматься домыслами: по большей части это будущее уже наступило сегодня, если не в повседневной жизни, то в экстремальных условиях, где мы на протяжении десятилетий используем роботов и автоматику. Человек не может существовать сам по себе в верхних слоях атмосферы, в глубинах океана, в космическом пространстве. Из-за необходимости посылать людей в эти опасные условия робототехника и автоматика были созданы и внедрены в данные сферы раньше, чем в другие, более привычные для нас области деятельности.

В экстремальной среде отношения между людьми и роботами подвергаются испытаниям на прочность. В такой среде появляется больше всего инновационных разработок. Здесь у инженеров имеется самая широкая свобода для экспериментов. Несмотря на физическую изоляцию, именно здесь впервые начали проявляться когнитивные и социальные эффекты от использования различных устройств. Поскольку на карту поставлены человеческие жизни, дорогостоящее оборудование и важные миссии, автономность всегда должна сдерживаться соображениями безопасности и надежности.

В таких условиях суета и дела повседневной жизни временно отступают на второй план, и мы находим, выделяем из окружающей темноты отрывочные, призрачные аллегории человеческой жизни в мире техники. Социальные и технологические процессы в кабине авиалайнера или внутри глубоководного аппарата принципиально не отличаются от подобных процессов на фабрике, в офисе или в автомобиле. Но в экстремальных условиях они проявляются в более явной форме, и поэтому их легче понять. Каждый полет авиалайнера – это история, точно так же, как всякая океанографическая экспедиция, космический полет или военная операция. Через эти истории конкретных людей и машин мы можем собирать по крупицам данные о едва уловимой динамике.

В экстремальных условиях мы получаем представление о нашем ближайшем будущем, когда подобные технологии могут быть внедрены в такие области деятельности человека, как автомобильный транспорт, здравоохранение, образование и др. Аппараты, управляемые человеком дистанционно или автономные, раскрывают качественно новые возможности взаимодействия людей и машин, новые формы присутствия и новый опыт, в то же время привлекая наше внимание к опасностям, этическим аспектам и нежелательным последствиям жизни рядом с умными машинами. Мы видим будущее, где присутствие человека и его знания станут более важными, чем когда-либо, но в некотором смысле необычными и незнакомыми.

И эти машины просто замечательны. Я не единственный человек, который всю свою жизнь восхищается самолетами, космическими кораблями и подводными лодками. По сути, герои историй, которые я расскажу ниже, руководствовались не только поиском практической пользы – ими двигала еще и страсть к новым технологиям. Неслучайно подобные сюжеты часто описывались в научно-фантастических произведениях о людях и машинах. Рассказы о взаимодействии людей и машин на пределе возможностей захватывают воображение, вызывают удивление и пробуждают надежды на то, кем мы можем стать.

Этот энтузиазм иногда находит отражение в наивной вере в перспективы техники. Но постепенно подобный интерес приводит нас к главным философским и гуманистическим вопросам: кто мы такие? Как мы связаны с нашей работой и друг с другом? Как наши творения расширяют наш опыт? Как нам жить в этом изменчивом мире? Эти вопросы всплывают сами собой, когда начинаешь говорить с людьми, которые создают роботов и аппараты и управляют ими.

Я хочу поделиться с вами информацией, полученной мной из первых рук, из подробнейших интервью и результатов последних исследований Массачусетского технологического института и других организаций, в рамках которых проводятся испытания робототехники и автоматизации в экстремальных условиях океанских глубин, во время авиационных полетов (гражданских и военных) и в космосе. Это не воображаемое будущее, а то, что происходит сегодня: мы увидим, как люди управляют роботами и получают информацию посредством автономных устройств, проанализируем, как эти взаимодействия влияют на их работу, жизненный опыт, навыки и умения.

Наш рассказ начнется там, где начинал я сам, – в океанских глубинах. Двадцать пять лет назад, когда я был инженером, разрабатывающим встраиваемые компьютеры и инструменты для глубоководных роботов, я был поражен, обнаружив, что эта техника непредсказуемым образом меняет океанографию, научные методы и даже саму сущность профессии океанографа.

Это понимание привело к тому, что у меня появились две параллельно развивающиеся карьеры. Как ученый я изучал взаимодействия людей и машин, начиная от броненосных кораблей во времена Гражданской войны в США и заканчивая компьютерами и программным обеспечением, которые помогли астронавтам «Аполлона» совершить высадку на Луне. Как инженер я внедрял данные, полученные в результате этих исследований, в современные проекты – разрабатывал роботов и аппараты для использования в тесном взаимодействии с людьми. В некоторых историях я фигурирую как участник, в других – как наблюдатель, а в остальных – сразу в обеих этих ипостасях.

За долгие годы накопления опыта, поиска и разговоров с людьми я убедился в том, что мы должны изменить свое мнение по поводу роботов. Даже язык, на котором мы о них говорим, взят скорее из научной фантастики XX века и не имеет ничего общего с техническими достижениями современности. Например, дистанционно управляемые летательные аппараты называются дронами, как будто они являются лишенными разума автоматами, в то время как на самом деле они строго контролируются людьми. Роботов часто представляют (и продают) как полностью автономных посредников, однако даже сегодняшняя ограниченная автономность зачастую существует только в человеческом воображении. Роботы, которых мы столь широко и разнообразно используем, едва ли являются автоматами, несущими угрозу, – они внедрены в социальные и технические сети, как и мы сами. Далее мы рассмотрим множество примеров того, как мы работаем сообща с нашими машинами. Все дело в сочетаниях.