случаях такие призывы к совершенствованию служат лишь лицензией на расширение технологий наблюдения. Как отмечает Ванг в книге "Карцеральный капитализм", само существование систем наблюдения и машинного обучения в определенных местах является признаком того, кого выделяют для охраны порядка, и само по себе является частью системной предвзятости (преступления, совершенные на Уолл-стрит или в преимущественно белых пригородах, не дают данных, потому что за этими районами не следят в первую очередь). Создание более совершенных и эффективных алгоритмов неизбежно требует большего количества данных, поэтому настойчивое стремление к совершенствованию технологий часто "оправдывает слежку и расширение полицейских и карцеральных операций, которые генерируют данные". Эту точку зрения подтверждает Хамид Хан, давний общественный организатор, который сыграл важную роль в том, чтобы заставить Департамент полиции Лос-Анджелеса прекратить использование алгоритмов предиктивной полиции в 2020 году. Хан утверждает, что государственная политика, ориентированная на прозрачность, подотчетность и надзор, слишком часто становится толчком для "ползучей миссии". "Мы боремся не за беспристрастный алгоритм, потому что мы не верим, что даже с математической точки зрения может существовать беспристрастный алгоритм для полицейской работы", - сказал Хан.
Конечно, гораздо проще свалить вину за несправедливость на ошибочные алгоритмы, чем осмысленно бороться с тем, что они рассказывают о нас и нашем обществе. Во многих случаях наши отражения, которые создают эти машины, глубоко нелестны. В качестве примера можно вспомнить Тэй, чат-бота с искусственным интеллектом, выпущенного компанией Microsoft в 2016 году, который был создан для общения с людьми в Twitter и учился на основе своих действий с пользователями. Уже через шестнадцать часов она начала изрыгать расистские и сексистские оскорбления, отрицать Холокост и заявлять о поддержке Гитлера. Еще более показательной была нейросеть, обученная на изображениях прошлых президентов США, которая летом 2016 года предсказала победу Дональда Трампа на предстоящих выборах. В течение нескольких месяцев этот факт приводился в качестве примера того, как легко ИИ может ввести в заблуждение. Как отметил один из исследователей Google, за несколько дней до выборов, поскольку в наборе данных не было женщин-президентов, "ИИ не смог сделать вывод, что пол не является релевантной характеристикой для модели". Учитывая исход тех выборов и то, как часто разговоры о них возвращались к роли женоненавистничества и двойных стандартов, можно утверждать, что алгоритм был прав, предполагая, что пол действительно является релевантной характеристикой. Машина знала нас лучше, чем мы сами.
Для Арендт проблема заключалась не в том, что мы продолжали создавать вещи по своему образу и подобию, а в том, что мы наделяли эти артефакты некой трансцендентной силой. Вместо того чтобы сосредоточиться на том, как использовать науку и технологии для улучшения условий жизни человека, мы стали верить, что наши инструменты могут соединить нас с высшими истинами. Желание отправить человека в космос стало для нее метафорой этой мечты о научной трансцендентности. Она пыталась представить себе, как выглядит Земля и земная человеческая деятельность, находясь так далеко за ее поверхностью:
Если мы посмотрим с этой точки вниз на происходящее на земле и на различные виды деятельности людей, то есть применим архимедову точку к себе, то эти виды деятельности действительно покажутся нам не более чем "явным поведением", которое мы можем изучать с помощью тех же методов, что и поведение крыс. Если смотреть с достаточного расстояния, то автомобили, на которых мы ездим и которые, как мы знаем, построили сами, будут выглядеть так, как будто они, по выражению Гейзенберга, "являются такой же неотъемлемой частью нас самих, как раковина улитки - для ее обитателя". Вся наша гордость за то, что мы можем сделать, исчезнет, превратившись в некую мутацию человеческой расы; вся технология, рассматриваемая с этой точки зрения, на самом деле уже не выглядит "как результат сознательных человеческих усилий по расширению материальных возможностей человека, а скорее как крупномасштабный биологический процесс". В этих условиях речь и повседневный язык действительно перестали бы быть осмысленным высказыванием, которое выходит за рамки поведения, даже если оно его только выражает, и его гораздо лучше было бы заменить предельным и сам по себе бессмысленным формализмом математических знаков.
Проблема заключается в том, что точка зрения, столь далекая от человеческой природы, не может объяснить человеческую деятельность. Взгляд на Землю с Архимедовой точки заставляет нас рассматривать наши изобретения не как исторический выбор, а как часть неумолимого эволюционного процесса, который полностью детерминирован и телеологичен, подобно повествованию Курцвейла о Сингулярности. Мы сами неизбежно становимся лишь винтиками в этой машине, неспособными толком объяснить свои действия, поскольку единственным верным языком является язык квантификации, который машины понимают гораздо лучше, чем мы.
Примерно об этом предупреждал Джарон Ланье в своем ответе на предложение Криса Андерсона отказаться от научного метода и обратиться за ответами к алгоритмам. "Смысл научной теории не в том, чтобы ангел оценил ее", - писал Ланье. "Ее цель - постижение человеком. Наука без поиска теорий означает науку без людей". В конечном итоге мы отказываемся от своей обязанности создавать смысл на основе наших эмпирических наблюдений, чтобы определить для себя, что такое справедливость, мораль и качество жизни, - от этой задачи мы отказываемся каждый раз, когда забываем, что смысл - это неявная человеческая категория, которую нельзя свести к количественной оценке. Забыть эту истину - значит использовать наши инструменты в ущерб нашим собственным интересам, создавать машины по нашему образу и подобию, которые не делают ничего, кроме как дегуманизируют нас". Арендт цитирует Кафку, который лаконично подытоживает дилемму: человек, по его словам, "нашел архимедову точку, но использовал ее против себя; кажется, что ему было позволено найти ее только при этом условии".
Глава 13
Самые удачные метафоры становятся невидимыми благодаря повсеместному распространению. То же самое можно сказать и об идеологии, которая, становясь все более интегрированной в культуру, теряет свои контуры и характерные очертания и окончательно растворяется в чистой атмосфере. Хотя цифровые технологии составляют основную архитектуру информационного века, о них редко говорят как о системе мышления. Ее неспособность придерживаться идей или убеждений, предпочтений или мнений часто ошибочно воспринимается как отсутствие философии, а не как описание ее постулатов. Центральным столпом этой идеологии является ее концепция бытия, которую можно описать как онтологию пустоты - великого опустошения качеств, содержания и смысла. Эта онтология питает ее эпистемологию, которая утверждает, что знание заключается не в самих понятиях, а в отношениях, которые их образуют, и которые могут быть обнаружены искусственными сетями, не имеющими никакого истинного знания о том, что они открывают. А поскольку глобальные сети охватывают все
