систему в своих магазинах для выявления воров, которые крали мороженое. («Люди воровали наши Haagen-Dazs, – жаловался он. – Это была большая проблема».)
Полицейским нравится система Clearview: по их словам, она помогает быстро идентифицировать подозреваемых. Но такое удобство не должно определять ценность или законность продукта. Есть много вещей – например, бессрочное содержание под стражей без предъявления обвинения или отмена habeas corpus, – несовместимых с таким свободным и открытым обществом, которое облегчило бы работу правоохранительных органов.
Хотя основными клиентами Clearview сегодня являются полицейские, ничто не мешает компании продавать это приложение всем, кто хочет его купить. И похоже, основатель фирмы, которая была одним из первых инвесторов Clearview, смирился с такой возможностью. Он сказал Кашмир Хилл: «Я пришел к выводу, что, поскольку информации становится все больше, конфиденциальности не будет никогда. Законы должны определять, что является допустимым, но запретить технологии невозможно. Конечно, они могут привести к мрачному будущему или чему-то подобному, но запретить их не получится». Предполагаю, если технологии, создающие мрачное будущее или что-то подобное для всех на свете, обогащают автора этого высказывания – пусть уж будет мрачное будущее.
Facebook[3] и другие социальные сети запрещают веб-скрейпинг своих изображений, но Clearview все равно этим занимается. Эрик Шмидт, бывший исполнительный директор Google, в 2011 году сказал, что распознавание лиц было единственной технологией, созданной Google, и, посмотрев на нее, компания решила остановиться, потому что такие технологии могут использоваться очень плохо[4].
Основатель Clearview Хоан Тон-Тат не выказывал подобных сомнений. В «Дейли» он не казался плохим, но его слова звучали самодовольно, грубо и равнодушно. По словам Хилл, она спросила Тон-Тата о последствиях создания технологии, которая возвестила бы конец общественной анонимности, и он ответил: «Мне придется над этим подумать». Логично было подумать заранее, но Тон-Тат, по-видимому, не видел для этого оснований.
Сегодня от прихотей таких людей, как Тон-Тат, зависят наша частная жизнь и многие гражданские свободы. Я уверен, что Марк Цукерберг, сидя в своей комнате в общежитии Гарварда, вовсе не мечтал создать платформу, которая помогла бы России подорвать американскую демократию, но сделал он именно это. Скорее всего, он мечтал построить что-то великое и изменить мир – добиться успеха, оставить свой след. Это он тоже сделал. И сегодня несет фидуциарную ответственность перед своими инвесторами за максимизацию их прибыли. Перед остальными людьми у него нет таких обязательств. Если наши гражданские свободы ставят под угрозу прибыль бизнесов, торгующих технологиями слежки, предприниматели вольны всякий раз выбирать прибыль.
Причина не в том, что они плохие люди. В конце концов, даже руководители крутых зеленых компаний, таких как Burt’s Bees и Tom’s of Maine (ныне дочки компаний Clorox и Colgate-Palmolive), тоже больше заботятся о максимизации прибыли, чем о гражданских свободах незнакомцев. Но технология Clearview AI и – в более широком смысле – паноптические возможности современных технологий слежки в сочетании с недорогим и постоянным хранением информации (особенно в эпоху возрождающегося авторитаризма и институциональной слабости в развитых странах) создают невиданную угрозу нашей демократии. Другими словами: нашей свободе угрожают не те люди, которые покупают больше зубной пасты или отбеливателя, а те, которые покупают продукты Clearview.
Мы обязаны постоять за себя, заявить о наших гражданских свободах и о том, каким хотим видеть этот мир. Нужен ли нам мир, в котором любой незнакомец может сфотографировать нас и узнать о нас все? Если нет, мы должны предотвратить появление такого мира. В следующих главах я надеюсь показать вам, зачем это делать и как.
Эта книга выросла из серии статей, которые я написал для The Economist в первой половине 2018 года. В них говорится, как технологии меняют систему правосудия – в частности, работу полиции, тюрем и судов[5]. Я решил сосредоточиться на полиции и ее технических специалистах, потому что полиция – это, пожалуй, самое осязаемое и привычное проявление государственной власти. Если я скажу, что у Агентства национальной безопасности или правительства Китая есть технология наблюдения, позволяющая подслушивать и сохранять все наши разговоры по мобильным телефонам или отслеживать передвижения, вы, возможно, возмутитесь, но вряд ли удивитесь. Но, надеюсь, вас возмутит и шокирует, если узнаете, что эта возможность есть у каждого полицейского управления – и нет практически никакого надзора за тем, как она используется. Говоря о полиции, я действительно имею в виду государственную власть.
Когда я делал репортажи для The Economist, распознавание лиц было в значительной степени теорией – оно еще не стало частью жизненного опыта большинства людей. Некоторые полицейские департаменты запускали скромные тестовые программы. Где-то такие системы использовались для ограниченного круга задач, например, в 2017 году округ Вашингтон в Орегоне начал таким способом выявлять подозреваемых. Сегодня эти системы появились в терминалах аэропортов. Даже если завтра Clearview разорится, то же самое будет делать другая фирма.
Некоторые критики утверждают, будто эта технология ненадежна, и так оно и есть, особенно в Америке и Европе для цветных людей. Но суть не в этом. Распознавание лиц опасно, когда оно ненадежно: это может привести к аресту невинных людей. Но и когда надежно – все равно опасно, поскольку позволяет правительствам публично отслеживать нас в любое время. И оно становится все надежнее. Считыватели номерных знаков умеют следить за нашими автомобилями, и такие приборы можно устанавливать на любом количестве полицейских машин и городских фонарных столбов – в зависимости от политической прихоти и бюджета. Устройства, которые имитируют узлы сотовой связи и обманывают наши телефоны, вынуждая их показывать, кому мы звонили, что писали и какие веб-сайты искали, теперь помещаются в багажнике автомобиля.
Нас окружают архитектура и инфраструктура тотальной государственной слежки. Мы знаем, как это выглядит в Китае, где сейчас больше государственных камер наблюдения, чем людей в Америке. Китай использует все возможности, чтобы подавлять свободу слова и самовыражения, следить за инакомыслящими и содержать более миллиона мусульман в современных концлагерях (а если и на свободе, то под сплошным неусыпным наблюдением).
Самый острый и тревожный вопрос, который я услышал, готовя материал для этой книги, задала Кэтрин Крамп, профессор права Калифорнийского университета в Беркли, руководитель семинара права, технологий и государственной политики и содиректор Центра права и технологий Беркли. «Сейчас мы можем получить идеальную архитектуру контроля, – сказала она мне, – как у Китая. Какие демократические практики нам нужны, чтобы мы не стали Китаем?» Настоящая книга представляет собой скромную попытку ответить на этот вопрос.
1. Технология и демократия
Какой объем государственного надзора и контроля вы готовы терпеть во имя общественной безопасности?
Я сижу на переднем сиденье полицейского внедорожника. За рулем – участковый надзиратель, очень добродушный
