вообще к любому выводу. Нельзя сказать, что это совсем удивительно: ведь мы до сих пор не понимаем, как на детальном уровне принятия решений функционирует человеческая нейронная сеть (которую мы называем мозгом). Эти алгоритмы в некотором смысле являются черными ящиками, и мы судим о них по достигнутым результатам, а не по тем маршрутам, которыми они добираются до цели.
Такого рода непрозрачные алгоритмы могут быть блестящими и эффективными, но они противоречат праву на очную ставку с обвинителем, которое занимает центральное место в судебной процедуре. Если этот обвинитель представляет собой сложную нейронную сеть, точное функционирование которой невозможно объяснить (и которой, в отличие от человека, использующего сложную нейронную сеть между ушами, не возразишь и ничего не докажешь), то указанное право нарушается.
Камера вашего телефона в режиме реального времени определяет, что в кадре находится лицо. Если вы готовитесь сделать снимок, вокруг лиц на экране появляются прямоугольники или круги. Когда это происходит, программное обеспечение камеры, по сути, говорит вам, что данный набор признаков – под признаками мы понимаем не черты конкретного лица, а определенные шаблоны: градации цвета относительно других градаций цвета на изображении, в том числе пятна белого вокруг темной сердцевины (глаза), над выступом, который улавливает или затеняет свет (нос), и т. д. – с большой вероятностью составляет то, что программа, основываясь на предыдущем опыте, понимает как человеческое лицо.
Затем алгоритмы определяют, как расположено изображение лица, например, анфас или в профиль. Обычно программа понимает, что в кадре именно лицо, даже тогда, когда оно плохо освещено, опущено вниз, повернуто в профиль или в сторону от камеры. Но для того, чтобы сравнить такое изображение со снимком из базы данных, обычно сделанным в условиях сотрудничества (когда объект смотрит прямо на камеры), необходимо повернуть его в позицию, как можно более близкую к прямолинейной. Большинство программ делает это быстро.
Затем программа переводит цветное изображение лица в шкалу серого. Избавившись от красок, алгоритм остается только с градациями яркости. Затем он будет искать на изображении уникальные опорные совпадения, которые в совокупности образуют уникальное лицо. Какие именно совпадения, зависит от алгоритма, но чаще всего речь идет о расстояниях: между глазами, от одной стороны подбородка до другой, от переносицы до кончика носа и т. д. – десятки маркеров расстояния. Алгоритм сравнивает эти уникальные особенности с теми, которые есть на лицах людей в его базе данных, и определяет вероятность их соответствия.
Внедрение сверточных нейронных сетей, о которых я расскажу позже, значительно повысило точность распознавания лиц по сравнению со старым методом, основанным исключительно на сравнении линейных расстояний между точками на лицах в файле. Тем не менее, насколько я знаю, большинство систем распознавания лиц еще не достигли золотого стандарта один к одному в естественных условиях, то есть они не всегда могут идентифицировать человека, когда тот проходит мимо камеры в своем обычном темпе, скрытый или плохо освещенный. Но они научатся.
Кроме того, эта способность распознавания не ограничивается лицами. В Израиле я видел систему, обученную распознавать походку и телосложение, а следовательно – идентифицировать человека со спины или без четкого снимка лица. Китайские системы определяют возраст и пол, их также обучают считывать эмоции. А современные программы, использующие машинное обучение и нейронные сети, совершенствуют сами себя: как и мы, они умеют учиться.
Однако даже лучшие системы распознавания лиц вычисляют лишь вероятность, а не достоверность. Операторы этих систем должны сами определять, какой уровень вероятности их устраивает. Установите слишком высокую планку – и система выдаст много ложноотрицательных результатов, пропустит людей, которые есть в базе данных. Установите этот уровень слишком низко – и получится большое количество ложноположительных результатов, программа увидит вероятные совпадения там, где их нет. Или, говоря полицейским языком, установите его слишком высоко – и подозреваемый не будет идентифицирован, слишком низко – и вы будете беспокоить, а то и привлекать к ответственности невиновных людей.
Эта проблема касается не только распознавания лиц. Телевизионные шоу, такие как CSI, изображают биометрию и судебную экспертизу как практически безошибочные системы. Телевизионные детективы говорят об обнаружении отпечатков пальцев или других биометрических совпадений, однако в реальном мире такие доказательства далеко не столь однозначны: в лучшем случае они указывают на вероятные совпадения, а не на достоверность. Биометрия тоже иногда дает сбои.
Рассмотрим, например, последствия взрывов поездов в Мадриде. 11 марта 2004 года террористы взорвали несколько бомб в пригородных поездах, в результате чего погибло около 200 человек и еще 1400 получили ранения. Восемь дней спустя ФБР определило, что отпечаток пальца на найденном пакете с детонаторами принадлежит Брэндону Мэйфилду, адвокату из Орегона. Следователи не нашли никакой связи между ним и терактами, однако за Мэйфилдом было установлено негласное наблюдение, а его дом и офис подверглись обыску. Его арестовали 6 мая и потом две недели содержали под стражей в качестве важного свидетеля. Все это произошло, несмотря на два факта: во-первых, Мэйфилд не был связан со взрывами, а во-вторых (и это еще тревожнее), испанская национальная полиция почти за месяц до этого сообщила ФБР, что на самом деле найденный отпечаток пальца принадлежит другому человеку. Мэйфилда освободили только после того, как полиция Испании публично заявила, что отпечаток оставил гражданин Алжира. В конечном счете Мэйфилд добился публичных извинений и отсудил у федерального правительства 2 000 000 долларов[108].
Можно также вспомнить о заслуженной дискредитации других квазибиометрических источников данных, таких как анализ следов укуса. Часто представляемый на судебных процессах как точный с точки зрения криминалистики, на самом деле анализ следов укуса совершенно ненаучен: это просто суждение, вынесенное на основе визуального наблюдения. Следы укусов, оставшись на коже, смещаются и изменяются: они могут искажаться из-за эластичности кожи или менять очертания со временем, когда кожа жертвы опухает, заживает или разрушается. Тем не менее из-за анализа следов укусов людей отправляют в тюрьму, причем зачастую ошибочно, и неточные улики, основанные на этом анализе, не раз приводили к оправданиям[109].
Но какое место в спектре биометрии, который простирается от анализа ДНК (довольно надежного при наличии адекватного образца и правильной интерпретации) до анализа следов укуса (полностью субъективного и не подкрепленного наукой), занимает распознавание лиц? Скажем так: насколько достоверно распознавание лиц распознает те самые лица?
Ответить на этот вопрос сложно, не в последнюю очередь потому, что каждый алгоритм индивидуален. В этом смысле вопрос, надежно ли распознавание лиц, сродни вопросу, быстро ли ездят автомобили. Некоторые да, а некоторые нет. У каких-то максимальная скорость выше, а у других – ниже. Некоторые плавно движутся на высоких скоростях, а другие на ходу дребезжат и трясутся. «Ламборгини» может
