резидента ЕС в интернете; использование методов обработки данных для профилирования отдельных лиц, их поведения или их отношения к чему-либо (например, для анализа или прогнозирования личных предпочтений).
Формально процедуры сбора персональных данных строго регламентированы и гражданин защищен от их несанкционированного использования. На самом деле реальный и тотальный контроль за соблюдением законодательства в сфере персональных данных практически невозможен: у российских граждан по любому поводу требуют паспортные данные и (или) снимают копии паспортов[269]. Дальнейшая судьба этой информации гражданину зачастую не известна. Разработчики ПО в основном уделяют внимание «чудесам» производительности алгоритмов и доступности всевозможных цифровых сервисов, в то время как нежелательные и негативные последствия, похоже, никого особенно не беспокоят.
Большую проблему с точки зрения приватности, например, могут создать камеры с системой распознавания лиц, активное внедрение которых мотивируется как возможностью предоставления целого ряда сервисов без дополнительной идентификации, так и необходимостью бороться с преступностью. Но никто из граждан не подписывал с их операторами индивидуальных соглашений и не имеет возможности проверить условия хранения записей[270]. На этом фоне обращает на себя внимание тот факт, что власти Сан-Франциско ввели мораторий на использование городскими учреждениями и управлением полиции технологий распознавания лиц. Дополнительным стимулом для властей Сан-Франциско стало исследование, проведенное в 2018 г. M.I.T. Media Lab, которое показало, что программы распознавания лиц допускают более высокий процент ошибок, когда речь идет об афроамериканках или представительницах иных отдельных этнических групп[271].
Другой пример: все современные смартфоны оснащены множеством сенсоров и по умолчанию все установленные и устанавливаемые программы ориентированы на максимальный доступ к ним. Но если риски утраты конфиденциальности, связанные с такими сенсорами, как микрофон, камера или модуль GPS/ГЛОНАСС, очевидны, то какие угрозы несет доступ, например, к сенсорам движения – гироскопу и акселерометру, не всегда можно осознать. А такой доступ позволяет идентифицировать пользователя по манере его движения, считывать символы, вводимые с клавиатуры, рядом с которой лежит смартфон, и даже прослушивать разговоры без доступа к микрофону – используя гироскоп в качестве грубого датчика звуковых волн. Благодаря продвинутым техникам радиокартографирования можно, анализируя сигнал вышек сотовой связи и сетей Wi-Fi и (или) indoor-локализацию посредством фиксации смартфоном электромагнитного поля, с достаточно высокой точностью установить местонахождение любого пользователя.
Вследствие развития систем VR/AR[272] компании, производящие эти устройства, будут получать информацию буквально о каждом моргании – каждой реакции на любой стимул. В дальнейшем они фактически смогут видеть мир глазами клиента и получат возможность «убирать» людей и предметы из вашего мира: пользователи «умных очков» просто не будут их видеть. А будущий нейронный интерфейс обеспечит прямую связь между человеческим мозгом и всеми доступными электронными устройствами. В результате вся имеющаяся физическая, электронная и экономическая инфраструктура станет своего рода экзоскелетом, обеспечивающим огромные возможности его носителям.
Пользователи смартфонов и бесплатных веб-сервисов уже продемонстрировали, что готовы отказаться от некоторой степени конфиденциальности в обмен на удобство, но дальнейшее развитие технологий может привести к тому, что корпорации, предоставляющие PaaS, займут место постоянных посредников между нами и окружающим нас миром, навязывая собственные установки в отношении приемлемости того или иного поведения и контента. Предметом юридических баталий может стать само право человека видеть мир непосредственно, невооруженным глазом (ведь это может вступить в противоречие с GDPR, декларирующим в том числе право скрыть свои персональные данные, в т. ч. лица, от чужих взглядов).
На повестке дня экспоненциальное слежение. Неприкосновенность частной жизни все в большей степени будет становиться роскошью. «Цифровой помощник будет фиксировать все, что происходит в нашей виртуальной и реальной жизни… Любой человек или устройство с соответствующими полномочиями или правами (настоящими или поддельными) сможет получить доступ к этой информации.
Это означает, что любое лицо, обладающее некоторыми навыками взлома интернет-ботов, сможет сгенерировать наш профиль или повесить на нас ярлык подозреваемого, диссидента или опасного элемента»[273].
Таким образом, настоящая конфиденциальность останется только для очень богатых: они могут себе позволить проводить жизнь в защищенных от наблюдения местах, использовать надежные цифровые технологии и (или) просто заплатить за уничтожение информации о них во всех доступных базах данных и на всех возможных носителях. Любой обычный гражданин будет постоянно находиться под наблюдением, поскольку даже незначительные перемены в его типичном поведении станут важными сигналами для кредиторов и страховых компаний, работающих на основе вышеупомянутой модели Behavioral Finance. IoE позволяет им контролировать и автоматизировать среду жизни клиентов, которым, конечно, открываются новые возможности для совершения покупок, обращения за услугами и т. д. Но если поведение клиента в любой ситуации становится предсказуемым, то встает вопрос: сколько реальной личной свободы у него остается, не начинают ли люди сами действовать как роботы и наоборот – из чувства протеста (или желания обмануть алгоритмы) действовать так, чтобы прогноз не оправдался?
11.5. Угроза кражи цифровой личности или создания достаточно убедительной фейковой
Риск, которому мы подвергаемся, заключается в том, что, подстраивая мир под себя, технологии могут формировать нашу физическую и концептуальную среду и сдерживать нашу способность приспособиться к ним, поскольку это лучший или самый простой (а иногда – единственный) способ заставить все работать.
Лучано Флориди,профессор философии и этики информации Оксфордского университета
Повышение надежности механизмов поведенческой и биологической идентификации при стремительном падении стоимости секвенирования генома[274] открывает возможность создания крайне надежного биологического идентификатора – геномного (генетического) паспорта. Такое решение проблемы идентификации в принципе открывает доступ к любым финансовым сервисам из любой точки мира, но создает новую проблему – утраты биообразцов[275], которые могут быть использованы для введения в заблуждение систем идентификации, причем такой инцидент будет крайне сложно оспорить.
Таким образом, введение методов биометрической идентификации, например распознавания голоса и лица, как в применяемой в Российской Федерации Единой биометрической системе (ЕБС), не устраняет полностью проблему кражи и (или) подмены «электронного образа» потребителя.
Программное обеспечение компании Nvidia, используя генеративно-состязательную нейросеть (Generative Adversarial Network, GAN), позволяет уже сейчас превращать наброски в реалистичные изображения. GAN на основе огромной коллекции изображений реальных лиц способна за секунды создавать в высоком разрешении изображения несуществующих людей, генерируя любые культурные и этнические особенности, эмоции, настроение и т. п. GAN использует комбинацию работы двух нейросетей: первая генерирует (создает) образцы, вторая отличает настоящие образцы от поддельных. Преступники могут использовать такие изображения для разного рода мошеннических действий, распознать которые cможет только еще более продвинутая GAN.
Следующим шагом на пути обретения электронной «тенью» некоторой самостоятельности стала технология DeepFake, позволяющая уже снять видеоролик, в котором сгенерированный с применением GAN персонаж практически неотличим от прототипа, но, управляемый закадровым «кукловодом», может двигаться и говорить, демонстрируя вполне реалистичные мимику и артикуляцию. Первые примеры реализации технологии DeepFake были представлены в интернете в
