автоматического обнаружения на основе ИИ. Мы постоянно их совершенствуем, но, как вы только что убедились, они работают не совсем идеально.
2. Пользователи. Они могут сообщать о подозрительном содержании. Это эффективно, но медленно и часто предвзято. Кроме того, эта реакция является запоздалой, поскольку контент уже транслируется.
3. Модераторы. Сейчас по всему миру Facebook насчитывает около 30 000 пользователей-модераторов, в основном они работают в компаниях-партнерах. Они говорят на сотнях разных языков и определяют, нарушает ли контент, сообщаемый автоматизированной системой или пользователем, действующие правила. Работа модератора довольно сложная. Некоторым из них приходится видеть ужасные вещи, но мы не можем обойтись без таких людей.
Неудачи – это неизбежное следствие общественной полезности. Facebook объединяет географически разбросанных друзей и семьи. Социальная сеть позволяет малым предприятиям начинать свой бизнес и процветать, связывая их со своими клиентами. Она помогает объединяться тем, кто имеет близкие интересы или проблемы. Она призывает к солидарности. Она поощряет взаимодействие – как, увы, и нарциссизм.
Поговорим вкратце о Cambridge Analytica
Во-первых, давайте сразу проясним: Facebook не продает персональные данные своих пользователей рекламодателям. Марк Цукерберг напомнил об этом 25 января 2019 г., описывая бизнес-модель Facebook в статье известной газеты Le Monde[111]. Компания показывает рекламу своим пользователям, но не раскрывает информацию о них своим рекламодателям.
Мы хотим верить, что возможность общаться друг с другом имеет лишь положительный эффект. Сможем ли мы предвидеть и предотвратить неправильное использование глобальных коммуникационных платформ, если сама их концепция еще очень нова?
В 2018 г. Facebook испытала отрицательные последствия своей популярности, и имидж компании значительно пострадал. Несмотря на то, что FAIR Labs не были замешаны в этом деле и данная ситуация не имеет абсолютно никакого отношения к ИИ, я чувствую, что здесь нам нужно это обсудить. Напомним факты. В марте 2018 г. ежедневные газеты New York Times и Guardian сообщили, что данные пользователей Facebook были без ее ведома использованы американской компанией Cambridge Analytica, занимающейся анализом данных. Руководили созданием этой компании в 2013 г. Боб Мерсер, бизнесмен, известный своей консервативной позицией, и Стив Бэннон, который на тот момент входил в ближайшее окружение Дональда Трампа.
Боб Мерсер – бывший компьютерный ученый, который работал над распознаванием речи в компании IBM, пока в конце 1980-х он и некоторые его коллеги не были наняты в Renaissance Technologies, хедж-фонд и финансовую организацию, которая использует компьютерные и математические методы для инвестирования. Эти люди стали очень богатыми. Все они относились к «левым» в политике, кроме Боба Мерсера, который поддерживал либертарианское течение.
В прессе писали, что компания Cambridge Analytica получила и использовала данные миллионов пользователей Facebook, чтобы определить, кто может поменять свое мнение в пользу кандидата Дональда Трампа на выборах в 2016 г. и в пользу Brexit (выхода Великобритании из ЕС) во время кампании, определявшей будущее Соединенного Королевства.
Спустя три месяца после публикации этого громкого дела в американских и английских ежедневных газетах Пол Гревал, вице-президент и руководитель юридического отдела Facebook, обвинил Александра Когана, американца молдавского происхождения, а также ученого Кембриджского университета в области психологии, за предоставление Cambridge Analytica данных, которые тот собирал для своей работы. В его психологическом тесте «Thisisyourdigitallife», в котором приняли участие 270 000 пользователей, получивших 4 доллара за ответы на вопросы об их привычках в Интернете, использовался интерфейс подключения к платформе Facebook, получивший название Graph API v1.0. Используя профили друзей этих респондентов Коган получил доступ к определенной информации миллионов пользователей, информации, которую они вносят в свой профиль и которой они делятся со своими друзьями: город проживания, дата рождения, образование, интересы, друзья и т. д.
Как это вообще могло произойти?
Еще до 2016 г. Facebook сделала свою платформу открытой. Таким образом, компания позволила разработчикам программного обеспечения писать приложения с использованием знаменитого Graph API v1.0. Сюда входили игры, в которые можно играть с другими; или приложения с общим календарем. Контракты на использование кода запрещают сбор и распространение личных данных пользователей. Но в Facebook быстро поняли, что здесь возможны различные случаи злоупотребления, поскольку для работы программного обеспечения разработчики должны были иметь доступ к определенным данным профиля пользователей. Но для нормальной работы такое, например, приложение, как общий календарь, которому вы разрешили доступ к своему профилю, также должно иметь доступ к профилям ваших друзей, которые, однако, своего разрешения на это не давали. В ответ на злоупотребления Facebook полностью закрыла платформу, к огорчению компаний, которые в нее вложились. История получилось достаточно нервная.
К 2016 г., то есть по крайней мере за два года до раскрытия дела, компания Facebook решила эту проблему.
После того, как разгорелся скандал, Александр Коган заявил, что он ученый и использовал профили только в целях своих социологических исследований. Но похоже, что он, нарушив свой контракт, злоупотребил этими данными и передал результаты в Cambridge Analytica. И произошло это еще до того, как в Facebook решили заблокировать доступ к своей платформе.
Мы можем упрекнуть руководство Facebook в излишней доверчивости во имя своей философии. Компания не имела ни малейшего представления, что ее сетью могли воспользоваться недобросовестные люди. Но, в любом случае, доверие к компании сильно пошатнулось.
Новостная лента
После президентских выборов в США в 2016 г. Facebook также изменила алгоритм в своей новостной ленте. Когда это приложение появилось впервые (в 2006 г.), система, которая решала, что вам показывать, была основана главным образом на простых алгоритмах, а затем на классическом машинном обучении (без глубокого обучения). Лишь с 2015 г. она стала использовать более сложные методы глубокого обучения. Система, используемая Facebook для моделирования наших интересов, обучается и развивается вместе с нашими кликами. Она постоянно адаптируется.
Все такие системы пытаются оптимизировать показатели качества обслуживания. Как и в случае с целевой функцией минимизации в машинном обучении, мы стремимся минимизировать (или максимизировать) эти показатели в зависимости от ситуации. Мы слегка модифицируем систему и на время разворачиваем модифицированную версию для нескольких пользователей. Если показатели улучшаются, мы реализуем ее для большего количества пользователей.
Мы рассчитываем, например, количество людей, которые «кликнут» на определенную рекламу. (Данный вопрос уже рассматривался в предыдущей главе: мы пытаемся уменьшить количество отображаемых объявлений по отношению к количеству кликов. Правда, количество кликов предопределяет доход компании. Но нам также известно, что чем больше рекламы мы предлагаем, тем меньше пользователей переходят на платформу, поскольку они не нуждаются в ней. Поэтому мы ищем компромисс: минимум рекламы; только та, что больше всего заинтересует пользователей. Все индивидуально.) Итак, необходимо знать, что пользователи искали ранее, чтобы предоставить им похожие вещи и т. д. Все это требует понимания контента и принципов
