которого общались именно с помощью наших инструментов. А мы как ни в чем не бывало связываем людей»[487]. Письмо появилось за год до публикации отчета Уотерса и Постингса.
В последние годы руководство Facebook стало признавать масштаб проблемы. Еще в 2017 году в компании стартовала инициатива под названием «Борьба за принципы». Начав разбираться, участники проекта сделали чудовищные открытия. Во многих локальных сегментах социальной сети процветают расизм и экстремизм, ведется пропаганда крайне правых взглядов. Само устройство платформы только усугубляет дело:%4 % тех, кто вступил в разного рода экстремистские группы, сделали это «по рекомендации [Facebook]». В 2018 году в одной из презентаций для внутреннего пользования прозвучал вывод о том, что алгоритмы эксплуатируют «склонность человеческого мозга к делению на своих и чужих». Там же отмечается, что Facebook будет предлагать «контент, все более обостряющий идейные разногласия, стремясь привлечь и удержать внимание и увеличить время, которое пользователи проводят на платформе»[488]. Именно это давно замечают многие сторонние эксперты и просто пользователи, а теперь признают и сами сотрудники компании.
По мере своего появления и эволюции новые экспоненциальные технологии усугубляют проблему гомофилии. Компания Genomic Prediction помогает парам в рамках программы ЭКО выбрать наиболее здоровый эмбрион. С развитием инструментов генной инженерии некоторые из существующих табу постепенно исчезнут, и эти технологии будут становиться все более приемлемыми для все новых групп пользователей — и тогда наша склонность объединяться с себе подобными станет влиять даже на наших потомков: не исключено, что мы будем выбирать детей, которые выглядят или думают так же, как мы, еще до их рождения.
Подобные радикальные перемены способны привести к размытию идеалов, необходимых здоровому обществу: мы откажемся от общих целей, ценностей, опыта, которые нас пока объединяют. Гомофилия разрушает человечество, делит нас на мелкие разрозненные группы со все более радикальными взглядами. Она возводит стены, а не мосты.
* * *
По мнению Джеймса Бойла[489], профессора права из Университета Дьюка, мы живем в эпоху второго огораживания. Первый такой период приходился на XV–XIX века в Европе, когда земли, бывшие прежде общинными, в первую очередь поля для выпаса скота или леса для охоты и собирательства, стали переходить в собственность отдельных владельцев в соответствии с выпускавшимися для этого законодательными актами. Многие экономисты считают, что это огораживание стало началом промышленной революции, так как способствовало резкому повышению эффективности использования сельскохозяйственных земель. Однако процесс этот был долгим и жестоким, разрушительным для социальных связей, на которых строилась сельская жизнь. По словам одного из ведущих историков экономики, огораживание означало, что богатые «буквально грабили бедных, отнимая причитавшуюся им долю в общем богатстве»[490].
В нынешний период второго огораживания мы снова наблюдаем, как в некоторых сферах общественной жизни возникают несвойственные им прежде товарные отношения. «То, что прежде считалось либо общей собственностью, либо вообще не представлялось товаром, теперь подпадает под новые или расширенные права собственности», — пишет Бойл[491]. Эти новые законы, определяющие жизнь каждого из нас, создаются частными компаниями: общественное обсуждение ведется теперь на частных платформах; самая интимная информация о личной жизни теперь продается и покупается; даже сценарии, в рамках которых мы знакомимся или развиваем социальные связи, диктуются крупнейшими корпорациями.
Что мы можем предпринять? В рамках этого нового «огороженного» пространства мы оказываемся в полной зависимости от решений корпораций, при этом складывается впечатление, что возложить на них ответственность невозможно. В контексте экономики данных нынешней экспоненциальной эпохи общество радикализируется и дробится, в силу чего у нас остается существенно меньше возможностей для проявления гражданской позиции. Две эти тенденции зажимают нас в тиски, сокращая шансы на создание и сохранение демократических институтов, которые обеспечивают способность общества к нормальному функционированию.
Мы можем сообща — при обязательном участии больших корпораций — договориться о необходимости новых правил. Даже Ник Клегг, руководитель подразделения Facebook по связям с общественностью, признает, что границы допустимого для крупнейших технологических платформ должны определяться в рамках демократического процесса. Это требование станет все более актуальным по мере того, как корпорации будут пытаться монополизировать любую общественную дискуссию в интернете. Если мы думаем, что крупные компании наносят обществу вред, мы должны иметь возможность высказаться и объяснить, какие перемены необходимы. Если же демократические процессы не в состоянии определить новые правила, это сделают технологические корпорации. И тогда место закона займет программный код.
Уже сейчас мы можем начать размышлять о том, какую форму должны принять эти новые, более демократические нормы. Мы не должны ставить целью определение правил для отдельных компаний и платформ, будь то Facebook, Twitch или 23andMe: наверняка для разных случаев потребуются разные решения. Однако мы можем сформулировать общие принципы, которые будут регулировать отношения между гражданами и рынком в новых условиях.
Прежде всего, информационная прозрачность. Системы, определяющие сценарии появления и распространения контента в интернете (что именно подвергается цензуре, что продвигается рекомендательными алгоритмами), должны быть открыты и достаточно просты для анализа и контроля. В нынешнем виде платформы крайне сложны с технологической точки зрения и совершенно непрозрачны: логика их работы скрыта от стороннего наблюдателя, а решения принимаются где-то внутри корпоративной машины. При большей информационной открытости мы сможем наблюдать за тем, как технологическая элита принимает решения, и оценивать их влияние на нашу жизнь.
Давайте обсудим, что это может означать для управления контентом. Сейчас норвежского президента можно запросто исключить из обсуждения репортажа о войне, а американскому президенту — позволить четыре года нести околесицу (а потом вдруг и ему отказать в праве слова). Все это демонстрирует, насколько непрозрачны нынешние правила игры. Представьте, что вместо этого у нас были бы единые ясные нормы того, какие высказывания допустимы в рамках социальных платформ. Но как провести границу? Довольно просто принять решение относительно бесспорно ужасающего поведения. Один из примеров — прямая трансляция в интернете массового расстрела в мечети Аль-Нур в новозеландском городе Крайстчерч в 2019 году. Чаще же ситуации оказываются менее однозначными: онлайн-комментарии, граничащие с разжиганием ненависти, но, возможно, недотягивающие до этого; или статьи, которые с виду подстрекают к насилию, но не совсем. Пока мы даже не можем толком обсуждать, где проходят подобного рода границы, ведь правила формируются без участия широкой публики.
Нам также необходимы независимые институты, которым можно было бы доверить контроль над этим процессом, в частности над разработкой алгоритмов, определяющих, что мы можем и чего не можем делать в рамках цифровых платформ. Когда в 2018–2019 годах один за другим разбились два
