Читаем без скачивания Power and Progress - Daron Acemoglu;Simon Johnson;

Но что определяет, какое технологическое видение преобладает? Даже если речь идет о том, как лучше использовать наши коллективные знания, решающими факторами являются не только технические или те, которые имеют смысл в чисто инженерном смысле. Выбор в данном контексте в основном связан с властью - властью убеждать других, - разные варианты выгодны разным людям. Тот, кто обладает большей властью, с большей вероятностью убедит других в своей точке зрения, которая чаще всего совпадает с его интересами. А тот, кому удается воплотить свои идеи в общее видение, обретает дополнительную власть и социальное положение.

Не обманывайтесь монументальными технологическими достижениями человечества. Общие взгляды могут так же легко заманить нас в ловушку. Компании делают те инвестиции, которые, по мнению руководства, лучше всего подходят для получения прибыли. Если компания устанавливает, скажем, новые компьютеры, это должно означать, что рост доходов, который они приносят, с лихвой компенсирует затраты. Но в мире, где наши действия определяются общим видением, нет никакой гарантии, что это действительно так. Если все убеждены, что технологии искусственного интеллекта необходимы, то бизнес будет инвестировать в искусственный интеллект, даже если существуют альтернативные способы организации производства, которые могут быть более выгодными. Аналогично, если большинство исследователей работают над определенным способом развития машинного интеллекта, другие могут верно или даже слепо следовать по их стопам.

Эти вопросы становятся еще более значимыми, когда мы имеем дело с технологиями "общего назначения", такими как электричество или компьютеры. Технологии общего назначения представляют собой платформу, на которой могут быть созданы бесчисленные приложения, потенциально приносящие выгоды, но иногда и затраты для многих секторов и групп людей. Эти платформы также допускают самые разные траектории развития.

Электричество, например, было не только более дешевым источником энергии; оно также открыло дорогу новым товарам, таким как радиоприемники, бытовая техника, кино и телевизоры. Появились новые электрические машины. Это позволило коренным образом реорганизовать фабрики: появилось лучшее освещение, специальные источники питания для отдельных машин и новые точные и технические задачи в производственном процессе. Развитие производства на основе электроэнергии повысило спрос на сырье и другие промышленные ресурсы, такие как химикаты и ископаемое топливо, а также розничной торговли и транспортных услуг. Они также способствовали появлению новых продуктов, включая новые пластмассы, красители, металлы и транспортные средства, которые затем использовались в других отраслях промышленности. Электроэнергия также открыла путь к гораздо более высоким уровням загрязнения окружающей среды в результате промышленного производства.

Хотя технологии общего назначения можно развивать разными способами, как только общее видение фиксируется в определенном направлении, людям становится трудно вырваться из-под его контроля и исследовать различные траектории, которые могут быть социально более выгодными. С большинством людей, которых затрагивают эти решения, не советуются. Это создает естественную тенденцию к тому, что направление прогресса будет социально предвзятым - в пользу влиятельных лиц, принимающих решения с доминирующим видением, и против тех, кто не имеет права голоса.

Примите решение Коммунистической партии Китая о введении системы социального кредита, которая собирает данные о частных лицах, предприятиях и государственных учреждениях, чтобы отслеживать их благонадежность и соблюдение ими правил. Начатая на местном уровне в 2009 году, она стремится к тому, чтобы вносить людей и компании в черные списки на национальном уровне за их высказывания или посты в социальных сетях, которые идут вразрез с предпочтениями партии. Это решение, которое влияет на жизнь 1,4 миллиарда человек, было принято несколькими лидерами партии. Не было проведено никаких консультаций с теми, чья свобода слова и объединений, образование, государственные должности, возможность путешествовать и даже вероятность получения государственных услуг и жилья теперь определяются системой.

Такое происходит не только в диктатурах. В 2018 году основатель и генеральный директор Facebook Марк Цукерберг объявил, что алгоритм компании будет изменен, чтобы дать пользователям "значимые социальные взаимодействия". На практике это означало, что алгоритм платформы будет отдавать приоритет постам других пользователей, особенно семьи и друзей, а не новостным организациям и известным брендам. Цель изменения заключалась в повышении вовлеченности пользователей, поскольку было установлено, что люди с большей вероятностью будут обращать внимание на сообщения своих знакомых и нажимать на них. Основным последствием изменения стало усиление дезинформации и политической поляризации, поскольку ложь и вводящие в заблуждение сообщения быстро распространялись от пользователя к пользователю. Изменение затронуло не только , насчитывающий на тот момент почти 2,5 миллиарда пользователей компании; еще миллиарды людей, не пользующихся платформой, были косвенно затронуты политическими последствиями дезинформации. Решение было принято Цукербергом, главным операционным директором компании Шерил Сандберг и несколькими другими ведущими инженерами и руководителями. С пользователями Facebook и гражданами затронутых демократических стран не советовались.

Что побудило китайскую компартию и Facebook принять такие решения? Ни в том, ни в другом случае они не были продиктованы природой науки и технологии. Они также не были очевидным следующим шагом в каком-то неумолимом марше прогресса. В обоих случаях можно увидеть губительную роль интересов - подавить оппозицию или увеличить доходы от рекламы. Не менее важным было видение их лидерами того, как должны быть организованы сообщества и что должно быть приоритетным. Но еще более важным было то, как технология использовалась для контроля: над политическими взглядами населения в китайском случае и над данными людей и их социальной активностью в случае Facebook.

Это тот момент, который, имея в своем распоряжении дополнительные 275 лет человеческой истории, Г. Г. Уэллс уловил, а Фрэнсис Бэкон упустил: технология - это контроль, причем не только над природой, но часто и над другими людьми. Дело не только в том, что технологические изменения приносят одним больше пользы, чем другим. Более фундаментально то, что различные способы организации производства обогащают и расширяют возможности одних людей и лишают возможности других.

Эти же соображения не менее важны для направления инноваций в других контекстах. Владельцы предприятий и менеджеры часто хотят автоматизировать или усилить наблюдение, поскольку это позволяет им усилить контроль над производственным процессом, сэкономить на оплате труда и ослабить власть труда. Это желание затем выливается в стимулы к тому, чтобы направить инновации на автоматизацию и видеонаблюдение, даже если развитие других, более дружественных для работников технологий могло бы увеличить объем производства и проложить путь к общему процветанию.

В таких случаях общество, может быть, даже охвачено видением, которое благоприятствует влиятельным лицам. Такие видения помогают лидерам бизнеса и технологий реализовывать планы, направленные на увеличение их богатства, политической власти или статуса. Представители элиты могут убедить себя, что все, что хорошо для