китайской системы: «Это полноценное цифровое резидентство организации, вещи, личности в мире, управление разрешениями, цифровым профилем человека, единая среда доверия».
Российские граждане, как, впрочем, и жители других стран, пока не слишком интересуются темой своего «цифрового будущего». Единственный человек в России, неоднократно публично высказывавший свое мнение по этому поводу – это Глава Российской Православной Церкви (РПЦ) Патриарх Кирилл (Гундяев). В интервью телеканалу Россия 1 в начале 2019 года он заявил: «Кто-то может точно знать, где вы находитесь, точно знать, чем вы интересуетесь, точно знать, чего вы опасаетесь. Контроль из одной точки – это предвестие пришествия Антихриста, если говорить о христианском взгляде. Антихрист – это та личность, которая будет во главе всемирной паутины, контролирующей весь человеческий род».
Демократические государства Запада воспринимают идею всеобщего социального рейтинга через призму своей истории и культуры. С одной стороны, там все чаще слышатся голоса против развития искусственного интеллекта и, например, алгоритма распознавания лиц в уличных камерах. С другой стороны, именно крупнейшие западные корпорации находятся в авангарде борьбы за повсеместную цифровизацию, тотальную прозрачность и открытость персональных данных, которые, по сути, стали «новой нефтью» для всех крупнейших высокотехнологичных компаний мира. Именно технокомпании-агрегаторы стали первыми, кто начал оценивать своих клиентов посредством отзывов о них. Uber, Gett, Яндекс. Такси – все они стали присваивать своим пассажирам рейтинг, в котором многие пользователи увидели прообраз будущей единой «Системы социального кредита».
Известно, что крупные высокотехнологичные корпорации не слишком задумываются об этике своих действий, особенно если сравнивать их с политиками или обычными людьми. Они делают бизнес, их задача – генерировать прибыль акционерам, и все новые технологии отчасти внедряются ради того, чтобы получать профит или, как вариант, снижать издержки. Поэтому на Западе именно частные компании стали первыми повсеместно внедрять скоринговые системы, которые позволяют оценить возможные прибыли и риски при работе с конечным клиентом. Скоринговые системы изначально использовались в банковском бизнесе и были предназначены для оценки надежности и платежеспособности заемщиков, но с развитием финансовых технологий и расширением банковских сервисов их стали внедрять повсеместно: чем точнее система оценит клиента и его потребности, тем больше товаров или услуг можно ему продать, получив с него максимальную прибыль. И, если раньше это делали специально обученные сотрудники и во многом интуитивно, «на коленке», то теперь это делает искусственный интеллект. Это намного эффективнее и дешевле.
Возикает логичная мысль: а может быть, можно оценить человека в целом? Как заемщика, как покупателя, как пассажира? Ведь это сэкономило бы поставщикам финансовых и прочих услуг немало времени и денег, да и гражданину было намного легче: зная свой оценочный балл, он смог бы точнее соизмерять свои запросы со своими возможностями. Но это дело будущего, хоть и довольно близкого, а пока каждая компания стремится внедрить свою собственную шкалу оценки клиента.
«Какое отношение это имеет к соцрейтингу?» – спросит читатель. Самое прямое.
Система оценки пассажиров действует очень просто: пассажиры Uber, Яндекс или Gett оценивают водителей такси по пятибалльной шкале. Принцип несложный: понравилась поездка или нет, чистый ли автомобиль, опрятный ли водитель, внимателен ли он. Если все понравилось, мы ставим водителю высший балл, и Uber или Gett повышает его внутренний рейтинг в системе. Водитель, в свою очередь, так же оценивает пассажира. Как он себя вел? Не был ли пьян? Не опоздал ли? Если таксисту что-то не понравилось или у него просто плохое настроение (не забывайте, водитель тоже человек), он легко может поставить клиенту низкую оценку. Известно немало случаев, когда постоянный клиент агрегатора такси, например, мужчина, любящий поспорить, или же просто рассеянный и иногда опаздывающий, попадал в «черный список» системы по причине плохих оценок от водителей. Компания имеет право отказать в обслуживании, если рейтинг в ее системе «намного ниже среднего». Как правило, это означает просто «бан» у агрегатора, то есть невозможность пользоваться услугами данного сервиса такси неопределенно долгое время.
И это уже ситуация, аналогичная тем, что случаются благодаря «Системе социального кредита» в Китае: вы получили от частной компании низкий балл, напрямую влияющий на ограничение ваших прав (невозможность поездки на такси), а алгоритм получения оценки вам до конца непонятен. Да даже если и понятен, что с того?
Неправда ли, похоже на китайскую практику? А ведь мы еще только в начале пути.
Некоторые сервисы, например, система бронирования квартир Airbnb, предусматривают возможность пожизненного запрета на использование услуг. Компания даже не обязана объяснять вам, в чем причина. По схожему принципу работает система мониторинга для баров PatronScan, функционирующая в США, Канаде, Великобритании и Австралии. Бармен имеет право оценить клиента, и, если тот, к примеру, замечен в дебошах или ином неподобающем поведении, вход во все бары, использующие PatronScan, ему будет закрыт.
Все больше западных компаний используют технологии якобы для того, чтобы оградить себя от «токсичных посетителей», подавая при этом свои системы как «возможность получить максимальные преференции для лояльных клиентов». И это может стать большой проблемой, так как клиент, получающий низкий балл в такой частной системе, лишен права даже на защиту своей позиции. Он не может подать в суд, и зачастую даже сама жалоба в компанию-агрегатор бессмысленна: искусственный интеллект, осуществляющий скоринг человека, не может ошибаться.
Получается, что цифровизация стимулирует постепенное, но неуклонное распространение принципа презумпции вины, причем часто это усугубляется для клиента невозможностью доказать обратное. О какой справедливости и правах в таком случае вообще может идти речь, если решения на основе нескольких оценок, возможно не вполне объективных (злопамятный или просто склочный бармен, работающий в заведении по системе PatronScan), приведут к ограничению прав ничего не подозревающего человека?
Отдельная история – многочисленные и непрозрачные скоринговые системы страховых компаний. Глобальное увлечение системами оценки клиентов не обошло и их: именно в страховании и медицине точность оценки рисков важна как никогда. У ваших родителей были наследственные заболевания? Страховка будет стоить вам дороже. Часто выкладываете в соцсети фотографии с разных вечеринок? Наверное, вы злоупотребляете алкоголем, и это дополнительный риск в глазах страховщиков. Любите близко фотографироваться с дикими животными в национальном парке? Не слишком разумно, хотя и мило. По крайней мере, скидки на страхование жизни вы уж точно не получите. С точки зрения страховщиков, любое ваше действие – это дополнительный балл в копилку вашего права на страховую скидку или, наоборот, наценку. И это делает страховой скоринг (наряду с банковским) наиболее многослойным и запутанным. Соответственно, он может
