Действие романа Гэри Штейнгарта «Очень печальная история настоящей любви» («Super Sad True Love Story», 2010) происходит в недалеком будущем, где китайский юань стал мировой валютой, а все люди носят на шее «аппарат» с технологией RateMe Plus.
Личные данные выставляются в открытый доступ на вездесущих Кредитных Сваях — столбах на каждом углу, на которых «небольшие счетчики на уровне глаз показывают твой Рейтинг доверия, когда проходишь мимо них». Рейтинг главного героя имеет такой вид: «ЛЕННИ АБРАМОВ. Средний доход за пять лет $289 420 с привязкой к юаню... Давление 120/70. Группа крови I... 39 лет, ожидаемая продолжительность жизни — 83... Портрет потребителя: гетеросексуальный, неспортивный, без автомобиля, нерелигиозный... Сексуальные предпочтения: пассивные азиатки/кореянки... Насилие в детстве: да... Последние приобретения: печатный непоточный медийный артефакт в переплете [то есть книжка]».
Этот роман — художественная антиутопия про разрушение приватности. Коммунистическая партия Китая, вполне возможно, уже движется к воссозданию ее в реальности. Она планирует так называемую систему социального доверия, которая должна оценивать не только финансовую надежность граждан (как это делается везде), но и их социальную, а возможно, и политическое поведение. Пока не ясны ни масштаб этой системы, ни ее эффективность, ни то, насколько она выдержит критику государственных СМИ. Но она уже набрала очертания, и несколько первых кирпичей заложено. Появляются признаки того, что в Китае стартует один из самых смелых в мире экспериментов цифрового социального контроля, пишет The Economist.
Пилотный проект в уезде Суйнин (провинция Цзянсу) на север от Шанхая подсказывает, какой вид такая система может иметь на практике. Начиная с 2010 года местные власти начисляли гражданам баллы за хорошее поведение (например, получение какого-то национальной отличия) и снимала за все проступки: от незначительных нарушений правил уличного движения до «незаконных петиций к национальной власти с просьбами о помощи». Граждане, которые набирали наибольшее количество очков, могли претендовать на вознаграждение, например повышение по службе или государственное жилье вне очереди.
Читайте также: Китай: империя хань
Проект оказался неудачным. Данные, на которых он базировался, были неполными. На волне общественного недовольства эту систему раскритиковала китайская официальная ежедневная молодежная газета «Чжунго циннянь бао». По мнению автора, не следовало включать «политические» данные (например, о подписании петиций): «люди должны оценивать государственных служащих, а взамен госслужащие оценивают людей». Еще одна государственная газета — «Синьхуа жибао» — даже приравняла проект к сертификатам «благонадежных граждан», которые выдавала Япония во время военной оккупации Китая.
Но партия и правительство не сдаются: раньше они в общем очертили планы введения системы социального доверия в 2014-м, а в этом году анонсировали дополнительные директивы. Данные системы собирают около 30 органов местной власти. План кажется очень амбициозным и открыто направленным на то, чтобы влиять на поведение целого общества. По словам китайских чиновников, к 2020 году он «даст возможность благонадежным путешествовать куда вздумается, а скомпрометированным будет трудно сделать даже один-единственный шаг».
Этот проект — реакция на крупнейшие проблемы партии: коллапс доверия к государственным институтам и потребность следить за изменениями во взглядах и интересах китайского населения (не позволяя выражать эти изменения через голосование). Он должен собирать информацию о честности как рядовых граждан, так и государственных служащих и компаний.
Вопрос доверия
Несмотря на годы экономического роста Китая, среди его населения растет возмущение вездесущей коррупцией. Череда скандалов по самым разным поводам — за некачественное жилье или просроченные вакцины — сформировало в обществе циничное отношение к компаниям и способности правительства следить за соблюдением правил. Рейтинг социального доверия имеет целью изменить это, серьезно прижав коррумпированное чиновничество и компании, которые портят жизнь китайцам. Но он собирается отслеживать общественное мнение еще тщательнее. В обществе, где не так много площадок для свободного выражения мнений, большие массивы информации (как это ни парадоксально звучит) способны помочь сделать государственные институты более подконтрольными.
В то же время такая система может сделать надзор за гражданами значительно масштабнее. В других странах было уже немало страшилок о том, как через большие данные на людей смотрел Большой Брат. Большинство из них оказались фейковыми. В Китае все иначе. Это государство одной партии, где мало механизмов сдерживания власти, традиция контроля над обществом и лидер Си Цзиньпин, склонен к авторитаризму даже больше своих недавних предшественников. Масштаб оценивания социальной благонадежности будет зависеть от намерений правительства, от эффективности технологии и реакции КПК на беспокойство общества.
Начнем с намерений. В «принципах планирования», опубликованных в 2014 году, говорится о том, что правительство «внимательно относится к построению системы общественного доверия», а значит, проект одобрили Си Цзиньпин и премьер-министр Ли Кэцян. Социальное доверие, как сказано далее, это «важная составляющая [...] системы общественного управления». Иначе говоря, элемент управления страной.
В документе не сказано, как будет работать система, но четко заявлено про ее цели: укрепление доверия к правительству через повышение его эффективности с помощью больших данных; карательные меры в отношении предприятий, которые подделывают и продают опасный товар; «поощрения доверия и кара за злоупотребление доверием [...] среди всего общества». И как вывод — социальное доверие будет «важной основой для [...] построения гармоничного социалистического общества».
Познать тебя
Такая логика соответствует давней партийной практике использования бюрократических инструментов для ограничения свободы и приватности во имя общественного порядка. Почти у всех граждан есть документ «хукоу» (эквивалент прописки), который определяет, где лицо получает государственные услуги. Большинство китайцев когда-то имели «даньань» (личное дело), где были указаны данные об образовании и работе, а также зарплату. Оба эти механизма контроля, особенно последний, сегодня ослаблены. Но они все-таки существуют.
Все больше людей во власти, на государственных предприятиях и в университетах обязаны передавать свои паспорта на «хранение». Владельцам паспортов в неспокойных регионах Синьцзяна и Тибета тоже говорят передавать их в руки полиции. Наказание и вознаграждение за социальное поведение привязываются к инициативам правительства. Экстремальным примером того, как якобы общее благо вредит частным интересам, остается политика одного ребенка (теперь двух). Закон об опеке над пожилыми людьми от 2013 года требует, чтобы все взрослые дети «часто» посещали родителей, которым за 60 («частоту» определяет суд, а в случае невыполнения-штраф или тюрьма). По закону уже оштрафовано несколько человек, а один чиновник сообщил, что их нарушения могут быть внесены в «даньань» (хотя признаков того, что это действительно сделано, пока нет).
В Китае существует «система административных вознаграждений»: она предполагает уважение и титулы вроде «заслуженный работник», «духовно прогрессивная личность» или «цивилизованный крестьянин» для сотен тысяч людей. Отмеченные получают деньги, более высокую пенсию, лучшую медицинскую страховку и право на государственное жилье без очереди. Руководство страны ценит систему таких поощрений. В прошлом году все семеро членов высшего политического органа страны — постоянного комитета политбюро ЦК КПК присутствовали на церемонии награждения «национального образцового рабочего».
Комплексный надзор, все больше переходит в цифровое поле, является центральной опорой для китайской коммунистической власти. Сейчас в разных частях страны устанавливается система поблокового надзора, известное как «сетевое управление»: полиция и добровольцы ведут списки по группам людей (по несколько сотен в каждой), якобы чтобы обеспечить сбор мусора и решения споров. Это часть традиции «самоконтроля», которая тянется со времен династии Сунь, XI века.
Среди современных форм мониторинга — вездесущие камеры наблюдения. В 2009 году в Китае их было 2,7 млн (не больше, чем в США, которые лидируют по количеству устройств CCTV). По словам главы крупнейшей в Китае площадки электронной коммерции Alibaba Джека Ма, в городе Ганьчжоу камер наблюдения больше, чем в более населенном Нью-Йорке.
В Китае чем больше пользователей интернета, тем больше всеобщий контроль за киберпространством. Китайские киберцензоры могут временно отключать интернет или аккаунты в соцсетях, если их пользователи присылают сообщения с контентом вроде «независимость Тибета» или «инцидент на площади Тяньаньмэнь».
Размах сбора данных позволяет предположить, что в долгосрочной перспективе их будут использовать для отслеживания проведенных транзакций, посещаемых сайтов и пересланных сообщений всех 700 млн пользователей интернета в Китае. Это очень амбициозно, но реально. Слитые в сеть документы свидетельствуют, что Агентство национальной безопасности США может собирать 42 млрд интернет-записей ежемесячно и 5 млрд записей о местонахождении мобильных телефонов ежедневно.
Чтобы такая система наблюдения работала, властям надо сверять владельцев девайсов с цифровыми отпечатками, которые они оставляют. Следовательно, законы, принятые в 2012 и 2016 годах, требуют от интернет-компаний запрашивать у своих пользователей настоящие имена и другие личные данные. Но все-таки остается немало фейковых регистраций. И не понятно, как цензоры планируют работать с частными виртуальными сетями, которые скрывают IP-адрес пользователя.
Кто вежливый, а кто нет
Система социального доверия выстраивается на этой традиции слежения и контроля за частной жизнью людей. В центре проекта списки: чтобы упорядочить собранные данные, нужные реестры лиц. А по ним Китай эксперт. Экскурсионное бюро Поднебесной заключает перечни невоспитанных путников, которым могут на 10 лет запретить выезжать за границу. Администрация по киберпространству ведет «белый список» лояльных медиа-компаний, которым разрешено продавать свои статьи другим изданиям. И так далее.
Реестры, на которых строится система социального доверия, известные как «списки нарушителей решения суда». В них вносят лиц, что ослушались судебного вердикта. Если двое лиц или компаний имеют спор относительно контракта или когда пары ссорятся по поводу условий развода или алиментов на ребенка, стороны могут обратиться в суд, который занимается гражданскими вопросами. Если тогда сторона, которая проиграла, не осуществляет положенных выплат, ее заносят в список. Имена нарушителей высвечиваются на электронном табло перед судами. По статистике Верховного суда, до конца 2015 года список нарушителей насчитывал 3,1 млн нарушителей.
С обеспечением исполнения приговоров в отношении финансовых вопросов в гражданских делах проблемы есть во всех странах. Поэтому китайский список не должен бы слишком удивлять. Но ведь удивляет. Он исключительно длинный; доступ к нему имеют десятки правительственных департаментов и партийных организаций, и все они могут применять к нарушителям собственные санкции. Лица, названные в списке, могут сталкиваться с проблемами во время покупки билетов на самолет, скоростные поезда или первого или бизнес-класса на железную дорогу; купли-продажи жилья; записи детей в дорогие платные школы. Есть ограничения на прием и продвижение таких нарушителей по карьерной лестнице в партии или армии, получение почетных наград и титулов. Если нарушитель — компания, то ей могут запретить выпускать акции или облигации, принимать зарубежные инвестиции или работать над государственными проектами. До августа 2016 года нарушителям из списка запретили купить билет на самолет примерно в 5 млн случаев. Это больше чем просто правоприменение.
Грех по-китайски
Систему можно несколько расширить от нынешней записи «злостных неплательщиков» до отслеживания компаний, которые продают отравленное молоко или как попало строят жилье. Впрочем, если судить из рекомендаций, обнародованных в мае и сентябре, мониторинг может оказаться гораздо масштабнее. В них списки нарушителей названо «важным компонентом информации про социальную благонадежность»; подразумевается, что они являются элементом большей системы и нарушение финансовых обязательств — только одна из категорий злодеяния. Среди других интересных видов поведения, что не вызывает доверия», — «поведение, что серьезно подрывает [...] нормальный общественный порядок, порядок трансмиссий в киберпространстве», а также «сбор с целью подрыва общественного порядка [и] создание угрозы национальным оборонным интересам». Такой широкий диапазон категорий означает, что систему могут использовать для учета и наказание тех, кто выражает несогласие, собственное мнение и в ком видят угрозу безопасности.
Рекомендации, хоть и не прописаны четко, могут дать властям инструмент для интеграции многочисленных баз данных: «хукоу» и «даньань» всех граждан, информации, собранной во время электронного слежения, черных списков невежливых туристов, национальной программы «образцового рабочего» и тому подобное. Даже обнародованные в декабре правила, регулирующие сферу видеоигр, предполагают создание черных списков геймеров-нарушителей — такую информацию тоже можно вносить в базу данных социального доверия. В худшем случае этот проект может превратиться в всеобъемлющий паноптикум цифрового надзора.
Читателю это, не исключено, покажется просто страшилкой. В конце концов, Google, Facebook, брокеры данных и маркетинговые компании в западных странах (и даже команды, которые проводят президентские кампании в США) имеют в распоряжении массивы личной информации, но это не причиняет (или по крайней мере не было до сих пор) серьезный ущерб гражданским свободам.
Впрочем, в Китае личную информацию воспринимают по-другому, чем на Западе. В демократических странах компании и правительства ограничены в ее использовании и доступе к ней законом. Такие защитные меры нигде не идеальны. Но в КНР их просто не существует. Тамошние законы о национальной безопасности и новый о кибербезопасности дают правительству неограниченный доступ практически ко всей персональной информации. Защитники гражданских свобод, которые могут выступать против таких практик, все чаще оказываются за решеткой. А по информации Аналитической службы Конгресса США, компании, которые имеют такие данные (как Alibaba, крупнейший в Китае поисковик Baidu, популярная платформа обмена сообщениями Tencent), регулярно выполняют требования власти про представление ей данных.
Системы больших данных в демократических странах не заточены под социальный контроль. В Китае будет все наоборот. А поскольку лидеры Поднебесной отождествляют интересы партии и общества, инструменты социального контроля могут быть использованы с политической целью. В этом году, например, представители КПК попросили одно из крупнейших оборонных предприятий Китая China Electronics Technology Group разработать программное обеспечение, которое прогнозировало бы риски возникновения терроризма по базе данных о стаже работы граждан, финансовой истории, потребительских привычках, хобби и записей с камер наблюдения. А от просеивания информации в поисках террористов недалеко к аналогичному поиску диссидентов. Западные разведки пытались через инструменты просеивания массивов данных идентифицировать отдельных боевиков. Но у них не получилось, ведь было много «ложных зацепок».
Могут ли системы социального доверия заработать? Китайские специалисты столкнулись с двумя серьезными техническими проблемами: качеством данных и чувствительностью инструментов их анализа. Проекты с большими данными (как попытка Национальной службы здравоохранения Великобритании создать национальную медицинскую базу данных) повсеместно наталкиваются на проблему: как предотвратить попадание в систему некорректной информации (которое навредило и эксперименту в Суйнине)? А в стране с 1,3 млрд населения проблемы ложных данных приобретают огромные масштабы. Кроме того, в крупных залежах информации есть лакомые куски, которые киберпреступники воруют или меняют.
Способ анализа данных — не менее проблематичное задание. Компонент системы социального доверия, что привлек самое пристальное внимание и вызвал больше всего беспокойства, — это приписывание «кредитов» (баллов) за социальную и политическую активность. Здесь модель похожа на ту, что работает в американской индустрии маркетинга. Компании формируют собственную шкалу кредитов, которая помогает им предсказывать потребительские предпочтения клиентов. Она основывается на данных о стабильности работы потребителя, риски, связанные с состоянием здоровья, склонностью к подростковой преступности. Но и в ней множество неточностей. В благотворительной организации World Privacy Forum утверждают, что кредиты выстраиваются за сотнями пунктов данных без каких-либо стандартов правильности, прозрачности или полноты. Заключение в отчете организации звучит так: «частота ошибок и неправильных трактовок данных становится серьезным вопросом». То есть куча мусора как на входе и так же на выходе.
Что может пойти не так?
Китайские власти осознают эти сложности. Они уже допустили нетипично активные дискуссии про такую практику вокруг информации в государственных СМИ. А следовательно, как можно предположить, влпсть пробует почву, прежде чем сделать шаг. Недавний «саммит социального доверия», что происходил на высоком уровне в Шанхае, сосредоточился на том, как проверять баллы, исправлять ошибки. Многие утверждали, что надо совершенствовать механизмы правовой защиты данных. Чжан Чжэн, руководитель Центра исследований китайской системы оценивания при Пекинском университете, утверждает, что сейчас в этом поле много нерешенных проблем, а вмешательство власти надо ограничивать.
Издание Beijing Times в комментарии жаловалось о планах наказывать людей, которые не платят за свет, ограничениями иностранных поездок и кредитования в банках. «Я никогда не выступал против истеблишмента или улучшения системы оценивания, — писал автор Ян Женшень. — Я просто против использования баллов для распространения власти сильных и дальнейшего уменьшения поля для гражданских свобод».
В системе социального доверия остается много непонятного. Китайские власти пока не определилась, использовать ее для преследования преступников или превратить в полноценного Большого Брата. Они еще не уверены, какую долю имеющейся в ней информации следует вводить в систему. Технология наблюдения в основном не апробирована в масштабах Китая. Кроме того, для эффективной ее работы следует преодолеть фрагментированность тамошних спецслужб.
Но правительство создает возможности для масштабного режима социального контроля. И многие элементы этой системы уже готовы: базы данных, цифровое слежения, система наград и наказаний, патернализм в стиле «мы знаем лучше». Остается только сложить куски пазла воедино. Если и когда-то это будет сделано, Китай построит первое цифровое тоталитарное государство. Как писал другу другой герой «Очень грустной истории настоящей любви», «вот так случается, когда существует единственная партия, а мы живем в полицейском государстве».
