Лучше "Черного зеркала". Как Китай строит идеальную диктатуру на рейтинге граждан
В то время как Запад, встревоженный утечкой личных данных пользователей в не совсем чистые руки, устраивает полудопрос-полувыволочку основателю "Фейсбука", в Китае в стадии полевого эксперимента находится система рейтингования граждан. Эта программа, анонсированная в 2014 г., направлена на оценивание ценности каждого гражданина и, в соответствии с этой оценкой, на поощрение или, наоборот, ограничение для тех, кто недостаточно хорош. Благодаря достижениям технологий, которые дают возможность сделать жизнь каждого человека буквально "прозрачной", можно, наконец, реализовать вековечную мечту человечества о социальной справедливости. Правда, как это иногда бывает при "сбыче мечт" (особенно вековечных), картина вырисовывается несколько мрачная.
На первый взгляд, все не так уж плохо: как указано в резюме "Плана по построению Системы социального кредита", эта система призвана гармонизировать социалистическое общество и усовершенствовать социалистическую экономику, улучшить систему управления, укрепить искренность, поднять дух соревновательности и тем самым двинуть вперед и общество, и цивилизацию в целом. Полностью система должна быть запущена в 2020 г., а пока проходят испытания "пилотов" в разных провинциях.
Формирование гражданской искренности путем тотальной слежки – классический сюжет антиутопий. Все, чего не хватало до сих пор тоталитарному государству, – технических возможностей. Но вот они есть. Как есть – и это гораздо важнее и интереснее – согласие масс. Государство нашло несколько правильных слов и шагов, которые оказались весьма убедительными. Одно из этих слов – "доверие". Еще одно – "кредит". Первое без второго было бы неубедительно. Второе без первого тоже – во всяком случае, в отношении социалистической экономики.
Согласно плану социальный кредит человека формируется на протяжении жизни. В зависимости от рейтинга человек может получать определенные блага – пониженная ставка по кредиту в государственном банке, отсутствие залога при заказе или аренде, "льготные очереди" на выезд за рубеж, скидки на коммунальные услуги и т. п. Но могут быть наложены и ограничения – китайские кассы уже выдали несколько миллионов отказов в продаже билетов на самолет и на железнодорожные билеты, а китайские банки – отказы на открытие банковских карт.
Точная методология расчета рейтинга каждого участника программы, а в перспективе это каждый китайский гражданин, по утверждению наблюдателей, остается "секретом фирмы" (государства). Но известно, что "уронить" рейтинг можно буквально на каждом шагу – не только из-за прямого правонарушения (включая опасное вождение или курение в непредусмотренных местах) или финансовой неаккуратности (опоздание с платежами по счетам и кредитам), но и просто действиями, заслуживающими порицания. Упоминаются излишнее увлечение соцсетями и видеоиграми, чрезмерное расточительство во время шопинга, "праздное хождение перед посадочными воротами" в аэропорту, распространение слухов.
Предположительно, социальный кредит будет брать исток в детстве – во всяком случае, введение постоянного видеонаблюдения в китайских школьных классах, которое будет фиксировать степень внимания и прилежания ученика, наталкивает на эту мысль. Кроме того, граждане с низким социальным рейтингом не смогут устроить своих детей в дорогие частные школы.
Повлияет рейтинг и на карьеру. Работодателям рекомендуют сверяться со списками "плохих граждан" перед тем, как нанять человека на работу. На многие государственные должности путь низкорейтинговым будет закрыт, но может статься, что и частные фирмы откажутся заключать контракт с "плохим гражданином".
Интересно, что в "пилотных" провинциях гражданам нравятся такие новшества. И граждан можно понять: какой смысл быть хорошим, если этого никто не видит и, главное, тебе за это ничего не будет? Ты, например, хороший, а твой сосед, например, плохой, но у вас равные возможности. А может быть и еще хуже – так, как описано в саркастических строках Марка Твена: Хорошие Мальчики, которые, согласно книжкам из воскресной школы, должны быть обласканы судьбой, попадают под дождь и умирают от насморка, в то время как их Плохие одноклассники даже ни разу не чихнули и продолжают лазить через заборы и воровать яблоки в чужих садах. Это несправедливо. Но это еще и очень плохо для общества. Способ установить справедливость, наконец, найден – и люди этому закономерно рады.
Китай довольно предсказуемо оказывается идеальным полигоном для отработки моделей новой социальности, основанной на "прозрачности" каждого члена общества. "Культура стыда", где умение держать лицо - одно из главных человеческих достоинств, а ценность человека определяется в первую очередь его соответствием общественным ожиданиям, кажется, только и ждала некоего "недремлющего ока". От которого не укроется ничто – ни хорошее, ни плохое, и можно будет, наконец, сложить объективную оценку каждому.
Нечто подобно мы уже видели – в сериале "Черное зеркало", серия "Пике". Здесь описано общество, во всяком случае, один его слой, в котором очень многое зависит от количества звездочек на твоем профиле во всеобщей соцсети. Меньше четырех звездочек означает выход за рамки социального одобрения, выше 4,5 – предел мечтаний для героини, у которой всего 4,3. Что отличает эту систему от китайской – либерально-демократические заморочки. Рейтинг насчитывает не какая-то Верховная Сила, а другие пользователи, которые оценивают твои посты по шкале от 1 до 5. И бонусам, которые человек может получить в зависимости от рейтинга, придается деликатная рекомендательная форма – "вы могли бы, если бы у вас было хотя бы 4,5..." Здесь, как и должно быть в западном кино, "подонки", находящиеся вне рейтинга или в самой нижней его части, – довольно симпатичные люди, которым просто плевать на то, что о них думают другие. "Настоящая жизнь" и "настоящие люди" четко и резко противопоставлены фальши "рейтинговых".
Такого нюанса-акцента нет и не может быть в классическом китайском сюжете. Как и рейтинга, пущенного на самотек, отданного на широкое всенародное сетевое голосование. Ценность гражданина – его рейтинг – определяют уполномоченные государственные органы. И никаких отклонений в нонконформизм, тем более со знаком "плюс", здесь быть не может. Человек хорош настолько, насколько хорошо он вписывается в общественно одобренную систему связей. С точки зрения китайца сюжет "Пике", где героиня падает в рейтинге в процессе поисков себя, - не история освобождения, а драма падения. Она не спикировала - она разбилась насмерть.
Но, кроме того, Китай - идеальный полигон для интегрирования искусственного интеллекта в качестве регулятора жизни общества. Искусственный интеллект, которого боялся Хокинг. Он не будет похож на Шварценеггера, не будет "бегать и убивать", как убеждает нас Моск. С "бегать и убивать" мы и сами неплохо справляемся. Зачем нам для этого терминаторы? Этот ИИ будет нянькой и строгим, но справедливым правителем, который потребует от каждого по способностям и раздаст каждому то, что заслужил. Без пяти минут бог.
Именно поэтому – Китай. Культура обожествленной бюрократии, у которой есть пороки, но все они – человеческие и происходят от человеков. От мелкого провинциального чиновника, которого легко коррумпировать, до верховного правителя, которого могут обмануть лукавые советники. Собственно, жестокие наказания за коррупцию – вплоть до расстрела – именно потому и жестоки, что виновные допускают святотатство, разрушая божественную гармонию государственной машины.
Несовершенства чиновников коренятся в их человеческой природе. В то время как алгоритм совершенно неподкупен. Чиновник может за мзду кого-то внести в черный список, а кого-то вычеркнуть. Банковский клерк может проигнорировать социальный рейтинг при оформлении кредитной карточки. И даже сам Верховный Правитель может допустить ошибку. Алгоритм не ошибется, не возьмет взятку, он в любой момент соберет и проанализирует всю информацию о каждом, выдаст совершенно непредвзятый вердикт о степени социальной ценности и либо продаст вам билет на самолет, либо заблокирует продажу. Это и есть то Идеальное Государство, которое, наконец, обеспечит полную социальную справедливость. Здесь, на земле, в этой жизни, а не в каком-нибудь царствии, в которое можно попасть, только умерев.
Если систему рейтинга граждан полностью передать в ведение ИИ с возможностью обучения и усовершенствования, мы, с одной стороны, избежим тех регуляций и ограничений, которые накладывают на подобные разработки западные правительства, сильно озабоченные прайвиси и прочими ценностями. У китайского правительства, как и у общества, таких тормозов нет – здесь общественное благо всегда ставилось выше личного. С другой стороны, мы можем получить в результате интересное воплощение мрачных грез Филипа Дика. Анализируя огромные массивы данных, Цифровой Чиновник сможет найти зависимости, которых мы с вами не видим. Он сможет делать выводы не только о том, насколько каждый человек благонравен, но и насколько он благонадежен. По ничего для нас не значащим чертам и особенностям – любовь к кошкам, равнодушие к смене времени года, предпочтению в еде и т. д. – прогнозировать его выбор в той или иной житейской ситуации. И вносить корректировки в рейтинг в зависимости от этого. Это будет, действительно, Идеальный Правитель, который сможет с высокой вероятностью предвидеть, где и когда гражданин споткнется, и приготовиться.
Это, впрочем, будет и Идеальный Консерватор – что также, надо думать, очень импонирует китайцам. Потому что ценности, которые положены в основу рейтинга, весьма консервативны. Быть "хорошим членом общества" – это почти всегда ассоциируется с консерватизмом.
И, разумеется, подобная система почти наверняка ассоциируется с крайним конформизмом. Что даст спокойно спать китайскому правительству, но в чем-то ослабит страну еще сильнее. Мир, безусловно, держится на конформистах. Но изменения в нем провоцируют те, кто по каким-то причинам не вписывается в рамки социальной нормы.
Впрочем, тому, кто достиг идеала, – обеспечил божественную справедливость на земле, – изменения, надо думать, ни к чему.
