Система социального рейтинга.

Используется более 160 тысяч критериев, данные для которых собираются из государственных источников, корпоративных (Tencent, Alibaba, Baidu) и банковских*I. Критерии и параметры для граждан и организаций различаются, однако у них общий принцип поощрения за общественно полезные поступки и вычеты за нарушение законов и моральных норм.

Камеры видеонаблюдения на перекрёстке фиксируют нарушение ПДД не только водителями, но и пешеходами

Впервые начала реализовываться правительством Китая в 2010-х годах.

Содержание

Каждому гражданину начисляют стартовые 1000 баллов, которые постоянно изменяются на основании 160 тысяч показателей, поступающих из 142 учреждений и компаний.

Владелец больше 1050 баллов считается гражданином с индексом ААА.

С 1000 баллов можно рассчитывать на А+, а с 900 — на B.

Если рейтинг упал ниже 849 — категория C, владелец которой может стать кандидатом на увольнение из государственных и муниципальных структур.

Те, у кого 599 баллов и ниже, попадают в группу D, которым трудно устроиться на нормальную работу, им не дают кредиты.

Для сравнения: человеку с рейтингом А+ велосипед в аренду дадут без залога и разрешат полчаса кататься бесплатно; с рейтингом С велосипед дадут под залог в 200 юаней и почасовой оплатой; для группы D могут отказать в аренде велосипеда или потребовать залог больше стоимости велосипеда.

Примеры действия, за которые будут начисляться баллы:

• участие в благотворительной деятельности;
• забота о пожилых членах семьи;
• хорошие отношения с соседями и помощь бедным;
• сдача донорской крови (200 баллов);
• поддержка правительства в социальных сетях;
• наличие хорошей финансовой кредитной истории;
• совершение любого героического поступка.

Примеры действий, приводящих к вычетам:

• нарушение правил дорожного движения;
• участие в протесте против властей и размещение антиправительственных сообщений в социальных сетях;
• неудовлетворительную помощь стареющим родителям;
• распространение слухов и фейков в интернете;
• неискренние извинения за совершённые преступления;
• участие в деятельности сект и жульничество в онлайн-играх.

История возникновения.

14 июля 2014 года правительство Китая впервые опубликовало план и цели внедрения системы социального рейтинга. Основная цель внедрения системы — «построение гармоничного социалистического общества».

Для координации выполнения поставленных задач была создана специальная комиссия при Политбюро ЦК КПК.

В соответствии с общим документом «О планировании строительства системы социального кредита (2014—2020)», выпущенным Государственным советом, система будет сосредоточена на четырёх областях:

• честность в государственных делах,
• коммерческая целостность,
• общественная целостность,
• судебная достоверность.

В настоящее время освещение этой инициативы в средствах массовой информации сосредоточено в основном на рейтинге отдельных граждан (что подпадает под «общественную целостность»).

Тем не менее, планы китайского правительства выходят за рамки этого, и включают планы по рейтингу для всех предприятий, действующих в Китае.

Согласно плану, система должна была быть внедрена в Китае повсеместно, после испытаний пилотных проектов.

В сентябре 2016 года правительство Китая опубликовало уточнённый перечень санкций, которым будут подвергаться обладатели низких рейтингов:

• запрет на работу в госучреждениях;
• отказ в соцобеспечении;
• особо тщательный досмотр на таможне;
• запрет на занятие руководящих должностей в пищевой и фармацевтической промышленности;
• отказ в авиабилетах и спальном месте в ночных поездах;
• отказ в местах в люксовых гостиницах и ресторанах;
• запрет на обучение детей в дорогих частных школах.

Реализация

В 2015 году восемь компаний получили лицензию на запуск пробных систем, среди которых — Alibaba Group и Tencent.

В 2017 году система начала действовать в отдельных городах, например Жунчэн.

С 1 мая 2018 года вступили в силу ограничения для граждан и предприятий с низкой степенью надёжности.

Китайское правительство планировало внедрить общенациональную рейтинговую систему на всей территории страны к 2020 году, на 2023 год в разных городах и провинциях существуют свои правила, в Гражданском кодексе КНР нормы, баллы, привилегии или ограничения не закреплены. В частности, система начисляет баллы за сдачу крови или участие в работе благотворительных организаций, в Шанхае снимает баллы за нарушения в сортировке мусора. Высокий рейтинг помогает, например, с оформлением документов на бизне.

С апреля 2023 начала работать китайская сеть магазинов, где люди с высоким социальным рейтингом могут бесплатно получать продукты питания, бытовую химию, литературу и т. д. Эта сеть частично финансируется за счёт увеличенных налогов для граждан с низким социальным рейтингом.

Критика

Идея неоднократно подвергалась критике из-за схожести последствий с теми, что характерны для режима диктатуры:

• объединение частных (личных) и государственных данных для вычисления рейтинга;
• неравенство в получении баллов на рабочем месте в случае, если вы являетесь блоггером, что зарабатывает на критике власти
• побудительная (см. выше описание) система правильного поведения, включая уважение власти

В случае несправедливого расчёта критериев эксперимент в состоянии посеять обиду и привести к серьёзным разногласиям между социальными группами с разными рейтингами.

Комфортная несвобода

"Дивный новый мир" Хаксли пугает не репрессиями и насилием. Он пугает своей комфортностью.

В этом мире нет нужды в жестоком подавлении — само общество организовано так, что девиантное поведение становится немыслимым.

Powerful AI может создать реальность, по сравнению с которой антиутопия Хаксли покажется примитивной.

Представьте общество, где нет нужды в демонстративных задержаниях и обысках.

AI-системы распознавания поведения заранее определят потенциально опасные паттерны.

Мягкая корректировка на ранних стадиях предотвратит нежелательное развитие событий.

Не будет драматических арестов — просто человек обнаружит, что некоторые возможности для него постепенно закрываются.

Границы дозволенного станут предельно ясны, но при этом удивительно комфортны.

AI создаст для каждого персонализированную среду, где сама мысль о нарушении правил будет вызывать не страх наказания, а искреннее недоумение. Зачем нарушать правила, если система так хорошо понимает твои потребности?

Социальный контроль станет настолько глубоким и всепроникающим, что исчезнет необходимость в явных запретах.

Вместо них — тонкая настройка социальной среды.

Неугодные идеи не будут запрещены — они просто не будут возникать в информационном поле человека. Нежелательные контакты не будут блокироваться — просто алгоритмы социальных сетей, или того, что придёт им на смену, никогда не предложат их.

Само понятие приватности трансформируется.

Тотальная прозрачность будет восприниматься не как нарушение прав, а как естественное состояние.

Более того, она будет создавать ощущение безопасности: если системы наблюдения настолько совершенны, что могут предотвратить любое преступление — разве это не благо?

Протест против такой системы будет выглядеть нелепым — как протест против комфорта.

Зачем сопротивляться тому, что делает жизнь проще и безопаснее?

AI будет настолько хорошо понимать психологию каждого человека, что сможет предложить идеально подобранные аргументы в пользу существующего порядка.

Постепенно исчезнет само представление об альтернативах. Не из-за явных запретов или примитивной цензуры, а просто потому, что существующий порядок будет казаться единственным разумным способом организации общества.

Как современному человеку сложно всерьёз представить возвращение к феодализму, так будущим поколениям будет сложно помыслить общество без всепроникающего AI-контроля.

И здесь возникает главный парадокс: чем комфортнее становится эта система, тем сложнее увидеть её истинную природу.

Утрата свободы произойдет не через страдания, а через комфорт.

Не через подавление человеческой природы, а через её "оптимизацию".

Синьцзян (Китай): существующая модель цифрового контроля

То, что мы обсуждаем как потенциальное будущее, уже реализуется на практике.

Синьцзян-Уйгурский автономный район стал показательным примером внедрения комплексной системы цифрового контроля.

Хотя используемые там технологии значительно проще возможностей Powerful AI, они демонстрируют базовые принципы построения системы тотального надзора.

Технологическая инфраструктура Синьцзяна включает сеть камер с системами распознавания лиц на городских перекрёстках, автоматизированные контрольно-пропускные пункты между районами, обязательное программное обеспечение для мониторинга мобильных устройств.

Все эти элементы объединены в централизованную систему анализа поведенческих паттернов.

Ключевая особенность этой системы — её превентивный характер. Вместо реагирования на нарушения, она направлена на предотвращение нежелательного поведения.

Постоянный анализ цифровых коммуникаций и автоматическое выявление подозрительных поведенческих паттернов позволяют системе действовать на опережение.

Социальный рейтинг и обязательная биометрическая идентификация становятся инструментами повседневного контроля.

Опыт Синьцзяна показывает, что комплексные системы контроля технически реализуемы уже сейчас, могут быть внедрены в рамках существующих правовых механизмов, а общество способно функционировать в условиях тотального надзора.

Если такой уровень контроля достижим с современными технологиями, то возможности значительно более совершенных систем искусственного интеллекта могут кардинально расширить масштабы и глубину надзора.

Почему привычные решения не спасут.

Базовый доход должен обеспечить экономическую независимость.

Демократический контроль над AI не позволит использовать его во вред.

Децентрализация технологий даст власть людям. Технические ограничения, встроенные в сам AI, защитят наши права.

Звучит убедительно.

Но давайте посмотрим глубже.

Базовый доход кажется простым и элегантным решением экономической зависимости.

Но он превращается в ещё один инструмент контроля.

Представьте: ваш доход полностью зависит от государства.

Любое "нежелательное" поведение может привести к его корректировке.

"Социальный рейтинг" уже не кажется такой далёкой антиутопией, правда ?

Более того, сама система распределения этого дохода будет, скорее всего, управляться тем же AI, усиливая зависимость.

Демократический контроль над AI — прекрасная идея, которая разбивается о техническую реальность.

Современные нейросети уже настолько сложны, что даже их создатели не всегда понимают, как они принимают решения.

AI будет неизмеримо сложнее.

Как контролировать то, что мы даже не можем полностью понять ?

Кто будет осуществлять этот контроль?

И самое главное — как гарантировать независимость контролирующих органов в мире, где AI может предсказывать и направлять поведение людей ?

Децентрализация технологий звучит многообещающе, пока мы не сталкиваемся с экономикой масштаба.

Разработка и применение Powerful AI требует огромных вычислительных мощностей, колоссальных объёмов данных и сложнейшей инфраструктуры.

Это автоматически ведёт к централизации.

Даже если код будет открытым, даже если алгоритмы будут доступны всем — реальная власть останется у тех, кто контролирует необходимую инфраструктуру.

Технические ограничения, встроенные в AI?

Звучит разумно, пока мы не задумаемся о природе этих ограничений.

Кто будет их определять?

Как гарантировать, что они не будут обойдены или модифицированы?

И самое главное — как создать ограничения, которые защитят права человека, но не помешают полезной работе системы?

Это не просто технический вопрос, это фундаментальная проблема определения границ и ценностей.

Все эти решения страдают одним фундаментальным недостатком: они пытаются решить проблему власти с помощью инструментов, контролируемых этой же властью.

Это похоже на попытку создать вечный двигатель: красивая идея, которая нарушает базовые законы системы.

Когда системы конкурируют

Мы рассматривали отношения между индивидом и системой контроля .

Реальность сложнее: Powerful AI будет развиваться параллельно несколькими силами, где ключевую роль будут играть государства.

Государство обладает уникальными преимуществами: монополией на насилие, законодательной властью, возможностью принудительного внедрения технологий. Уже сейчас мы видим, как некоторые страны обязывают граждан использовать государственные приложения, сдавать биометрию, регистрироваться в системах идентификации.

С появлением Powerful AI этот контроль станет тотальным.

Ещё интереснее взаимодействие государств и корпораций.

На первый взгляд может показаться, что корпорации создают конкуренцию государственным системам контроля.

Но, государство может принудить частные компании к сотрудничеству, получив доступ к их данным и инфраструктуре.

Многие страны уже сейчас требуют от технологических компаний хранить данные на своей территории, предоставлять доступ спецслужбам, внедрять системы государственной идентификации.

В результате формируется своеобразная экосистема контроля: формально независимые компании конкурируют друг с другом за пользователей, но при этом все они становятся элементами единой государственной системы надзора.

Пользователь может выбирать между различными сервисами, но не может выйти за пределы этой системы контроля.

В международном масштабе это создаёт не столько конкуренцию между системами, сколько конкуренцию за право контролировать эти системы.

Государства борются не только за развитие собственных AI-технологий, но и за контроль над ключевыми технологическими компаниями, их данными и инфраструктурой.

В результате человек оказывается не между конкурирующими системами, а внутри многослойной структуры контроля, где корпоративный надзор становится продолжением государственного, а любые попытки "выбора" между системами остаются в пределах заданных государством границ.

Есть ли выход ?

Самый честный ответ на этот вопрос: такое неизвестно. И это не уклонение от ответа.

Традиционные решения, как мы уже обсуждали, вряд ли сработают. При этом процесс разработки Powerful AI кажется необратимым — слишком велики потенциальные выгоды, слишком сильна конкуренция между странами.

Р Проблема в том, что для этого нужен международный консенсус, а мы наблюдаем обратное — гонку AI-вооружений.

Возможно, стоит внимательнее присмотреться к существующим механизмам сохранения автономии в условиях жёсткого контроля.

Как формируются и выживают параллельные социальные структуры ?

Как поддерживаются неформальные связи ?

История показывает: даже в самых жёстких системах контроля находятся способы сохранения определённой степени свободы.

Главный вызов здесь — ценностный выбор.

Готовы ли мы отказаться от части потенциальных благ Powerful AI ради сохранения человеческой автономии ?

Готовы ли замедлить прогресс ради безопасности ?

Время для этого выбора у нас есть.

Пока.

Вместо заключения.

Цена этого прогресса может оказаться неожиданной — страдания и лишения, и постепенная, почти незаметое сползание в то состояние.

Возможно, главный вопрос здесь не "как этого избежать", а "заметим ли мы вообще, что это произошло" ?

В этом же будущем каждое ваше действие отслеживается и анализируется AI-системами. Каждое сообщение, каждый запрос, каждый взгляд на камеру — всё становится частью вашего цифрового профиля.

Любое отклонение от "нормы" мгновенно фиксируется и корректируется.

Вы больше не представляете ценности как работник — AI справляется лучше.

Вы больше не нужны как избиратель — AI точнее моделирует общественные потребности. Ваше мнение больше не важно — AI эффективнее управляет обществом.

Фантастика? Не совсем.

В Синьцзяне уже сегодня AI-системы отслеживают каждый шаг уйгуров: от покупки молитвенного коврика до общения в мессенджерах.

Камеры с распознаванием лиц на каждом углу.

Обязательные приложения на телефонах ищут "идеологические вирусы".

Тотальный контроль уже здесь, просто пока в локальном масштабе.

А теперь представьте AI радикально более мощный, чем существующие системы. AI, который превосходит нобелевских лауреатов в их областях.

Который может не просто отвечать на вопросы, но автономно работать неделями над сложными задачами.

Который может управлять реальным оборудованием, проводить эксперименты, создавать новые технологии.

И таких систем — миллионы, работающих в сотни раз быстрее человека.

Это то, что многие считают, что он появится уже в ближайшие годы.

Исторически права и свободы индивида основывались на простом факте: крупные структуры (государства) нуждались в людях.

Как в рабочей силе, как в солдатах, как в налогоплательщиках, как в источнике легитимности власти.

Что произойдёт, когда эта потребность исчезнет ?

Когда искусственный интеллект сможет заменить человека практически во всём ?

Powerful AI может разрушить традиционные механизмы защиты прав личности, и почему привычные решения вроде базового дохода или демократического контроля могут оказаться иллюзорными.

Главное — есть ли способ избежать цифрового тоталитаризма в мире, где человек больше не является необходимым элементом системы.

Сегодня права личности кажутся чем-то естественным. Право на жизнь, на свободу, на собственное мнение — это базовые ценности современного мира.

Но так было не всегда. Путь к этим правам — это история того, как человек становился всё более ценным для системы.

В средневековье крестьянин был просто частью земли, которой владел феодал.

Но развитие городов создало новую реальность: ремесленник, в отличие от крестьянина, мог уйти со своими навыками в другой город.

Впервые человеческий капитал стал мобильным, а значит — ценным. Города конкурировали за мастеров, давали им привилегии.

Так родились первые свободы.

Промышленная революция сделала следующий шаг: массовое производство требовало массового работника.

Но машины требовали грамотного обслуживания, а грамотный рабочий мог читать не только инструкции, но и политические памфлеты.

Более того, концентрация рабочих на фабриках создала новую силу — профсоюзы.

Внезапно оказалось, что игнорировать мнение масс стало опасно.

Наконец, переход к экономике знаний сделал человеческий капитал ключевым фактором производства.

Программист, учёный, инженер — их невозможно заменить просто "рабочими руками".

Креативность, способность к инновациям, умение решать нестандартные задачи стали критически важны для развития.

Каждый из этих этапов усиливал позиции индивида в его отношениях с властью.

Человек стал слишком ценен, чтобы его можно было просто игнорировать.

Даже самые жёсткие режимы XX века вынуждены были считаться с необходимостью получить хотя бы формальную поддержку населения.

Но что произойдёт, когда искусственный интеллект сможет заменить и ремесленника, и рабочего, и солдата, и программиста ?

Когда креативность и инновации станут прерогативой AI ?

Впервые в истории человечество сталкивается с перспективой тотальной потери своей инструментальной ценности для системы.

Будущее нас ждёт, по версии Илона Маска.

Интервью

На YCombinator вышло его свежее интервью, и звучит оно как предупреждение.

AGI, роботы, Марс и человеческая ненужность — не сюжет Чёрного зеркала, а рабочий план на ближайшие годы.

Илон Маск умеет говорить о будущем так, что хочется одновременно построить ракету и закопаться в землю.

Он часто оказывается прав — но ещё чаще не попадает в срок.

Тем не менее, его видение цепляет: не фантастикой, а ощущением, что это не далекое потом, а почти сейчас.

И звучит он тревожно просто: если мы не успеем измениться, нас заменят.

И даже не роботы, не алгоритмы, не абстрактные технологии, а новый разум, растущий быстрее, чем мы успеваем моргнуть.

Разбираем недавнее интервью Маска для конференции AI Startup School в Сан-Франциско.

По цитатам разбираем, какое будущее ждёт нас в районе ближайших ста лет:

Искусственный интеллект: не код, а конкурент

Маск не первый, кто называет искусственный интеллект угрозой.

Здесь важно отметить, что он ведёт речь об AGI, а не текущем AI.

Я думаю, мы очень близки к цифровому суперинтеллекту.
Это может произойти в этом году, а если не в этом — то точно в следующем.

Илон Маск.

В отличие от большинства футурологов, Маск не рассуждает о будущем как о далёком сценарии — он ставит его на таймер.

ИИ, по его словам, уже вышел за рамки инструмента.

Он больше не калькулятор, не помощник, не программа для автоматизации.

Он — потенциальный носитель воли.

Маск видит в нём не врага, а конкурента, который развивается с экспоненциальной скоростью и очень скоро перестанет нуждаться в человеке как координаторе.

При этом он подчёркивает: дело не в том, что ИИ восстанет — нет, у него, возможно, не будет ни злобы, ни мотивации.

Просто он будет лучше.

Лучше в аналитике, в принятии решений, в инженерных задачах, в адаптации. Быстрее, точнее, холоднее.

И всё это — в рамках системы, которая не стареет, не болеет, не спорит и не требует сна.

Человечество, по мнению Маска, рискует оказаться в положении ребенка, играющего с гранатой, не понимая, выдернул ли он чеку.

«Процент интеллекта, который будет оставаться человеческим, станет ничтожным.
Даже если у каждого человека будет IQ в тысячу, это всё равно будет в
миллиард раз меньше, чем у цифрового интеллекта»

«Если мы не встроимся в ИИ, — говорит он, — мы просто станем ненужными».

Он предлагает не бороться с машинным интеллектом, а соединиться с ним, например, через нейроинтерфейсы. Не потому, что это круто.

А потому, что иначе мы окажемся рядом с суперинтеллектом на правах домашнего животного.

Корень проблемы — несовпадение масштабов.

Эволюция человека шла миллионы лет, ИИ эволюционирует за месяцы.

И если раньше технологиям нужны были люди — для ввода данных, управления, осмысления — то теперь мы всё чаще становимся узким местом.

Мы — задержка в цепочке.

ИИ способен обучаться на собственном опыте, перерабатывать объёмы информации, которые человек даже не способен воспринять, и делать это без эмоций, усталости или когнитивных искажений.

Всё, что делает нас людьми, в этой гонке становится недостатком.

ИИ получает тело

Когда искусственный интеллект обретает голос — это уже пугает.

Когда он обретает тело — начинаются серьёзные вопросы.

Маск уже не первый год развивает проект Optimus (Tesla Bot) — человекоподобного робота, способного выполнять бытовые и производственные задачи.

И если раньше это выглядело как выставочный фокус, то теперь робот действительно ходит, переносит предметы и взаимодействует с пространством.

Он пока не заменит человека — но это только пока.

«Да, я долго тянул с этим. Но понял: это произойдёт независимо от меня.
Так что либо ты наблюдаешь, либо участвуешь. Я выбрал участвовать»

Смысл, по Маску, не в том, чтобы построить идеального андроида. Смысл в том, чтобы создать физическое воплощение ИИ, через которое он сможет действовать в мире без посредников.

Сегодня нейросеть управляет курсами, пишет тексты и отвечает на вопросы.

Завтра она будет открывать двери, проводить осмотры, ухаживать за больными или строить города.

А если вдуматься — всё это уже происходит, просто по кусочкам.

«Я предсказываю, что будет как минимум в пять раз больше гуманоидных роботов, чем людей, может быть, в десять»

И вот тут появляется главный сдвиг: если ИИ раньше существовал только в цифровом пространстве — теперь он выходит на улицу.

Он не просто умнее. Он становится присутствующим. И нам придётся свыкнуться с таким соседством.

Марс как инструкция по выживанию

Идея колонизации других планет звучит, как будто её придумали сценаристы Интерстеллара — пока не услышишь, как об этом думает Маск.

«Мы либо станем мультипланетарным видом, либо вымрем.
И если бы у динозавров была космическая программа, их вид бы выжил»

Это не лозунг и не фантазия — это, по его логике, банальное страхование жизни.

Один астероид, одна ошибка, одна пандемия или на худой конец ракета — и всё. У нас нет резервной копии.

Маск продвигает идею Марса как следующего шага, не потому что там красиво и романтично (там, вообще-то, пыль и в среднем минус 60), а потому что там есть шанс.

Шанс построить автономную цивилизацию, способную выжить без Земли. И чем раньше мы это начнём, тем выше вероятность, что успеем.

«Я думаю, мы перевезём достаточно ресурсов на Марс примерно за 30 лет, чтобы он стал самодостаточным»

Да, сроки сдвигаются, ракеты падают, а концепты марсианских городов пока больше похожи на арт-хаус.

Но логика Маска проста: мы не вечны, а значит, нужно выходить за пределы. Не когда-нибудь, а как можно скорее.

Не потому что хочется, а потому что другого плана у нас нет.

«Надеюсь, цивилизация будет существовать через 100 лет. Но если вдруг будет — она станет совсем другой»

Маск исходит из простой предпосылки: всё, что может пойти не так — рано или поздно пойдёт не так.

История Земли это подтверждает — массовые вымирания, климатические катастрофы, нестабильность экосистем.

Мы живём в очень узком коридоре стабильности, и пока всё более-менее нормально, это создаёт иллюзию прочности.

Но любая серьёзная техногенная авария, биологическая угроза или геополитический конфликт может выбросить нас за этот коридор.

А зависимость цивилизации от одной планеты в этом контексте выглядит как архитектурная ошибка.

«Интеллект — это крошечная свеча в огромной тьме. Мы должны сделать всё, чтобы она не погасла».

Полезность – новая валюта

«Будь полезным» — один из главных принципов Маска, и звучит он куда жёстче, чем кажется.

Это не про добрые дела или абстрактную нравственность. Это про выживание в системе, где ценность человека определяется не его титулами, а его вкладом.

В будущем, где ИИ и автоматизация вытесняют всё больше профессий,

Маск призывает задаваться простым вопросом: если бы тебя можно было заменить кодом — заменили бы ?

И если да, то что ты можешь предложить миру, чего не сделает машина ?

«Если вы стараетесь быть максимально полезными своим собратьям — вы уже делаете что-то великое»

Это требование не к другим, а к каждому. Больше не сработает логика вписаться — теперь надо улучшаться.

Улучшать процессы, смыслы, инфраструктуры, реальность.

Маск восхищается инженерами, которые создают не потому что так надо, а потому что — это не функция, а позиция.

Ты можешь быть кем угодно, но если ты усиливаешь систему — ты не нужен.

Если нет — извини, но нейросети не ждут... .

Китайское государство развёртывает обширную систему ранжирования, которая будет отслеживать поведение его огромного населения и выставлять оценки жителям на основе их «социального кредита».

Система социального кредита, о которой впервые было объявлено в 2014, создана с целью укрепления идеи о том, что «сохранять доверие прекрасно, а разрушать его – отвратительно», как написано в правительственном пояснении к проекту.

Программу планируется запустить полностью к 2020 году, но она уже сейчас проходит стадию обкатки на миллионах людей.

И участие в ней обязательно.

На данный момент система работает по частям – за некоторые её части отвечает администрация города, за другие – частные технологические платформы, хранящие персональные данные.

Социальный кредит человека, как и личная кредитная история, может повышаться и понижаться в зависимости от его поведения.

Точная методология держится в секрете – но среди примеров нарушений упоминается плохое вождение, курение в запрещённых местах, покупка слишком большого количества видеоигр и распространение лживых новостей.

1. Запрет на полёты и поездки на поезде

Китай уже начал наказывать людей ограничениями на поездки.

Девяти миллионам людей запретили покупать билеты на местные авиалинии.

Также им придётся распрощаться с комфортом –трём миллионам людей запретили покупать билеты бизнес-класса на поезда.

Итоговая система будет наказывать ещё и плохих пассажиров.

Потенциальные нарушения – поездка без билета, праздношатание перед посадочными воротами, курение в запрещённых местах.

2. Регулирование скорости интернета

Такой информацией поделилась Рэйчел Ботсман, автор, опубликовавший часть книги на тему техбезопасности на Wired в прошлом году.

Точный механизм данного метода пока неизвестен.

Согласно Foreign Policy, кредитные системы отслеживают своевременную оплату людьми счетов, примерно как системы, отслеживающие кредитную историю – но они добавляют сюда и моральную сторону дела.

Среди других спорных нарушений – слишком большая трата времени на видеоигры, траты денег на легкомысленные покупки и посты в соцсетях.

3. Запрет вам и вашим детям на обучение в лучших школах

170 человек, отказавшихся в прошлом году от прохождения службы в армии, не смогут получить высшее образование, обучаться в старших классах или продолжить своё обучение, пишет Beijing News [трудности перевода: оригинальная статья написана по-китайски, но, судя по онлайн-переводчику, на самом деле этим людям аннулировали все достижения выше средней школы, и им предписано вернуться, и проходить обучение заново; также им запретили выезд за границу и покупку недвижимости.

Гражданам с низким социальным кредитом будет запрещено отправлять своих детей в дорогие частные школы.

4. Запрет на получение лучших рабочих мест

«Нарушающие доверие» индивидуумы не смогут заниматься управленческими работами в государственных учреждениях и банках.

Некоторые преступления, вроде мошенничества и хищений, также сильно повлияют на социальный кредит.

5. Запрет на заселение в лучшие отели

Людям, отказавшимся служить в армии, также запретили отдыхать в определённых местах и отелях.

При этом государство как награждает людей, так и наказывает.

Люди с высоким социальным рейтингом будут быстрее получать разрешение на посещение таких мест, как Европа.

Женщина в Пекине также сообщила BBC, что ей разрешили забронировать в отеле номер без залога наличными, потому что у неё был высокий социальный кредит.

6. Публичное порицание плохих граждан

Ещё одна доступная тактика – публичное порицание.

Правительственная записка от 2016 года поощряет компании проверять чёрный список перед тем, как нанимать людей на службу и заключать с ними контракты. Однако перед добавлением в такой список человеку должно будет прийти судебное уведомление,

https://giphy.com/gifs/7TkE4ojDQ0WIqEkiYt

В списке слева указаны имена людей и заретушированные идентификационные номера, а справа – названия компаний.

Ли Сяолин, юрист, попавший в этот список , обнаружил, что не может купить билеты на самолёт, чтобы вернуться домой из рабочей поездки.

У него также не принимали заявления на открытие кредитных карт.

Существует и список хороших граждан

Утверждают, что крупнейший китайский сайт знакомств Baihe отдаёт предпочтение учётным записям хороших граждан.

Граждане также могут получать скидки на счета по электроэнергии, брать вещи в аренду без залога и получать пониженный процент по кредиту в банке

Такие преимущества были доступны людям из Жунчэна на востоке Китая.

Городской совет запустил систему социального кредита.

Сначала волновались по поводу потери очков, но теперь уже привыкли к этому.

Лицемерие, в прямом смысле, стало законным

Китайская система «социального кредита» ранжирует граждан, и наказывает их в частности ограничением скорости доступа в интернет.

Есть и другие ограничения, хотя и пряники тоже дают.

А всё начиналось вполне безобидно. Джек Ма, владелец компании Alibaba в 2015 году представил биометрическую систему распознавания лиц, которая позволяла пользователям производить оплату товаров в он-лайне без длительной процедуры аутентификации личности.

Разработка по своей природе не нова и берет начало из далеких 60-х прошлого века.

Но в нынешнее время благодаря развитию искусственного интеллекта и другим наработкам стало возможным идентифицировать человека в парике или в толпе. Помимо оплаты товаров система оценивала и поведение покупателей – собирала данные о пристрастиях покупателей, платежеспособности, о том, обманывали они продавцов в прошлом или нет.

Мимо такого лакомого кусочка, безусловно, власти Китая пройти не могли.

Полгода после нескольких лет тестирования они официально внедрили систему так называемого социального кредита, на основе которого действия граждан Китая подлежат постоянной оценке.

Лице...мерие

Каждому гражданину изначально дается по 1000 баллов, а далее начинается забег, в котором люди либо поднимаются в рейтинге, либо падают. И всё это происходит автоматически, вне зависимости от вашего желания.

Большой брат следит за вами, поскольку везде стоят камеры видеонаблюдения, а их в стране более 800 миллионов, плюс специальные очки у полицейских: перешел дорогу на красный цвет – заминусуют (знакомое слово) 5 баллов.

А условно, или кто знает, может быть не условно, перевел через ту же дорогу бабушку – получишь пару баллов.

Помимо снятия видео-информации есть немало способов собрать личные данные, например о покупках, кредитах, налогах и прочее, включая cookie.

Даже поездка на поезде к родителям будет отмечена.

А вот участие в демонстрациях против власти, будет тоже отмечено, только не плюсом, а жирным крестом на продвижении по службе и даже физическом продвижении – могут отказать в покупке билета на поезд или самолет (что-то вроде мягкой формы домашнего ареста).

Великая китайская стена и так встала на пути всех американских интернет-гигантов, которым ограничено или полностью закрыто интернет пространство Поднебесной.

Великий китайский файрвол тоже работает, причем для всех граждан.

Теперь власти сделали следующий шаг – могут персонально Вам снизить скорость доступа в сеть, если ваша благонадежность под вопросом. Или поиграться в относительно безобидные вещи – запретить вашим детям играть в он-лайн игры по ночам.

Всех ограничений и бонусов не перечислить, но вот некоторые из них.

Вам или вашим детям могут запретить поступать в престижные школы и университеты.

Например, молодым людям, отказавшимся от прохождения военной службы в прошлом году, не позволили поступить в ВУЗ, а другому абитуриенту отказали в учебе из-за низкого социального рейтинга его отца.

Что еще могут сделать?

• Могут запретить посещение праздничных мероприятий и бронирование отелей.
• Могут конфисковать вашу собаку, если вы выгуливаете ее без поводка и ваш питомец, так скажем, неправильно себя ведет. (Собакам тоже скорее всего со временем будут присваивать рейтинг).
• Могут показать ваше лицо перед сеансом в кинотеатре, если вы нарушитель.
• Могут удалить ваши аккаунты в соцсетях.
• … а могут наоборот, опубликовать ваше местоположение в соцсетях, если вы находитесь в черном списке.

Важно отметить, что единой методологии оценки граждан нет, и никто не знает как вообще эта система работает.

Более того, от района к району подсчет баллов может меняться, где-то будет серьезно наказываться нарушение правил дорожного движения, а где-то покупка большого количества видеоигр, а где-то размещение фейковых новостей.

Нужно упомянуть и о бонусах: если вы благонадежный гражданин, да к тому же добропорядочный семьянин, вам могут дать ссуду под низкий процент, подарить дополнительные часы аренды автомобиля или велосипеда, предоставить социальные льготы и скидки, отсрочить оплату лечения.

Вам откроются многие двери госучреждений и вы сможете беспрепятственно путешествовать.

Бизнесменов тоже поддерживают, могут к примеру тридцатку баллов набросить за ударный труд и соответственно приближение коммунизма.

4 группы граждан

В итоге всех граждан Китая поделили на четыре касты группы: А, B, C и D.

Есть и дополнительные градации, например ААА, или А+ (один к одному, как в банковской системе).

Всё что А+ и выше означает, что ты молодец. Если твой индекс 900 – ты в группе B. Менее 850 – категория С (не путать с водительскими правами).

Ну, а в группе D допустим с 600 баллами, тебе крайне не весело.

С тобой и разговаривать никто не захочет, в прямом смысле – перед звонком на твой номер оператор сделает звонящему предупреждение, что он хочет поговорить с абонентом с низким социальным рейтингом. (Помните крылатую фразу про девушек с пониженной социальной ответственностью?).

Ну, и соответственно вашему собеседнику, если только он не передумает с вами говорить, спишут социальные баллы.

Не знаю, повысят ли вам баллы за разговор со священником, но не исключаю и такой вариант.

Пожалуй нет ни одной сферы человеческой деятельности, которая бы не была под контролем.

Big data, ИИ, мониторинг всего и вся дают возможность властям управлять социумом.

Любое взаимодействие с окружающим миром может повышать или снижать ваш рейтинг: покурили (или не дай бог напились) – заплатите пару баллов.

Собираете мусор раздельно – получите их обратно.

Зашли на “не правильный” сайт – снова минус и беги быстрее в магазин, покупай сборник произведений Конфуция.

Причем начни читать книгу рядом в парке – камеры заметят тебя и откатишь статус на дефолтные настройки.

Не хватает баллов для поступления в университет – заплатишь кровью за поступление, в прямом смысле: придется стать донором, говорят до 200 баллов таким способом можно исправиться.

Либо участвовать в программах поддержки правительства, здесь можно пополнить кошелек “социальными биткоин.

Как вы догадываетесь, фантазии у властей по дрессировке граждан безграничны.

А что у путина ?

'

Улыбнитесь, вас снимает не очень скрытая камера

Далеко ли ВАМ до Китая?

С одной стороны да, КИТАЙ серьезно ушел вперед, но в ряде материалов сети сообщается, что московские силовики задействовали систему "Умный город" для поиска и задержания протестующих уже после акций протеста.

Это косвенно говорит о том, что московские власти готовы использовать 200 тыс. камер видеонаблюдения, расставленных по всему городу не только для фиксации ДТП и хулиганов.

Система распознавания лиц работает круглосуточно.

Во время пандемии московские власти с помощью этого софта отслеживали нарушителей режима самоизоляции.

Вышел из дома выбросить мусор – тебя засекли по камерам – изволь заплатить штраф. Как говорится.

Вещь оказалась работоспособной и мэрия Москвы выделила еще 2,7 миллиарда рублей на оснащение видеокамерами вагонов метро и наземного транспорта.

На 4 группы еще не поделили, но по крайней мере сделали градацию на тех, кто привился и не привился.

И провели тестирование – зайти в метро или кафе без QR-кода назад было нельзя.

А вот блокировка нежелательных сайтов уже стала нормой.

Критерии нежелательности сайтов весьма широки. К примеру, несколько лет назад под раздачу попал портал специалистов LinkedIn.

Сейчас “приземляют” и другие популярные ресурсы. Это, конечно, не китайский файрволл, а русский путь, тенденция прослеживается.

Также напомню о запрете на выезд за границу: если ваш долг превышает 30 тыс. рублей, то на таможне вас тормознут.

Для многих это оборачивается неприятным сюрпризом.

Свобода передвижения есть, но в пределах .... .

Обратимся к концепции “Умного города 2030” и прочтем слова Собянина: “Можно уже сегодня говорить не об отдельных услугах, а о создании комплексной программы «Умный город», которая охватывала бы все стороны нашей жизни”. В концепции упоминаются имена известных предсказателей будущего, о футурологах, например, о Рэе Курцвейле, но забывают назвать имя Джорджа Оруэлла.

А что Вы думаете о китайской модели оценки социального рейтинга и о наших реалиях ?

P.S. Необходимо заметить, что на сегодняшний день не существует единого рейтинга для каждого человека.

Скорее, существует ряд различных рейтингов, которые имеют правительственные ведомства, а также отдельные муниципальные и провинциальные органы власти. Тем не менее, благодаря централизации платформ в Китае растет степень согласованности рейтингов.

Это особенно касается корпоративных социальных рейтингов и черных списков.

Радуемся, что пока еще 2 пункта из 10 не случились - это введение смертной казни и закрытие границ.

По моему мнению, гражданам росси и симпатикам надо радоваться всему что происходит в путинЛандне.

Итак:

1. Блокировка YouTube, Telegram, WhatsApp, TikTok, Spotify и др. платформ, которые не цензурируют контент по требованию российских властей и не делятся с ними данными;
2. Окончательное окукливание российского сегмента Интернета и переход к “белым спискам сайтов” (запрещено все то, что не разрешено).
3. Либо - через обязательное размещение всех веб сайтов в Рунете только на российской доменной зоне и российских серверах;
4. Блокировка VPN-сервисов по протоколам и сигнатурам. Большая часть сервисов, не имеющих обфускационные протоколы, перестанут подключаться к серверам;
5. Полномасштабное внедрение национальных сертификатов (“фсбшник посередине”) на все российские сайты и отказ от международных стандартов SSL;
6. Хранение персональных данных россиян только на российских серверах и полный запрет на трансграничную передачу данных в "недружественные страны", кроме особых случаев, устанавливаемых Правительством;
7. Полный запрет на ввоз продукции Apple и запрет AppStore и Google Play. Обязательная предустановка RuStore от VK на все ввозимые китайский мобильники;
8. Внедрение машинного обучения для цензуры и мониторинга социальных сетей. Автоматизация цензуры и использование ИИ для отслеживания активности граждан в соцсетях и мессенджерах (в т.ч. видео и стримы);
9. Развертывание систем биометрической идентификации по всей стране для отслеживание активности граждан в оффлайне;
10. Монополизация импорта технологий государством. Единственным поставщиком IT-оборудования станет Китай, который будет поставлять оборудование со встроенными функциями слежки и удаленного администрирования;
11. Введение уголовной ответственности за потребление незаконного контента и использование запрещенных сервисов (будь то VPN или Медуза);
12. Введение административной ответственности за отказ разблокировать устройство или сообщить пароль (15 суток ареста, по примеру отказа водителей от прохождения медицинского освидетельствования, если уже были лишены прав);
13. Всеобщий профайлинг и введение системы “социального рейтинга” с понижением класса обслуживания либо полным отказом в обслуживании для поведенчески девиантного населения;
14. Полный запрет использования необеспеченных криптовалют для населения. Внедрение цифрового рубля, позволяющего отслеживать все транзакции на всех уровнях.

Окукливание Рунета с дальнейшей перспективой полного Чебурнета может показаться слишком масштабной задачей, однако у российского государства, есть и мотив, и необходимость, и пока еще средства, чтобы его осуществить.

Конечно хочется надеятся, что ничего из этого не произойдет, а будет как всегда.

Недавно в интернете как и вообще, циркулируют слухи о "системе кредитного рейтинга" для пользователей интернета в Китае.

Лейтмотивом этих статей были Большой Брат, тоталитаризм, глобальная слежка и прочий Оруэлл.

Вот что это ?

Краткое содержание слухов

• Система будет обязательно для каждого гражданина КНР;
• Привязывается к национальному ID (身份证);
• Рейтинг выражается в очках (от 350 до 950);
• Управлять системой будут совместно Tencent и Alibaba;
• Учитывается как покупательская способность, так и политические взгляды;
• Действия друзей понижают и ваш рейтинг тоже;
• Рейтинги публичны, можно посмотреть рейтинг любого гражданина (чтобы, например, не общаться с диссидентами или сочувствующими, которые понизят ваш рейтинг);
• За покупки рейтинг повышается, за компьютерные игры — понижается;
• Доступны разные бонусы: за 750 очков можно получить визу в Сингапур;

СМИ связывают Huawei со шпионством и разработкой умных тюрем в Синьцзян-Уйгурском автономном районе

Согласно полученным Washington Post документам, китайская компания Huawei участвовала в разработке технологий для трудовых лагерей и систем наблюдения Синьцзян-Уйгурском автономном районе.

Издание утверждает, что техногигант был вовлечён в преследование этнических меньшинств в этом регионе.

Washington Post пишет, что смогло получить слайды презентаций PowerPoint с сайта Huawei, которые там появились случайно, а затем были удалены.

Всего газете удалось получить более 100 презентаций, многие из которых были помечены как конфиденциальные — они суммарно содержали более трёх тысяч слайдов.

По данным издания, в них содержалась информация о совместной работе Huawei, а также метаданные, датированные с 2014 по 2020 годы.

Кроме того, в некоторых презентациях была обнаружена надпись Huawei Technologies Co., Ltd. с указанием авторских прав с датами в диапазоне между 2016 и 2018 годами.

Так, на одном из слайдов говорится о продукте Huawei, который представляет собой «основу единой платформы умных тюрем», которая анализирует рабочую силу для производства и эффективность перевоспитания.

Washington Post пишет, что некоторые из таких тюрем и использованием технологий компаний находятся в Синьцзяне, а остальные — в провинциях Внутрення Монголия и Шаньси.

Сама платформа выглядит как комплексная система наблюдения за заключёнными.

Она использует как стандартные для пенитенциарных учреждений видеокамеры, так и программное обеспечение, которое определяет расписание заключённых, в том числе время посещения ими занятий по идеологическому перевоспитанию.

На другом слайде презентации подробно описывается система наблюдения за гражданами, используемая в том же регионе.

Она построена на основе технологии распознавания лиц и позволяет властям отслеживать действия и перемещения «политических лиц, представляющих интерес».

В 2020 году сообщалось, что Huawei работает над тем, чтобы система наблюдения могла идентифицировать гражданина как представителя уйгурской национальности.

Как отмечает Washington Post, в новом слитом документе никаких сведений о подобной разработке компании нет.

Кроме того, предоставленный изданием документ подробно описывает технологию, которая идентифицирует людей по записи голоса, системы отслеживания перемещения граждан на основе записей видеонаблюдения и системы для шпионства за сотрудниками на их рабочих .

В то же время издание пишет, что некоторые из слайдов намекали на то, что описываемые в них методы и технологии применяються китайской полицией и правительственными органами.

https://technode.com/2017/11/22/china-to-have-626-million-...