Китайский искусственный интеллект начал бороться с коррупцией в 2012-м. Система не прижилась, поскольку ИИ не объяснял, как находил коррупционеров, а политики побоялись внедрять ее по всей стране, пишет Новое время.
Китай, безусловно, является одним из наиболее высокотехнологичных государств в мире. Страна во всю развивает искусственный интеллект, космические технологии и уже применяет продвинутые системы в сфере государственного управления.
Так, например, в некоторых регионах работает национальная система безопасности, которая отслеживает граждан с помощью системы определения лица. Правда, она вызвала много опасений со стороны правозащитников из-за возможного внедрения цифрового социального рейтинга.
Другие же технологии помогают контролировать работу правоохранительных органов и даже защищают государственные базы данных от стороннего вмешательства.
Но, что касается технологий, которые должны помочь в борьбе с коррупционерами, - в Китае решили с этим повременить.
Как сообщает издание South China Morning Post (SCMP), система Zero Trust (нулевое довергие), которая начала работать в 2012-м на основе искусственного интеллекта (ИИ), сейчас переживает серьезные ограничения.
Разработанная Китайской академией наук для "внутреннего контроля, оценки или вмешательства в работу и личную жизнь государственных служащих", сейчас Zero Trust работает только в 30 регионах и городах, - около 1% от административных территорий Китая. SCMP пишет, что даже эти регионы изолированы и расположены вдали от политических центров страны.
Причина тому - "недоверие" политиков к технологии, а точнее то, что "они не чувствуют себя с ней комфортно". Zero Trust имеет доступ к 150 защищенным базам данных, может составлять аналитику поведения госслужащих, обнаруживать подозрительные передачи собственности, незаконное строительство, приобретение земли или снос домов.
Система также предусматривает подтасовку данных, и поэтому использует информацию из разных источников. К примеру, возможно вовлечение спутников, чтобы отследить, что деньги на строительство сельской дороги действительно были потрачены по назначению, или анализ информации из банковских счетов, на случай, если замечено подозрительно большое обогащение или покупка на крупную сумму.
По словам разработчиков, главной проблемой Zero Trust было то, что ИИ помогал засекать возможную коррупционную активность, но не всегда предоставлял объяснения, каким именно образом алгоритмы это вычислили.
Из-за этого, технология остается только вспомагательным инструментом, а конечное решение должен принимать человек. Тем не менее, даже в тестовом режиме, за шесть лет Zero Trust разоблачила или предупредила назаконные действия почти 9 тыс. политиков.
Сообщается, что большинство из них сохранило свою работу, но с предупреждением или минимальным наказанием. Некоторые получили реальные тюремные сроки.
Именно это и обеспокоило сотрудников государственного аппарата. Согласно SCMP, к провинившимся политикам должны были применить дисциплинарные меры, но, вместо этого, наказания были слишком жесткими и давление со стороны Партии значительно увеличилось.
Чиновник Чжан Ии из провинции Хунань - одной из немногих, где Zero Trust продолжила работу - рассказал SCMP, что основной целью программы было не наказание политиков, а "их спасение на ранней стадии коррупции".
"Это нелегко, мы испытываем огромное давление. Мы просто используем результаты системы в качестве отсылки. Нам нужно проверить и подтвердить их действительность", - говорит Чжан Ии.
Какова дальнейшая судьба ИИ-технологии Zero Trust пока неизвестно, но некоторые политики уже выносят на обсуждение ее законность, поскольку доступ компьютерных или роботизированных систем к закрытым базам данных никак не регламентирован в Китае.
Эксперты прогнозируют, что она скорее всего не будет работать на общенациональном уровне.
Пару дней назад, издание Sixth Tone сообщило со ссылкой на государственное СМИ Legal Daily, что один из судов в Шанхае использовал ИИ-систему 206, которая помогает анализировать и сравнивать заявления судей, прокуроров, обвиняемых и других учасников процесса, чтобы уменьшить вероятность неправильного решения.
Sixth Tone пишет, что 206 проходила тестовые запуски в некоторых китайских городах в прошлом году, а в Шанхае эту систему впервые применили формально.
