Правительство КНР отказывается от ИИ-приложения для выявления взяточничества
По сообщению информагентства Xinhua и издания South China Morning Post, правительство Китайской Народной Республики приняло решение отказаться от использования системы искусственного интеллекта Zero Trust для выявления взяточников и растратчиков среди госслужащих. Система обнаруживала подозрительные случаи чрезвычайно эффективно, но на основе выявленных ей данных сделать однозначный вывод о коррумпированности того или иного госслужащего невозможно.
Алгоритм под названием Zero Trust на основе системы искусственного интеллекта, разработанный учеными Академии наук Китая и предназначенный для мониторинга и оценки деятельности чиновников, правительство КНР внедрило в 2012 году. По официальным данным, в стране с населением порядка 1,4 млрд человек (по данным на 2018 год) около 50 млн – чиновники разных рангов и уровней. По подсчетам общественных организаций, их число еще больше - около 65 млн. Основной целью проекта Zero Trust был поиск и выявление среди них коррупционеров, с которыми правительство страны ведет давнюю и упорную борьбу. Причем, как особо подчеркивали разработчики, цель программы - не наказать чиновников, а предупредить тех, кто находится на ранних стадиях коррумпированности, что, в итоге, сделает работу правительства более эффективной.
На первых порах систему Zero Trust было решено внедрить всего в 30-ти городах, причем далеких от столицы, центральных населенных пунктов и крупных политических центров, а затем, после нескольких лет «обкатки», развернуть и по всей стране.
Напомним, что власти Китая уже к концу текущего года собираются внедрить в стране общегосударственную систему социального рейтинга, которая будет выстраивать для каждого гражданина КНР индивидуальный социальный рейтинг, исходя из самых разных сторон жизни каждого гражданина, в том числе его честности, строгому следованию законам и финансовым привычкам.
Решение Zero Trust получило доступ к 150 базам данных государственного значения, в которых содержится самая разнообразная информация о работе и социальной жизни чиновников, а также и данные, передаваемые со спутников земли. Искусственный интеллект обрабатывает эти данные, сопоставляет источники и выявляет несоответствия, которые могут указывать на нарушение закона тем или иным госслужащим, подозрительные сделки с недвижимостью, передачей собственности, тендерами, строительством и многое другое. Например, система может отследить, построен ли тот или иной объект, в том числе и в особо отдаленных населенных пунктах, о сдаче в эксплуатацию которого отрапортовал чиновник, выявить покупку автомобиля госслужащим, зарплата которого явно не соответствует уровню и стоимости транспортного средства, оценить стоимость принадлежащих чиновникам и их родственникам земельных участков, домов и других активов, а также отследить связи чиновников друг с другом.
За 7 лет своей работы в КНР решение Zero Trust продемонстрировало свою исключительную результативность. Ему удалось выявить 8721 подозрительных случаев, которые могли бы указывать на коррумпированность. Некоторые чиновники, которых система уличила в различных нарушениях и растрате госсредств, получили разные сроки тюремного заключения, другим правительство вынесло предупреждения.
Однако, спустя несколько лет после внедрения системы, ее работу было решено остановить. Дело в том, что система однозначно указывала на случаи нарушения, но при этом не давала возможности понять, как и почему она принимала решение о коррумпированности того или иного определенного служащего. К расследованию каждого из выявленных инцидентов правительству КНР приходилось привлекать массу специалистов, а само расследование могло продолжаться месяцами. Госслужащие, в свою очередь, стали жаловаться на то, что, работая «под надзором Zero Trust», им приходится испытывать «очень сильное давление».
Кроме того, в Китае нет законов и нормативных актов, регулирующих вопрос доступа ИИ к конфиденциальной информации, из-за чего ряд официальных лиц подвергают сомнению право ИИ на доступ к базам данных.
Как сообщают ведущие СМИ Китая – агентство Xinhua и South China Morning Post, города, которые использовали разработку Zero Trust с 2012 года, стали постепенно выводить ее из эксплуатации. Сегодня Zero Trust пока еще работает в городе Сюйшуй и еще нескольких регионах. Но внедрить ее в национальном масштабе теперь уже, скорее всего, не удастся.