Искусственный интеллект в России готовят к строгой цензуре

Заместитель главы Минцифры РФ Александр Шойтов высказался о необходимости введения цензурных механизмов в отношении систем искусственного интеллекта в России. Цензура призвана запретить определенные запросы и вопросы пользователей:

«Я считаю, что искусственный интеллект должен быть подвержен цензуре в отличие от гражданина. Людей у нас цензурировать нельзя, у них есть права. А вот конкретно искусственный интеллект - у него на входе и на выходе должны стоять цензуры, которые запрещают определенные запросы, вопросы" (цит. по «РИА Новости»).

Напомним, в марте ведомство представило на общественное обсуждение проект закона, направленный на регулирование сферы искусственного интеллекта. Документ предполагает формализацию самого термина «искусственный интеллект» на законодательном уровне, а также определяет круг прав и обязанностей для всех участников рынка. Кроме того, инициатива предусматривает введение обязательной маркировки контента — включая изображения, видео и аудио — если он был создан с использованием ИИ.

Цензура и ограничения в сфере искусственного интеллекта существуют в разных странах, но реализуются по-разному — от жесткого госконтроля до более мягкого регулирования через законы и стандарты. Так, в Китае действует одна из самых строгих систем контроля: государство требует, чтобы ИИ-сервисы соответствовали «социалистическим ценностям» и не генерировали контент, противоречащий официальной идеологии. Генеративные модели обязаны проходить проверку перед запуском, а компании несут ответственность за ответы своих систем. Запрещены темы, связанные с критикой власти, историческими интерпретациями, чувствительными политическими вопросами. В ЕС цензура закон AI Act вводит ограничения на использование ИИ в чувствительных сферах и требует прозрачности. Некоторые типы контента должны быть явно помечены, а системы — соответствовать требованиям безопасности и этики. В США нет централизованной государственной цензуры ИИ, однако существует активное саморегулирование со стороны компаний и рекомендации властей.