Российский бизнес ускоряет внедрение ИИ и откладывает вопросы его защиты
Российский рынок решений для защиты и мониторинга корпоративного искусственного интеллекта пока находится на ранней стадии развития, несмотря на ускоренное внедрение ИИ-технологий в бизнесе. Аналитики VolgaBlob, разработчика платформы Smart Monitor, прогнозируют формирование устойчивого спроса на специализированные продукты в этом сегменте к 2028 году.
Распространение ИИ в российских компаниях пока не сопровождается сопоставимым ростом инвестиций в инструменты контроля и безопасности. Основные усилия бизнеса направлены на поиск новых возможностей применения ИИ и повышение операционной эффективности. При этом задачи защиты интеллектуальных систем зачастую остаются за пределами первоочередных приоритетов.
Ситуация постепенно меняется по мере расширения корпоративной ИИ-инфраструктуры. Если в 2025 году обращения за решениями класса AI Security были единичными, то в 2026 году VolgaBlob зафиксировала многократное увеличение их числа среди своих клиентов. Одним из факторов стала растущая распространенность корпоративных LLM, генераторов программного кода и автономных агентов. Их использование обострило проблемы утечек конфиденциальной информации, неуправляемого взаимодействия с моделями и распространения «теневого ИИ». Одновременно усиливается превентивный спрос: специалисты по информационной безопасности стремятся заранее установить контроль над ИИ-системами, учитывая потенциальные последствия их бесконтрольного применения.
Параллельно компании начинают рассматривать внедрение AI Observability — инструментов, обеспечивающих наблюдаемость ИИ. По мере интеграции ИИ-ассистентов, кодовых генераторов, автономных агентов и локальных языковых моделей расширяется число каналов доступа к корпоративной информации и внутренней инфраструктуре. Однако ИТ-подразделения и службы ИБ зачастую не имеют исчерпывающих сведений об используемых сотрудниками ИИ-сервисах, характере обрабатываемых данных и последствиях такой активности для корпоративных систем. Для ИТ-специалистов подобные инструменты также необходимы, чтобы отслеживать устойчивость и производительность сервисов, контролировать инфраструктурную нагрузку и быстрее определять источники технических сбоев.
Отсутствие прозрачности в использовании ИИ становится существенным препятствием для обеспечения его безопасности. Даже если организация полностью контролирует собственную языковую модель, вне зоны наблюдения могут оставаться внешние ИИ-платформы и персональные учетные записи сотрудников. В VolgaBlob поэтому рассматривают внедрение AI Observability как необходимую основу для последующего формирования комплексной системы защиты корпоративного ИИ.
По словам Тимофея Мельникова, руководителя отдела разработки контентных модулей VolgaBlob, компании постепенно осознают, что системная безопасность искусственного интеллекта невозможна без понимания масштабов и особенностей его применения внутри организации. Прежде чем выстраивать защитные механизмы, бизнесу требуется определить перечень используемых ИИ-инструментов, установить, с какой информацией они работают, и оценить сопутствующие угрозы. Эксперт ожидает заметного усиления интереса к направлениям AI Observability и AI Security уже в 2027 году.
Дополнительным вызовом для разработчиков мониторинговых платформ в 2027 году станет необходимость работы с новыми категориями информации, включая пользовательские промпты, журналы LLM-прокси, операции автономных ИИ-агентов и показатели загрузки GPU. Для решения этих задач поставщикам потребуется создавать более гибкие архитектуры, позволяющие быстро интегрировать дополнительные источники данных без существенной переработки программных продуктов. В дальнейшем средства контроля и безопасности искусственного интеллекта будут интегрироваться в единую систему наблюдаемости корпоративной ИТ-инфраструктуры.
