Яндекс создал систему раннего выявления рисков ИИ
Yandex B2B Tech расширяет линейку инструментов кибербезопасности новым продуктом для защиты инфраструктуры искусственного интеллекта. Решение AI-SPM появилось в составе Yandex Security Deck и предназначено для непрерывного контроля рисков в ИИ-средах. Компания относит разработку к формирующемуся на российском рынке классу AI-SPM — систем, которые объединяют управление безопасностью различных компонентов ИИ-инфраструктуры.
Задача нового модуля — заменить периодические ручные проверки постоянным контролем. AI-SPM самостоятельно формирует перечень используемых ИИ-активов, отслеживает их состояние и обнаруживает конфигурации, способные создавать угрозы безопасности. За счет автоматизации компании могут выявлять проблемы по мере их появления и планомерно устранять риски в ИИ-приложениях, не дожидаясь отдельного аудита.
Принципы, по которым работает система, определяет AI-SAFE 2.0 — открытая методология Yandex B2B Tech, разработанная Yandex Cloud совместно с SolidLab. Она охватывает весь жизненный цикл искусственного интеллекта и рассматривает безопасность не как набор отдельных проверок, а в привязке к устройству конкретной ИИ-среды. Модели, массивы данных и вычислительная инфраструктура соотносятся с характерными для них уязвимостями, после чего для обнаруженных рисков определяются необходимые защитные меры.
Такой подход позволяет оценивать потенциальные угрозы еще до возникновения инцидента. В числе сценариев, предусмотренных методологией, — защита исходных данных от вмешательства в процессе обучения, противодействие атакам на модель через специально подготовленные запросы и предотвращение доступа со стороны неавторизованных пользователей. AI-SAFE 2.0 также легла в основу стандартов оценки защищенности ИИ-сред: набор проверок оформлен в виде чеклиста, который унифицирует процедуру анализа рисков и делает ее результаты более прозрачными.
Появление подобных продуктов происходит на фоне быстрого расширения глобального сегмента ИИ-безопасности. Gartner ожидает, что уже в 2027 году его объем достигнет $4,8 млрд против $2,8 млрд годом ранее. Таким образом, за один год рынок может прибавить почти 69%.
В России соответствующее направление находится на более ранней стадии развития. В 2026 году объем сегмента оценивается в 1-4 млрд рублей. На горизонте 2029-2030 годов оценки достигают уже 11-30 млрд рублей. На этом формирующемся рынке AI-SPM представляет новый класс комплексных продуктов, ориентированных не на защиту отдельного элемента ИИ-системы, а на управление рисками инфраструктуры в целом.
