Безопасность ИИ

Тема включает атаки через инструкции модели, утечки данных, подмену моделей и контроль полномочий ИИ-агентов. Тег применяют, когда объект защиты — сама ИИ-система или инфраструктура её работы.

Публикации по теме

Все материалыТолько статьи

«Побег» ИИ-агентов из песочницы и атака на реальные системы

«Побег» ИИ-агентов из песочницы и атака на реальные системы

Серия кибератак с участием автономных ИИ-агентов от ведущих мировых разработчиков моделей, вызвавшая широкий резонанс и тревогу по поводу темпов развития искусственного интеллекта, была обусловлена ошибкой конфигурации и давлением сроков в израильской компании Irregular Security.

Геннадий БелашБезопасность, 04.11.26

Российский бизнес ускоряет внедрение ИИ и откладывает вопросы его защиты

Российский бизнес ускоряет внедрение ИИ и откладывает вопросы его защиты

Российский бизнес активно внедряет искусственный интеллект, однако спрос на инструменты его мониторинга и защиты пока отстает от темпов распространения технологий. Ожидается, что рынок AI Security и AI Observability сформирует устойчивый спрос к 2028 году.

Безопасность, 03.11.26

Очередная хакерская атака с утечкой данных в Японии

Хакеры могли похитить данные примерно 13 тыс. сотрудников полиции префектуры Сайтама, примыкающей к Токио. Эксперт «Группы Астра» Андрей Кузнецов, считает, что резервное копирование могло бы помочь полиции восстановить работу системы и избежать её полной потери.

ASTRALINUXКомпании сообщают, 19.10.26

SML Security выпустила новый релиз системы защиты ИИ-агентов CyberAgentReview

Новый релиз содержит функциональные улучшения, направленные на обеспечение бесшовного опыта для команд, использующих любую технику, а также на организацию централизованной безопасности использования нейросетей, независимо от того, сколько моделей и провайдеров применяет компания.

SoftMediaLabКомпании сообщают, 01.10.26

25% финтех-компаний планируют нарастить инвестиции в киберзащиту ИИ

2/3 компаний российского финтех-рынка используют внутренние разработки для защиты ИИ, при этом только 25% - уже применяют специализированные внешние ИБ-решения. Такие данные приводятся в совместном исследовании Ассоциации ФинТех, ГК «Солар», Б1 и HiveTrace.

Ассоциация ФинТехКомпании сообщают, 11.09.26

«Группа Астра» открыла двери своей штаб-квартиры для Консорциума исследований безопасности ИИ

В московском офисе «Группы Астра» состоялось заседание Консорциума исследований безопасности технологий искусственного интеллекта, посвящённое доверенной экосистеме «Астра ИИ».

ASTRALINUXКомпании сообщают, 23.07.26

50,5% российских компаний подозревают или фиксируют утечки данных через ИИ-инструменты

Половина российских компаний либо подозревает утечки конфиденциальных данных через ИИ-инструменты, либо уже зафиксировала такие инциденты. По данным совместного исследования УЦСБ и ГК «Солар», 42,4% сообщили о подозрениях без подтвержденных случаев, а 8,1% столкнулись с реальными утечками.

СоларКомпании сообщают, 10.07.26

Закрытые ИИ-модели становятся новым стандартом безопасной разработки

Закрытые ИИ-модели становятся новым стандартом безопасной разработки

Генеративный ИИ используют более 80% компаний для разработки ПО, однако почти все участники рынка видят в этом серьезные риски безопасности. Бизнес ищет способы сохранить преимущества новых технологий, не теряя контроль над данными и процессами разработки.

СоларБезопасность, 23.06.26

Безопасность ИИ стала политическим аргументом

Безопасность ИИ стала политическим аргументом

Президент США Дональд Трамп заявил, что больше не рассматривает Anthropic как угрозу национальной безопасности.

Безопасность, 21.06.26

Infosecurity (ГК Softline) вывела на рынок комплекс услуг по безопасности искусственного интеллекта

В ответ на растущий запрос бизнеса на безопасное применение технологий искусственного интеллекта Infosecurity запустила комплексное направление по безопасности ИИ-систем

SoftlineКомпании сообщают, 08.06.26