Киберпреступники используют ИИ-инструменты
Компания Trend Micro Incorporated, Европол и Межрегиональный Научно-исследовательский институт ООН по вопросам преступности и правосудия (ЮНИКРИ) подготовили совместный доклад, посвященный использованию искусственного интеллекта в противозаконных действиях — Exploiting AI: How Cybercriminals Misuse and Abuse AI and ML («Эксплуатация ИИ: как киберпреступники используют возможности искусственного интеллекта и машинного обучения и злоупотребляют ими»).
В докладе описаны существующие сценарии использования ИИ в преступных целях, возможные варианты развития инструментов киберпреступников в будущем, а также методы борьбы с ними, которые будут полезны представителям правоохранительных органов, правительственных и других организаций.
Авторы сообщают, что киберпреступники будут использовать ИИ и как вектор, и как поверхность атаки. В настоящее время дипфейки (Deep Fakes) остаются наиболее известным сценарием применения ИИ в качестве вектора атаки. Однако, по мнению авторов доклада, в будущем потребуются новые технологии проверки данных, которые помогут бороться с кампаниями дезинформации и попытками вымогательства, а также угрозами, нацеленными непосредственно на массивы данных ИИ.
Несколько примеров использования ИИ в преступных целях:
-
крупномасштабные и правдоподобные атаки с использованием социальной инженерии;
-
вредоносное ПО для уничтожения документов, которое повышает эффективность атак киберпреступников;
-
обман систем распознавания изображений и голоса;
-
помощь в поиске целей и уклонении от систем защиты при атаках с применением программ-вымогателей;
-
«загрязнение» массивов данных за счет выявления слепых зон в правилах обнаружения.
Уже сейчас разрабатываются системы на базе ИИ, которые должны повысить эффективность вредоносного ПО и препятствовать работе антивирусов и технологий распознавания лиц.
ИИ уже используется для подбора паролей, взлома CAPTCHA и клонирования голоса, а в разработке находится еще немало инновационных инструментов.
Авторы дают несколько рекомендаций:
-
Потенциал технологий ИИ необходимо использовать в качестве инструмента борьбы с киберпреступностью, чтобы защитить индустрию ИТ-безопасности и правоохранительные органы в будущем.
-
Необходимо продолжать исследования, которые помогут развивать технологии кибербезопасности.
-
Также необходимо популяризировать и разрабатывать безопасные среды проектирования ИИ.
-
Политическую риторику об использовании ИИ в целях кибербезопасности стоит минимизировать.
-
Рекомендуется активно использовать государственно-частное партнерство и создавать мультидисциплинарные экспертные групп.