Киберпреступники используют ИИ-инструменты

Киберпреступники используют ИИ-инструменты
В совместном исследовании Trend Micro, Европола и ЮНИКРИ описывается весь спектр существующих и возможных угроз с использованием ИИ, а также способы борьбы с ними.

Компания Trend Micro Incorporated, Европол и Межрегиональный Научно-исследовательский институт ООН по вопросам преступности и правосудия (ЮНИКРИ) подготовили совместный доклад, посвященный использованию искусственного интеллекта в противозаконных действиях — Exploiting AI: How Cybercriminals Misuse and Abuse AI and ML («Эксплуатация ИИ: как киберпреступники используют возможности искусственного интеллекта и машинного обучения и злоупотребляют ими»).

В докладе описаны существующие сценарии использования ИИ в преступных целях, возможные варианты развития инструментов киберпреступников в будущем, а также методы борьбы с ними, которые будут полезны представителям правоохранительных органов, правительственных и других организаций.

Авторы сообщают, что киберпреступники будут использовать ИИ и как вектор, и как поверхность атаки. В настоящее время дипфейки (Deep Fakes) остаются наиболее известным сценарием применения ИИ в качестве вектора атаки. Однако, по мнению авторов доклада, в будущем потребуются новые технологии проверки данных, которые помогут бороться с кампаниями дезинформации и попытками вымогательства, а также угрозами, нацеленными непосредственно на массивы данных ИИ.

Несколько примеров использования ИИ в преступных целях:

  • крупномасштабные и правдоподобные атаки с использованием социальной инженерии;

  • вредоносное ПО для уничтожения документов, которое повышает эффективность атак киберпреступников;

  • обман систем распознавания изображений и голоса;

  • помощь в поиске целей и уклонении от систем защиты при атаках с применением программ-вымогателей;

  • «загрязнение» массивов данных за счет выявления слепых зон в правилах обнаружения.

Уже сейчас разрабатываются системы на базе ИИ, которые должны повысить эффективность вредоносного ПО и препятствовать работе антивирусов и технологий распознавания лиц.

ИИ уже используется для подбора паролей, взлома CAPTCHA и клонирования голоса, а в разработке находится еще немало инновационных инструментов.

Авторы дают несколько рекомендаций:

  • Потенциал технологий ИИ необходимо использовать в качестве инструмента борьбы с киберпреступностью, чтобы защитить индустрию ИТ-безопасности и правоохранительные органы в будущем.

  • Необходимо продолжать исследования, которые помогут развивать технологии кибербезопасности.

  • Также необходимо популяризировать и разрабатывать безопасные среды проектирования ИИ.

  • Политическую риторику об использовании ИИ в целях кибербезопасности стоит минимизировать.

  • Рекомендуется активно использовать государственно-частное партнерство и создавать мультидисциплинарные экспертные групп.

Похожие статьи