IT NewsНовости рынкаИТ Рынок

Как искусственный интеллект обнаруживает фейки и дезинформацию

Наталья Соловьева | 11.02.2020

Как искусственный интеллект обнаруживает фейки и дезинформацию

Компания Jigsaw, дочерняя структура Alphabet (материнской компании Google), анонсировала два сервиса, с помощью которых СМИ, особенно представленные в Сети, смогут бороться с ложным контентом и дезинформацией.

Информацию о новых разработках компании Jigsaw – сервисе с использованием ИИ, позволяющем обнаружить следы редактирования на любых типах фотографий, и интерактивной платформе, которая объединила сведения о скоординированных кампаниях по дезинформации, сообщила The New York Times со ссылкой на The Current - исследовательское издание Jigsaw.

 

Все на борьбу с фейками!

Сервис по обнаружению фейковых фотографий получил название Assembler. Как заявили в СМИ его разработчики, отличить настоящие фотографии от фальшивых, сделанных мастерски, не всегда легко, а порой и невозможно. Но, поскольку количество ложного контента в Сети растет в геометрической прогрессии, необходимость в таком сервисе никогда не была столь актуальной. Разработанный Jigsaw инструмент дает возможность проверить подлинность изображений и обнаружить все следы редактирования на любых типах фотографий. Включая и те, которые были созданы с помощью искусственного интеллекта.

Assembler составляют семь различных детекторов изображения, каждый из которых настроен на обнаружение определенного типа техники манипуляции с фотографиями.

Пять из этих семи детекторов разработаны исследовательскими группами целого ряда университетов мира, включая Калифорнийский университет в Беркли (США), Неаполитанский университет Федерико II (Италия) и Университет Мэриленда (США).

После того, как изображение подверглось обработке - например, два изображения объединили в одно или с фона изображения было что-то удалено, следы этих изменений могут остаться. Специальное ПО на основе искусственного интеллекта анализирует изображение, сравнивает его с проанализированными ранее образцами и примерами, и позволяет обнаруживать на изображении места со следами модификаций. Детекторы, к примеру, могут найти такие изменения, как аномалии цветового рисунка, области изображения, которые были скопированы и вставлены несколько раз, использование нескольких моделей фотокамер для создания изображения и так далее.

«Эти детекторы не могут полностью решить проблему, но они представляют собой важный инструмент для борьбы с дезинформацией», - полагает Луиза Вердолива (Luisa Verdoliva), профессор Неаполитанского университета и приглашенный ученый в Google AI.

Два других детектора разработаны инженерами Jigsaw. Они предназначены для выявления «глубоких подделок» - реалистичных изображений, которые подверглись серьезным манипуляциям с помощью искусственного интеллекта, что способно ввести в заблуждение самых искушенных представителей целевой аудитории любого СМИ.

«Assembler наиболее полезен в ситуации, когда на журналиста из крупного новостного издания, получившего какое-нибудь скандальное изображение, начинает оказываться давление – его буквально заставляют опубликовать скандальную новость на его основе, - заявил Сантьяго Андриго (Santiago Andrigo), менеджер по продуктам Jigsaw. – Сервис также можно использовать и для проверки изображения, которое стало «вирусным».

«Мы наблюдали за тем, как дезинформация все шире использовалась для манипулирования выборами, ведения войны и разрушения гражданского общества», - написал Джаред Коэн (Jared Cohen), исполнительный директор Jigsaw, в блоге об Assemble. – Но, по мере того, как развивалась тактика дезинформации, развивались и технологии, используемые для ее обнаружения».

По сообщению экспертов Jigsaw, Assembler тестируется в свыше 10-ти новостных и фактографических организаций во всем мире. В их числе - Animal Politico (Мексика), Rappler (Филиппины) и Agence France-Presse (Франция). Для СМИ доступ к сервису предоставляется бесплатно. Однако открытие доступа для частных лиц не предполагается.

Платформа по обнаружению дезинформации

Еще один инструмент, анонсированный The New York Times - интерактивная платформа, объединившая сведения о скоординированных кампаниях по дезинформации, проведенных во всем мире за последние 10 лет. В базу данных платформы занесены игроки, участвующие в операциях влияния, используемые в них общие тактики, а также способы и методы распространения дезинформации на платформах социальных сетей.

В рамках этого проекта специалисты Jigsaw сотрудничали с Лабораторией цифровых судебно-медицинских исследований Атлантического совета (Вашингтон, США), которая изучает связи между социальными сетями, кибербезопасностью и правительством. Более чем из 700 исследований, статей и отчетов, опубликованных этой лабораторией за последние пять лет, Jigsaw отобрала для своей интерактивной платформы 60 случаев дезинформации.

Как прокомментировал Эмерсон Брукинг (Emerson Brooking), сотрудник лаборатории, цель этого проекта не в том, чтобы составить энциклопедический список дезинформационных кампаний, а в том, чтобы создать основу, некий «общий язык» для их описания, разработать принципы и практику классификации, что помогло бы СМИ и группам, изучающим дезинформацию.

Смогут ли получить российские СМИ доступ к данным сервисам, пока неизвестно. Как и то, в какой степени проект интерактивной платформы Jigsaw может быть ангажирован Атлантическим Советом – неправительственной организацией, известной своей враждебностью в отношении России и неоднократно дававшей правительству США рекомендации создать коалицию по противодействию «российским пропагандистским медиа». За что и была внесена в перечень иностранных организаций, деятельность которых на территории РФ признана нежелательной. К слову, по сведениям СМИ, ссылающихся на проект бюджета США, опубликованный в начале текущего месяца, в бюджете запланированы ассигнования в размере $24 млн на деятельность Global Engagement Center, созданного специально для противодействия «российской пропаганде».

Журнал: Журнал IT-News [№ 04/2020], Подписка на журналы

Google


Поделиться:

ВКонтакт Facebook Google Plus Одноклассники Twitter Livejournal Liveinternet Mail.Ru

Другие материалы рубрики

Мысли вслух

Можно ли, поняв, что половина информации не доходит до серого вещества, отсеиваемая «вратами сортировки», что-нибудь с этим сделать?
Уже довольно многие согласны с тем, что в крупных организациях необходимо создавать т. н. «службы заказчика», предоставляющие аутсорсинг ИТ-услуг.
На первой встрече по первому проекту, на котором я выступала в роли аналитика, я молчала, хмурила брови и писала что-то в блокнот. В общем-то, я и сейчас на встречах с бизнесом хмурю брови и пишу в блокнот. Но только раньше я это делала от неопытности, а теперь от неожиданности.

Компании сообщают

Мероприятия