УправлениеБезопасность

Шалости ИИ: голосовой помощник Alexa отправил разговор семейной пары коллеге

Юлия Козлова | 27.05.2018

Шалости ИИ: голосовой помощник Alexa отправил разговор семейной пары коллеге

Супруги из Портленда, штат Орегон, очень удивились, когда им позвонила коллега мужа и рассказала, что только что получила запись их разговора о паркетных полах.

Супруги из Портленда, штат Орегон, очень удивились, когда им позвонила коллега мужа и рассказала, что только что получила запись их разговора, сообщает портал The Register. «Отключите все устройства Amazon прямо сейчас, вас взломали», - сказала им женщина и, чтобы подтвердить свои слова, пересказала паре их недавнюю беседу о паркетных полах. Беспроводная система Amazon Echo записала часть разговора супругов и отправила запись одному из контактов в телефоне, хотя никто не давал ей подобных команд.

В доме пары было установлено большое количество устройств, управляемых голосовым помощником Alexa, разработкой корпорации Amazon, с представителями которой немедленно связались супруги. В Amazon подтвердили, что запись была действительно сделана цифровым помощником, активируемым голосом, он же отправил малознакомому человеку аудиосообщение. Представители компании не смогли сразу дать объяснений действиям искусственного интеллекта, ограничившись извинениями.

Спустя время в Amazon смогли рассказать о том, что же случилось со своевольным помощником.

Все устройства голосового управления Amazon постоянно находятся в ожидании сигнального слова Alexa, для чего постоянно записываются заменяющие друг друга аудиотреки продолжительностью в секунду. Как только система слышит свое имя, она начинает полноценную запись и продолжает записывать до первого перерыва в речи. Затем аудио файл отправляется в облако Amazon, где слова распознаются и превращаются в команду. Такая говорящая и постоянно слушающая помощница оказалась необычайно эффективной и настолько популярной, что заставила конкурентов из Google и Apple немедленно разработать схожие системы.

На волне своего успеха компания Amazon принялась активно развивать эту технологию, подключая к системе все больше устройств и приложений, возможно, чуть быстрее, чем следовало бы. Все чаще в последние месяцы пользователи сообщают об ошибках, совершенных Alexa. Ответы невпопад и недопонимания не сильно пугают пользователей, но когда искусственный интеллект, управляющий широким набором функций - от совершения звонков до включения отопления, ошибается, его действия могут иметь серьезные последствия.

История с записанным разговором о паркетах наглядно показала риски пользования умным помощником. Что же произошло? По словам представителей Amazon, устройство ошибочно услышало сигнальное слово «Alexa» и начало обрабатывать разговор семейной пары как команды, среди которых четко распознало «отправить сообщение». После этого Алекса должна была спросить «кому» и, видимо, интерпретировала что-то из сказанного, как имя коллеги мужа. Дальше должно было последовать уточнение контакта, и после утвердительного ответа владельцев система отправила сообщение в сеть. В Amazon утверждают, что работают над тем, чтобы, несмотря на исключительность подобной ошибки, сделать ее еще менее вероятной.

Похоже, что в Amazon слишком рано дали Alexa такую большую свободу действий.

Журнал: Журнал IT-Manager, Подписка на журналы


Поделиться:

ВКонтакт Facebook Google Plus Одноклассники Twitter Livejournal Liveinternet Mail.Ru

Мысли вслух

Сейчас мы вступаем в следующую фазу выздоровления и восстановления, но гибридный мир никуда не денется
Почему бы при «смартовании» цели не подумать о некоторой геймификации?
В России опрос показал: 48% составляют технооптимисты, а больше половины – технофобы и техноскептики.

Компании сообщают

Мероприятия

Технологии и доверие: защита подлинности и идентификация – 2021
Москва, Новинский бульвар, 8, стр. 2, «Лотте Отель»
15.04.2021
9:00
Всероссийский форум «Умный город: Инструкция по применению»
Белгород, ул. Белгородского Полка, 56А. Здание Белгородской государственной филармонии
15 000 руб
15.04.2021 — 16.04.2021
09:00
Smart Business. Новая реальность ритейла и e-commerce
ОНЛАЙН
Бесплатно
15.04.2021
11:00–12:30
Форум Телеком 2021
Москва, Lotte Hotel Moscow, Новинский бульвар, 8с2
36 000 руб
16.04.2021
10:00
Конференция «Российское ПО – драйвер развития цифровой образовательной среды»
Москва, ул. Радио, д. 10А (здание Московского государственного областного университета)
Бесплатно
20.04.2021
10:00–17:30