Шалости ИИ: голосовой помощник Alexa отправил разговор семейной пары коллеге
Супруги из Портленда, штат Орегон, очень удивились, когда им позвонила коллега мужа и рассказала, что только что получила запись их разговора, сообщает портал The Register. «Отключите все устройства Amazon прямо сейчас, вас взломали», - сказала им женщина и, чтобы подтвердить свои слова, пересказала паре их недавнюю беседу о паркетных полах. Беспроводная система Amazon Echo записала часть разговора супругов и отправила запись одному из контактов в телефоне, хотя никто не давал ей подобных команд.
В доме пары было установлено большое количество устройств, управляемых голосовым помощником Alexa, разработкой корпорации Amazon, с представителями которой немедленно связались супруги. В Amazon подтвердили, что запись была действительно сделана цифровым помощником, активируемым голосом, он же отправил малознакомому человеку аудиосообщение. Представители компании не смогли сразу дать объяснений действиям искусственного интеллекта, ограничившись извинениями.
Спустя время в Amazon смогли рассказать о том, что же случилось со своевольным помощником.
Все устройства голосового управления Amazon постоянно находятся в ожидании сигнального слова Alexa, для чего постоянно записываются заменяющие друг друга аудиотреки продолжительностью в секунду. Как только система слышит свое имя, она начинает полноценную запись и продолжает записывать до первого перерыва в речи. Затем аудио файл отправляется в облако Amazon, где слова распознаются и превращаются в команду. Такая говорящая и постоянно слушающая помощница оказалась необычайно эффективной и настолько популярной, что заставила конкурентов из Google и Apple немедленно разработать схожие системы.
На волне своего успеха компания Amazon принялась активно развивать эту технологию, подключая к системе все больше устройств и приложений, возможно, чуть быстрее, чем следовало бы. Все чаще в последние месяцы пользователи сообщают об ошибках, совершенных Alexa. Ответы невпопад и недопонимания не сильно пугают пользователей, но когда искусственный интеллект, управляющий широким набором функций - от совершения звонков до включения отопления, ошибается, его действия могут иметь серьезные последствия.
История с записанным разговором о паркетах наглядно показала риски пользования умным помощником. Что же произошло? По словам представителей Amazon, устройство ошибочно услышало сигнальное слово «Alexa» и начало обрабатывать разговор семейной пары как команды, среди которых четко распознало «отправить сообщение». После этого Алекса должна была спросить «кому» и, видимо, интерпретировала что-то из сказанного, как имя коллеги мужа. Дальше должно было последовать уточнение контакта, и после утвердительного ответа владельцев система отправила сообщение в сеть. В Amazon утверждают, что работают над тем, чтобы, несмотря на исключительность подобной ошибки, сделать ее еще менее вероятной.
Похоже, что в Amazon слишком рано дали Alexa такую большую свободу действий.