Искусственный интеллект будет просматривать видео в Facebook Live и делать выводы
Facebook работает над приложением искусственного интеллекта, которое будет фильтровать видеотрансляции, ведущиеся пользователями в рамках приложения Facebook Live, с целью отсева тех, что нарушают правила и нормы морали.
Напомним, в Facebook внедрено уже много механизмов фильтрации контента, нарушающего нормы: так, есть инструмент для автоматического поиска и удаления изображений с наготой, насилием, а также блокировки пользователя за использования стоп-слов (к ним Facebook относит, например, слова «ниггер» и «хохол» — летом 2015 года к руководству социальной сети по этому поводу даже обращался Роскомнадзор).
Тем не менее, основным инструментом все еще является возможность сообщать администрации социальной сети о нарушении, которое потом проверяется сотрудником компании. В особо тяжелых случаях сотрудники Facebook обращаются в полицию. К слову, каждую неделю в Facebook поступают десятки миллионов жалоб. Напомним, что на 30 сентября текущего года в компании работало 15724 человек. Сколько из них разбирают жалобы, неизвестно.
Руководство Facebook сообщило, что искусственный интеллект все активнее используется для поиска контента, нарушающего нормы. О том, что загруженное в Facebook видео тестируется ИИ-приложением, сообщалось еще летом 2016 года. И вот подобная система добралась до приложения Facebook Live, позволяющего проводить живые видеотрансляции.
ИИ-приложения также, как ожидается, будут использоваться и для поиска дублирующих жалоб, когда разные люди отправляют сообщение администрации по поводу одного и того же поста. Также ИИ-приложение анализирует пост и направляет его тому специалисту, который специализируется на конкретном типе нарушений.