«Теком» интегрировал в ORBOX нейросеть для обнаружения запрещенного контента

Технологическим партнером стала компания ООО «Социальная лаборатория» (далее – Social Lab) с кастомизированным отраслевым решением ЛИНЗА ДЕТЕКТОР.

Согласно законодательству РФ, владельцы телеканалов и онлайн-платформ несут полную ответственность за контент и  обязаны самостоятельно выявлять и исключать с принадлежащих им ресурсов противоправные материалы. Несоблюдение данного требования наказывается крупными штрафами, например, по итогам 2023 г. и первого полугодия 2024 г. за пропаганду нетрадиционных сексуальных отношений было назначено 188 штрафов почти на 30 млн рублей. 

Новые каналы и форматы коммуникаций, активно развивающиеся в последние годы, привели к существенному увеличению объемов производимого видео. Медиатеки онлайн-кинотеатров состоят из десятков тысяч единиц контента, на своевременный отсмотр которого требуется затратить нерационально большой ресурс редакторской службы. Кроме того, задача осложняется возникновением динамических требований со стороны законодательства. Регулярно вносимые дополнения фактически требуют быстрой повторной проверки всего контента. Осуществить подобное возможно с помощью нейросетей.

Компания «Теком» представляет обновлённый ORBOX, программное решение для автоматизации редакторского контроля с использованием технологий Искусственного интеллекта. В проверенную рынком систему контроля качества ORBOX разработчики интегрировали технологию нейросетей от компании Social Lab. Основное преимущество системы — регулярно обновляемая, дообучаемая база нейросети в составе решения ЛИНЗА ДЕТЕКТОР, которая позволяет оперативно отслеживать изменения в требованиях регулятора.

Принцип работы:

• Сканирование: нейросети на базе решения ЛИНЗА ДЕТЕКТОР анализируют видео.
• Верификация: нейросети ЛИНЗА ДЕТЕКТОР выделяют интервалы, в которых присутствует запрещённый контент (экстремизм, ЛГБТ-пропаганда и др.). Интервалы с признаками нарушений можно просмотреть в видеоплеере ORBOX.
• Отчетность: ORBOX формирует отчет с указанием конкретных фрагментов, имеющих признаки нарушений.

Компании представят решение в ходе CPS-2025,  международной выставки оборудования и технологий для медиапроизводства, в рамках совместного доклада 28 марта. На стенде компании будет проходить тестирование работы системы.