Как работает поиск запрещенного контента «Окулус»?

Дата публикации: 14 февраля 2023

В феврале 2023 года в России запустили еще один инструмент, позволяющий Роскомнадзору (РКН) проводить мониторинг и выявлять сайты с запрещенным контентом. На разработку техзадания было направлено 15 млн рублей, на создание самого сервиса — 57,7 млн рублей.

Как сообщили в Главном радиочастотном центре (ГРЧЦ, одна из структур РКН), система поиска «Окулус» нацелена на нарушения законодательства, которые размещены в изображениях и видеоматериалах. Выявление некачественного видеоконтента ведется по основным типам, прописанных в системе заранее.

Напомним, что по требованию РКН сайт может быть заблокирован, если на нем присутствует информация экстремистского характера, пропаганда наркотиков и суицида, порнографические материалы, клевета. Также, как уточнили в ГРЧЦ, система   будет автоматически обнаруживать призывы к массовым незаконным мероприятиям и пропаганду ЛГБТ.

Новая программа “Окулус” анализирует изображения и символы, а также текст в фото- и видеоматериалах, размещенных на различных страницах сайтов, а также в профилях и пабликах в соцсетях.  Найденный контент проверяется на предмет соблюдения или несоблюдения требований закона.

Ранее такую проверку сотрудники ГРЧЦ проводили вручную, в среднем операторы обрабатывали по 100 изображений и видео в день. Новый поиск позволит анализировать более 200 тыс. материалов в сутки, что существенно повысит эффективность мониторинга. 

Планируется, что к 2025 году поиск “Окулус” будет значительно усовершенствован. Запрещенные материалы будут выявляться «на нескольких кадрах на видеофрагментах, в сложных рукописных текстах и рисованном контенте». Алгоритм научится анализировать позы людей и их действия. 

Также предметом дальнейшей разработки станет результат работы “Окулуса”. Сейчас вся выявленная информация автоматически никуда не отправляться:  после выявления недостоверного контента не происходит блокировка сайта, возбуждение уголовного или административного дела.  Для исключения ошибок и развития корректного срабатывания весь материал будет направлен на ручную обработку. 

Как уточнили в Роскомнадзоре, в 2022 году по требованию Генпрокуратуры было удалено или заблокировано более 100 тыс. сайтов с недостоверным контентом. В 2021 таких ресурсов было всего 7000, 2020 — полторы тысячи, а в 2019 — всего несколько сотен. Это говорит не только о возросшей активности РКН и совершенстве применяемых инструментов, но и о увеличении количества ненадлежащих материалов.