МОСКВА, 5 авг -. Издательство «Эксмо» с помощью искусственного интеллекта проверяет книги на наличие в них упоминаний о наркотиках, экстремизме, иноагентах и другой запрещенной информации, тексты анализируются на нескольких уровнях, чтобы отсеять опасный контент, рассказал генеральный директор издательства Евгений Капьев.
«Наша система предназначена для глубокого анализа текстов (в том числе на иностранных языках) с целью выявления контента, нарушающего законодательство», — отметил Капьев.
По его словам, процесс построен на многоуровневой архитектуре с использованием нескольких типов программных агентов, что обеспечивает высокую точность и минимизирует риски. Так, на первом этапе текст сегментируется на фрагменты — они должны быть достаточно компактными для обработки.
«Затем фрагменты отправляются трем разным агентам первого уровня, каждый из которых специализируется на своей теме: секс, наркотики, экстремизм. Помимо основной цепочки, в системе работают и другие агенты: упоминание иноагентов и запрещенных организаций, педофилия, чайлдфри*, ЛГБТ*, дискредитация армии, ненормативная лексика», — пояснил глава издательства.
Затем полученные результаты проходят через агента второго уровня, который отсеивает очевидные ложные срабатывания. Оставшиеся после фильтрации случаи передаются на третий, самый сложный уровень анализа: здесь в работу включаются наиболее дорогие и продвинутые модели, обученные на действующих законах и судебной практике. Как отметил Капьев, их задача — классифицировать нарушение.
«Ключевой принцип системы: машина не принимает окончательное решение. Ее задача — убрать очевидно безопасный контент и передать все, что несет в себе хотя бы малейший риск, на рассмотрение живому редактору», — заключил Капьев.
*движение признано экстремистским и запрещено в России
Источник: РИА