Издательство «Эксмо» активно инвестирует в выявление нежелательного контента в своих книгах, анализируя обширный каталог с 1990 года. Значительные средства направляются на обнаружение упоминаний наркотиков, борьбу с экстремистской литературой, а также на профилактику тем, таких как чайлдфри, и ограничение материалов, связанных с ЛГБТ.
Для этих целей «Эксмо» применяет передовые системы на базе искусственного интеллекта. Процесс включает поэтапный анализ текста, разбивая его на фрагменты для глубокого контекстуального изучения. Алгоритмы определяют потенциально проблемные сегменты по признакам экстремизма, наркотиков и сексуального содержания. На следующем этапе ИИ отсеивает ложные срабатывания, а затем классифицирует выявленные нарушения.
Для обеспечения точности используются дорогостоящие модели, обученные на актуальных законодательных нормах и судебной практике. Дополнительно работают другие системы, контролирующие соответствие спискам запрещенных организаций и иноагентов.
Ключевым элементом системы является то, что окончательное решение о запрете контента не принимает машина, а окончательное решение остается за человеком, уточняет РБК. В планах издательства – внедрение интерактивных функций, позволяющих редакторам получать детальные ответы от ИИ по конкретным запросам, например, о количестве упоминаний определенного слова.
Ранее глава «Эксмо» Евгений Капьев озвучивал масштаб задачи: проверка более 3 миллионов наименований книг, вышедших с 1990 года, из-за новых запретов и маркировок. Он приводил пример, когда ИИ ошибочно идентифицировал фамилию писателя как пропаганду наркотиков из-за созвучности английскому слову "drug". Это подчеркивает сложность адаптации книжной индустрии к ужесточающимся требованиям.