В России разработан категоризатор деструктивного контента

Категоризатор состоит из четырех блоков. В первом перечисляется запрещенный к распространению контент. На основе анализа федеральных законов № 149 и 436 были выделены 11 категорий подобной информации. В списке: популяризация сексуального насилия, пропаганда нетрадиционных сексуальных отношений, оскорбление человеческого достоинства, явное неуважение к обществу, государству и т.д. Второй блок перечисляет ограниченный к публикации контент. Категории были выбраны на основании указанных ФЗ РФ. Специалисты причислили к данному разделу такие типы информации: в виде изображения или описания жестокости, физического и (или) психического насилия (за исключением сексуального насилия), преступления или иного антиобщественного действия; вызывающая у детей страх, ужас или панику; представляемая в виде изображения или описания половых отношений между мужчиной и женщиной; содержащая бранные слова и выражения. Третий блок описывает контент, завлекающий граждан в противоправную деятельность. Он сформирован согласно анализу статей 6.11 и 13.15 Кодекса об административных правонарушениях и статей 244 и 245 Уголовного кодекса. Сюда относятся материалы, пропагандирующие «заработок сексом»; демонстрирующие надругательство над телами умерших и местами захоронений; жестокое обращение с животными. Четвертый блок рассказывает о контенте, который нарушает нормы морали и нравственности. В РОЦИТ объяснили, что это самый большой раздел. В нем перечисляется контент, пропагандирующий киберунижение и сетевую травлю. Также сюда включена информация, раскрывающая тему расстройства пищевого поведения как норму, материалы о самоповреждении. Помимо этого, в блок вошли оккультные услуги, популяризация алкоголизма и бездетности, конфликтов учеников и педагогов и деструктивного поведения в семье.   По словам директора РОЦИТ Рустама Сагдатулина, категоризатор – это результат объемной работы, которую провели множество экспертов, общественники, родители детей и подростков, психологи. Главной целью разработки стало создание предельно подробного и ясного инструмента, который могут использовать цифровые платформы для оказания влияния на общество. Важно ограничить распространение деструктивной информации. Кроме того, необходимо привлекать к модерации непосредственно пользователей, в частности с помощью жалоб. Материалы в этом случае будут удаляться после соответствующего решения владельцев площадок и перестанут рекламироваться. Категоризация может быть внедрена в правила соцсетей, тогда в обязательном порядке будет предлагаться ознакомиться с ними перед регистрацией.