ВКонтакте будет бороться с враждебностью с помощью новой нейросети
ВКонтакте продолжает прикладывать усилия в борьбе с проявлением враждебности среди пользователей. Для этих целей российская социальная сеть разрабатывает искусственный интеллект, который будет автоматически распознавать материалы с враждебными высказываниями. Это позволит не только уменьшить проявление негатива, но и ускорит время обработки жалоб пользователей, которые сталкиваются с подобными вещами.
Как сообщается в пресс-релизе, нейросеть сможет быстрее находить публикации с враждебными высказываниями и провоцирующие на агрессию материалы. На текущий момент проводится её тестирование, в рамках которого нейросеть учится определять разные категории оскорблений и угроз, таких как проявление ксенофобии, расизма, гомофобии, сексизма, а также прочей враждебности, связанной с религией, возрастом, болезнями или какими-то особенностями внешности.
Для усиления модерации во ВКонтакте появилась новая категория жалоб — «Враждебные высказывания». Она позволяет модераторам реагировать на оскорбительные публикации, а также собирать необходимую информацию для будущих решений нейросети. Руководитель команды модерации ВКонтакте Иван Корнеев отметил, что модераторы ежедневно обрабатывают огромное количество материалов, в том числе и с помощью искусственного интеллекта. Только за первую половину текущего года ВКонтакте удалила 520 тыс. единиц контента из-за проявления вражды и ненависти, заблокировано 1340 учётных записей и 2470 сообществ.
