«Одноклассники» запустили нейросеть для борьбы с агрессивными комментариями

Нейросеть сама анализирует уровень агрессии в комментариях, затем передает данные модератору.

«Одноклассники» запустили нейросеть для борьбы с агрессивными высказываниями и разжиганием розни в публичных комментариях, сообщили в пресс-службе соцсети.

«Социальная сеть «Одноклассники» запустила технологию на базе нейросетей для борьбы с агрессивными высказываниями и разжиганием розни в публичных комментариях», — говорится в сообщении.

Смотрите также:

Создаётся Навоийский государственный университет

Нейросеть сама анализирует уровень агрессии в комментариях, затем передает данные модератору, который принимает дальнейшее решение по действиям с комментариями. При анализе изображений в комментариях алгоритм также определяет наличие шокирующего содержания и актов насилия, которые после проверки тоже будут удалены.

Пользователи, которые выражают агрессию и ненависть по отношению к другим в комментариях, получат временный запрет на комментирование любого контента в ОК. В десктопной версии соцсети пользователи, которые получили временный запрет на оставление комментариев, при попытке прокомментировать контент увидят сообщение с объяснениями и ссылкой на подробности о работе нового алгоритма. В ближайшее время эта функция появится и в приложениях на iOS и Android, пояснили в компании.