«Одноклассники» снизили токсичность комментариев на 47% с помощью ИИ

«Одноклассники» сократили токсичность в комментариях почти вдвое с помощью ИИ «Одноклассники» стали временно ограничивать пользователей, которые пишут оскорбительные комментарии. Разработка на основе машинного обучения позволила сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%. ОК внедрили модель машинного обучения, позволяющую автоматически выявлять токсичные комментарии и ограничивать их авторов в написании новых на определённый промежуток времени — от одного часа до 24 часов, в зависимости от того, как часто пользователь оставляет негативные высказывания в адрес других. ML-модель была обучена на 400 тысячах высказываний, которые можно описать как недружелюбные или провоцирующие негативную дискуссию. Запуск ML-модели позволил сократить время обработки жалоб на токсичные посты в три раза и быстрее помочь людям с решением их проблем. Ранее в этом году соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их, а также размывать непристойные изображения.

Одноклассники сократили токсичность в комментариях почти вдвое с помощью ИИ! Соцсеть внедрила модель машинного обучения, которая автоматически выявляет оскорбительные комментарии и временно ограничивает их авторов. В зависимости от частоты нарушений, блокировка может длиться от 1 часа до 24 часов. Результаты впечатляют: доля негативных высказываний под постами, фото и видео сократилась на 47%! По данным исследования ОК, более 40% пользователей испытывают злость из-за токсичных комментариев. Чтобы решить эту проблему, ИИ обучили на 400 тысячах примеров недружелюбных высказываний, а также провели опрос среди аудитории, чтобы понять, какие комментарии считаются нежелательными. Кроме того, запуск ML-модели позволил сократить время обработки жалоб на токсичные посты в три раза, что помогает быстрее решать проблемы пользователей. Что думаете о таком подходе? Делитесь мнением в комментариях!

Забирай эксклюзивное предложение для пользователей Tek.fm *Предложение ограничено

ОК внедрили модель машинного обучения чтобы выявлять токсичные и оскорбительные комментарии. Полагаю, что до ВК также скоро дойдет нововведение. Задача простая — создать дружелюбную атмосферу на площадке. Чем больше человеку комфортно с ней взаимодействовать, тем больше времени он проведет на площадке.

Одноклассники против токсичности Соцсеть внедрила ИИ для борьбы с токсичными комментариями. Это позволило снизить их количество на 47%. ↖