«Одноклассники» снизили токсичность комментариев на 47% с помощью ИИ

«Одноклассники» сократили токсичность в комментариях почти вдвое с помощью ИИ «Одноклассники» стали временно ограничивать пользователей, которые пишут оскорбительные комментарии. Разработка на основе машинного обучения позволила сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%. ОК внедрили модель машинного обучения, позволяющую автоматически выявлять токсичные комментарии и ограничивать их авторов в написании новых на определённый промежуток времени — от одного часа до 24 часов, в зависимости от того, как часто пользователь оставляет негативные высказывания в адрес других. ML-модель была обучена на 400 тысячах высказываний, которые можно описать как недружелюбные или провоцирующие негативную дискуссию. Запуск ML-модели позволил сократить время обработки жалоб на токсичные посты в три раза и быстрее помочь людям с решением их проблем. Ранее в этом году соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их, а также размывать непристойные изображения.

Одноклассники сократили токсичность в комментариях почти вдвое с помощью ИИ! Соцсеть внедрила модель машинного обучения, которая автоматически выявляет оскорбительные комментарии и временно ограничивает их авторов. В зависимости от частоты нарушений, блокировка может длиться от 1 часа до 24 часов. Результаты впечатляют: доля негативных высказываний под постами, фото и видео сократилась на 47%! По данным исследования ОК, более 40% пользователей испытывают злость из-за токсичных комментариев. Чтобы решить эту проблему, ИИ обучили на 400 тысячах примеров недружелюбных высказываний, а также провели опрос среди аудитории, чтобы понять, какие комментарии считаются нежелательными. Кроме того, запуск ML-модели позволил сократить время обработки жалоб на токсичные посты в три раза, что помогает быстрее решать проблемы пользователей. Что думаете о таком подходе? Делитесь мнением в комментариях!

Комментарии в «Одноклассниках» теперь охраняет ИИ В систему модерации комментариев «Одноклассников» интегрировали ИИ — разработка на основе машинного обучения помогает временно ограничивать пользователей, которые пишут оскорбительные комментарии. Такой ИИ умеет автоматически выявлять токсичные комментарии и ограничивать их авторов в написании новых на определённый промежуток времени — от одного до 24 часов. rozetked.me/news/36381

Забирай эксклюзивное предложение для пользователей Tek.fm от Газпромбанка 🔥Нажми на меня

ОК внедрили модель машинного обучения чтобы выявлять токсичные и оскорбительные комментарии. Полагаю, что до ВК также скоро дойдет нововведение. Задача простая — создать дружелюбную атмосферу на площадке. Чем больше человеку комфортно с ней взаимодействовать, тем больше времени он проведет на площадке.

Одноклассники против токсичности Соцсеть внедрила ИИ для борьбы с токсичными комментариями. Это позволило снизить их количество на 47%. ↖

«Одноклассники» с помощью искусственного интеллекта будут автоматически определять токсичные комментарии и банить их авторов. Наказание - от одного часа до суток электронного цугундера. Обещают, что наказание будет зависеть от степени токсичности пользователя, т.е. от того, насколько часто он оставляет негативные комментарии, например, под фотографиями других пользователей / п р у ф По нашему исключительно субъективному мнению, «Одноклассники» как раз та самая сеть, где пользователи острее всего реагируют на негативное мнение о своих фото и даже просто на низкие оценки. Возможно, внедрение такой системы сделает атмосферу в соцсети более дружелюбной. Правда троллям развлекаться будет уже не так весело.