Meta заменяет модераторов на ИИ для управления контентом

Meta объявила о сокращении числа человеческих модераторов контента в пользу систем, основанных на искусственном интеллекте. Этот шаг призван повысить скорость выявления нарушений и упростить модерирование. Переход произойдет в течение нескольких ближайших лет, и хотя компания не уточнила, сколько работников может оказаться под угрозой увольнения, сейчас Meta нанимает тысячи контрактников для проверки контента.

Причины изменения подхода

По словам представителей Meta, новые ИИ-системы будут более эффективными и смогут обрабатывать языки, на которых говорит 98% пользователей интернета, в отличие от 80 языков, поддерживаемых текущими модераторами. Это особенно актуально на фоне текущих претензий пользователей к системе, которые часто жалуются на неоднозначные решения, принимаемые ИИ.

Тесты и результаты

Компания уже проводит тестирование крупных языковых моделей (LLM) для модерации контента, и первые результаты показывают обнадеживающие результаты. Важно отметить, что люди сохранят роль в принятии критических решений, таких как рассмотрение апелляций по блокировке аккаунтов.

Значение для пользователей

Для пользователей это означает, что управление контентом станет более оперативным, однако многие могут столкнуться с трудностями в обращении к людям по сложным вопросам. ИИ должен снизить количество запретов за несущественные нарушения, увеличив точность модерации, что может повлиять на общее восприятие платформы среди пользователей.

В ближайшее время Meta запускает ИИ-помощника, который поможет пользователям решать проблемы с аккаунтом, включая восстановление доступа и управление жалобами.

The post Meta заменяет модераторов на ИИ для управления контентом appeared first on iTech News.