Бретт Левенсон запустил Moonbounce с $12 млн для контент-модерации

Стартап Moonbounce, основанный Бреттом Левенсоном, собрал $12 млн инвестиций на улучшение модерации контента в условиях роста угроз, связанных с AI. Это важный шаг для платформ, стремящихся повысить безопасность своих пользователей и избежать ряда высокопрофильных инцидентов.

Контекст появления Moonbounce

Когда Бретт Левенсон пришел в Facebook в 2019 году, компания находилась под давлением после скандала с Cambridge Analytica. Он убедился, что просто усовершенствовать технологии недостаточно: 40-страничные документы с политиками модерации требовали, чтобы рецензенты запомнили правила, зачастую переведённые на языке их работы. У них было лишь 30 секунд, чтобы решить, как поступить с контентом, что приводило к «угадке» с точностью чуть выше 50%.

С увеличением использования AI-чатботов и генеративных искусственных интеллектов, проблемы модерации контента становятся ещё более актуальными. Широкие возможности AI в создании контента также повышают риски, когда модерация оказывается запоздалой и медленной, что может вызывать серьёзные проблемы для пользователей.

Технологии, разработанные Moonbounce

Левенсон предложил концепцию «политики как кода», которая позволяет преобразовать статические документы в оперативную логику, интегрированную с механизмами контроля. Используя собственную языковую модель, Moonbounce способен за 300 миллисекунд оценивать контент, принимая меры в режиме реального времени. Это может быть либо блокировка контента, либо замедление его распространения до момента human review.

На этот момент Moonbounce обслуживает более 100 миллионов активных пользователей и поддерживает свыше 40 миллионов проверок контента ежедневно. Среди клиентов — стартап Channel AI, работающий с AI-спутниками, и Civitai, разработчик генераторов изображений. Левенсон подчеркнул: «Безопасность может стать преимуществом продукта, а не чем-то второстепенным».

Что такое модерация для рынка контента

Для платформ, работающих с пользовательским контентом, таких как сайты знакомств, или разработчиков AI-персонажей, внедрение технологий Moonbounce может означать значительное улучшение в точности обнаружения нарушений. Примеры из Tinder показывают, что AI может поднимать точность проверок в 10 раз.

Клиенты, использующие подобные решения, отмечают, что риск неожиэтих инцидентов снижается, а пользовательское доверие возрастает. В условиях быстрых изменений в IT-индустрии это может стать ключевым фактором для привлечения и удержания пользователей.

Следующий шаг для Moonbounce — расширение технологий на другие рынки, что будет особенно актуально в свете растущей конкуренции в сфере безопасных онлайн-сервисов.

The post Бретт Левенсон запустил Moonbounce с $12 млн для контент-модерации appeared first on iTech News.