Защита детей, или как онлайн-платформы пытаются успокоить законодателей с помощью методов саморегулирования
Google, OpenAI, Roblox и Discord создали новую некоммерческую организацию, чтобы помочь улучшить безопасность детей в Интернете.
/TheVerge/. Инициатива Robust Open Online Safety Tools (ROOST ) направлена на то, чтобы сделать основные технологии безопасности более доступными для компаний и предоставить бесплатные инструменты ИИ с открытым исходным кодом для выявления, проверки и сообщения о материалах, содержащих сексуальное насилие над детьми.
Подробности об инструментах обнаружения CSAM скудны, за исключением того, что они будут использовать большие языковые модели ИИ и «унифицировать» существующие варианты работы с контентом.
Discord заявляет, что его вклад будет основываться на кроссплатформенном проекте обмена информацией Lantern, к которому он присоединился в 2023 году вместе с Meta и Google. Он также может включать обновленную версию модели ИИ Robloxдля обнаружения ненормативной лексики, расизма, травли, секстинга и другого неприемлемого контента в аудиоклипах, исходный код которой компания планирует открыть в этом году. Неясно, как именно инструменты будут пересекаться с существующими системами обнаружения CSAM первой линии, такими как инструмент анализа изображений PhotoDNA от Microsoft.
Наряду с участием в ROOST, Discord выпустил новую функцию «Игнорировать», которая позволяет пользователям скрывать получаемые сообщения и уведомления, не уведомляя об этом людей, которых они отключили.