M**a запустила ИИ-систему, которая по фотографиям и видео анализирует рост и строение скелета пользователей F******k и I*******m, чтобы находить и удалять аккаунты детей младше 13 лет. Компания подчёркивает, что технология не распознаёт лица и не определяет конкретного человека на снимке. Алгоритм пока работает в нескольких странах, включая США, и M**a планирует расширить его географию.
ИИ сканирует публикации на обеих платформах и анализирует визуальные признаки возраста пользователей — прежде всего рост и строение скелета. Помимо изображений алгоритм проверяет сообщения, комментарии, биографические сведения, подписи и собирает по ним признаки того, что автор может быть несовершеннолетним. По принципу действия инструмент похож на систему сканирования лиц. Если система решит, что аккаунт принадлежит ребёнку, то заблокирует его. Чтобы учётную запись не удалили, владельцу нужно подтвердить возраст.
Заявление прозвучало через несколько дней после того, как присяжные в штате Нью-Мексико (США) признали M**a виновной в нарушении законодательства. Компания вводила пользователей в заблуждение относительно безопасности своих платформ и не защищала детей от вредоносного контента. M**a обязали выплатить $375 млн. Помимо штрафа компании, возможно, придётся внести изменения в работу платформ, из-за которых она уже пригрозила уйти из штата.
Параллельно M**a распространяет на F******k подростковые аккаунты Teen Accounts. Система автоматически определяет пользователей от 13 до 18 лет и переводит их в этот режим, в котором ограничен контент, заблокированы сообщения от незнакомцев и запрещены прямые трансляции для тех, кому ещё нет 16. В I*******m технология работает с 2024 года. Теперь M**a запустит её на F******k сначала в США, а в июне подключит Великобританию и Европу.
В заявлении M**a также высказалась за то, чтобы возраст пользователя проверяли на уровне магазинов приложений и операционных систем. Такой подход поддерживают всё больше политиков в Конгрессе США и в нескольких штатах, в том числе в Калифорнии и Колорадо.
Array