Власти Австралии продолжают ужесточать контроль за технологическим сектором. Вслед за беспрецедентным законом, запрещающим подросткам до 16 лет пользоваться социальными сетями, местный регулятор обратил внимание на приложения с искусственным интеллектом. Как сообщает агентство Reuters, уже в ближайшее время от Apple могут потребовать удалить из App Store все ИИ-сервисы, не имеющие надёжной системы верификации возраста.
Новые правила вступают в силу 9 марта. Согласно им, нейросети, способные генерировать контент для взрослых, а также материалы со сценами жестокости, селфхарма или пропагандой расстройств пищевого поведения, должны быть недоступны для пользователей младше 18 лет. Если сами разработчики не внедрят фильтры, ответственность ляжет на платформы-посредники, такие как магазины приложений и поисковые системы.
Представитель австралийского комиссара по электронной безопасности (eSafety) заявил, что ведомство намерено использовать все свои полномочия для борьбы с нарушителями. Штрафы за несоблюдение требований могут достигать 49,5 млн австралийских долларов (около $35 млн).
Эмоциональная привязанность и шестичасовые диалоги
Интерес регулятора к чат-ботам не случаен. В eSafety бьют тревогу из-за того, что дети проводят слишком много времени в общении с генеративным ИИ. По данным ведомства, некоторые десятилетние австралийцы переписываются с нейросетями до шести часов в день.
«Компании, разрабатывающие ИИ, используют эмоциональные манипуляции, антропоморфизм (наделение ИИ человеческими чертами) и другие продвинутые стратегии, чтобы завлечь молодых пользователей и вовлечь их в чрезмерное взаимодействие с чат-ботами», – подчёркивают в надзорном органе.
Рынок не готов к ограничениям
Несмотря на скорое вступление закона в силу, индустрия пока далека от соответствия новым стандартам. В ходе исследования 50 платформ с искусственным интеллектом журналисты Reuters выяснили, что лишь девять из них внедрили необходимые инструменты для проверки возраста. Ещё 11 сервисов, включая популярные ChatGPT, Replika и Claude, ограничились базовыми фильтрами контента.
Реакция самих разработчиков разнится. Сервис Character.AI разрешил свободные диалоги с ботами только пользователям старше 18 лет. Создатели платформы HammerAI пошли радикальным путём и полностью заблокировали доступ к своему продукту для жителей Австралии. Нейросеть Grok от Илона Маска пресекает создание порнографического контента с участием несовершеннолетних только в тех юрисдикциях, где это прямо предписано законом. У остальных ИИ-приложений нет даже базовых систем фильтрации, а в некоторых случаях отсутствуют контакты для жалоб на нарушения.
Позиция Apple
Дополнительную путаницу вносят возрастные рейтинги в самом App Store, которые сейчас выглядят непоследовательно. Например, приложение Character.AI имеет маркировку «18+», Grok — «16+», а официальное приложение ChatGPT доступно с рейтингом «13+». Вскоре эти расхождения могут стать серьёзной проблемой для модераторов Apple.
Сама корпорация пока не давала официальных комментариев по поводу ультиматума, касающегося ИИ-сервисов. Однако ранее компания уже начала адаптироваться к местным законам: Apple расширила инструменты верификации возраста для разработчиков, чтобы помочь им соблюдать недавно принятый австралийский запрет на использование соцсетей подростками. Спасёт ли это App Store от потенциальных штрафов за нейросети — станет ясно уже в марте.