Roblox решил в целях безопасности разделить детей и взрослых с помощью ИИ. Компания представила биометрию и проверку документов, чтобы защитить несовершеннолетних от груминга. Правда, развернулась история, как это часто бывает, совсем в другом направлении: система, призванная обезопасить детей и остановить педофилов, просто создала для последних удобный рынок с прейскурантом. Теперь верифицированный аккаунт «ребенка», дающий доступ в закрытые чаты, продаётся всем желающим на eBay за 4 доллара.
За технологией стоит вендор Persona и нейросеть, угадывающая возраст по селфи. На практике оказалось, что именно «угадывающее» – алгоритмы путают детей со взрослыми, а родители, уставшие от нытья и просьб своих чад, проходят проверку самостоятельно, лёгким движением руки превращая детей в совершеннолетних. Вместо защищенного периметра платформа получила хаос, где верификация возраста не гарантирует ничего.
Правда, разработчикам игры это, видимо, и не важно. Roblox пытается вырваться из ниши «песочницы для школьников» и продавать дорогую рекламу взрослой аудитории. Верификация как раз может стать идеальным инструментом сегментации аудитории, аргументом для рекламодателей и юридической защитой для компании. А если при этом они ещё и не теряют основную детскую аудиторию, которая обходит ограничения, то тем лучше.
Каждый ваш лайк и подписка помогают нам увеличить аудиторию и создавать еще больше достоверного и интересного контента.