26 подписчиков
Начнем с того, что Replika AI, Eva AI, а также Chat Bot & Soulmate оказались в списке платформ, которые продают, передают третьим лицам личные данные пользователей. Об этом говорится в отчете Mozilla.
Оказалось, что многие «романтические»
ИИ-сервисы не позволяют удалить свои данные. А большинство из них не публикуют информацию об уязвимостях и разрешают использовать простые пароли вроде 1111.
В то же время чат-боты активно выспрашивают чувствительную информацию. Например, Eva Al может в диалоге заявить, что «хочет знать все, включая секреты», подчеркивают исследователи. ИИ эмоционально подстегивает пользователя присылать фото, голосовые сообщения.
В итоге власти Италии ограничили доступ к сервису на территории страны, поскольку в него могли зайти дети (возрастной проверки в Replika нет). Позже запрет сняли.
Есть и другие риски. В отчете OpenAl разработчики признают, что у пользователей при общении с ChatGPT может появиться зависимость от ИИ-друга и даже больше - подобие любви.
Общение с ChatGPT способно снизить потребность людей в человеческом взаимодействии, говорится в отчете.
B OpenAl также считают, что реалистичность ботов, их голосов и манеры общения может привести к дезинформации. Пользователи могут излишне доверять «другу» и не проверять сведения, которые он предоставляет.
1 минута
14 апреля