52 подписчика
ИИ сливает данные – надо только попросить 🫣
Учёные из Google DeepMind обнаружили, что искусственный интеллект запоминает и воспроизводит часть личных данных, полученных при обучении. Эксперименты с различными языковыми моделями, такими как GPT-Neo, LLaMA и ChatGPT, подтвердили этот эффект.
Исследователи обнаружили, что модели не только запоминают фрагменты обучающих данных, но и воспроизводят их по запросу. Например, ChatGPT при "атаке дивергенции" начинал выдавать персональные данные. Это вызывает серьёзные вопросы о конфиденциальности ИИ-моделей.
Учёные предупреждают, что необходимо всестороннее тестирование ИИ, включая взаимодействие по API, чтобы выявить скрытые уязвимости и устранить их пока не стало слишком поздно.
Источник
Около минуты
30 ноября 2023