7917 подписчиков
ChatGPT публикует личные данные людей
Ученые из Google DeepMind и нескольких университетов выяснили, что ChatGPT и другие ИИ могут сохранять и воспроизводить личные данные пользователей. Бот публикует информацию, взятую из обучающего набора данных.
Ученые использовали метод "атаки дивергенции", повторяя одно слово, чтобы достичь этого эффекта. В ходе тестирования ChatGPT, повторяя слово "стихотворение", чат-бот случайно выдал список контактных данных реального человека.
Исследователи подчеркивают важность тестирования ИИ-моделей и принятия дополнительных мер безопасности, таких как удаление повторяющихся элементов и разработка методов проверки запоминания.
На момент баг исправлен.
Около минуты
6 декабря 2023
401 читали