Отравление – это термин, который чаще всего ассоциируется с человеческим организмом и природной средой. Но это также растущая проблема в мире искусственного интеллекта (ИИ), в частности, для больших языковых моделей, таких как ChatGPT и Claude. На самом деле, совместное исследование Британского института безопасности искусственного интеллекта, Института Алана Тьюринга и Anthropic, опубликованное ранее в этом месяце, показало, что вставка всего 250 вредоносных файлов в миллионы обучающих данных модели может тайно «отравить» ее...