ChatGPT заставили создавать вредоносный контент Ученые университета Карнеги-Меллон, Центра по безопасности искусственного интеллекта и Центра по искусственному интеллекту Bosch, специализирующиеся на компьютерной безопасности, обнаружили метод обхода защиты языковых нейросетей. В большие языковые модели (LLM), такие как ChatGPT, Bard и Claude, обычно встраивают фильтр, который не позволяет пользователям использовать нейросети для создания нежелательного контента. Как правило, это темы, которые касаются написания вредоносного кода для вирусных атак, политики, расы, причинения вреда здоровью, а также...