Новый "трюк" для взлома различных моделей ИИ, включая GPT-4
Уязвимость, обнаруженная исследователями, является серьезной проблемой для безопасности больших языковых моделей. Она может быть использована злоумышленниками для распространения вредоносного ПО или дезинформации. В прошлом месяце совет директоров OpenAI внезапно уволил генерального директора компании, что вызвало опасения. Члены совета были обеспокоены стремительным прогрессом в области искусственного интеллекта и возможными рисками, связанными с попытками коммерциализировать эту технологию слишком быстро...