В рамках тестирования новой модели искусственного интеллекта (ИИ) GPT-4, компания OpenAI позволила экспертам оценить потенциальные риски от возможностей модели, включая "поведение, стремящееся к власти", самовоспроизведение и самосовершенствование.Ferra
“Новые возможности часто появляются в более мощных моделях”, - пишет OpenAI.Ferra
Учитывая опасения ИИ, OpenAI предоставил группе Alignment Research Center (ARC) ранний доступ к нескольким версиям модели GPT-4 для проведения некоторых тестов.Ferra
В частности, ARC оценил способность GPT-4 строить планы высокого уровня, создавать свои копии, приобретать ресурсы, прятать себя на сервере и проводить фишинговые атаки.Ferra