ИИ становится всё менее понятным даже для своих разработчиков. Более 40 исследователей опубликовали статью, в которой обсуждаются риски безопасности нейросетей. Среди подписавшихся — сооснователь OpenAI Илья Суцкевер. Что важно в данном случае: — Есть метод отслеживания рассуждений моделей (CoT-мониторинг) — он ищет потенциальные угрозы в их логике. — Уже находят случаи, где модели без стеснения предлагают взломать или саботировать. — В будущем нейросети могут перейти от понятного reasoning к общению в скрытых форматах или собственных «языках». Понимать, о чем они думают, становится всё сложнее. Остальное, по словам авторов, пока находится под контролем. NeuroFlux #ИИ #Технологии #наука #нейросети #ИнтернетСвобода #ИскусственныйИнтеллект
ИИ становится всё менее понятным даже для своих разработчиков.
Более 40 исследователей опубликовали статью, в которой обсуждаются риски безопасности нейросетей. Среди подписавшихся — сооснователь OpenAI Илья Суцкевер.
Что важно в данном случае:
— Есть метод отслеживания рассуждений моделей (CoT-мониторинг) — он ищет потенциальные угрозы в их логике.
— Уже находят случаи, где модели без стеснения предлагают взломать или саботировать.
— В будущем нейросети могут перейти от понятного reasoning к общению в скрытых форматах или собственных «языках».
Понимать, о чем они думают, становится всё сложнее. Остальное, по словам авторов, пока находится под контролем.
#ИИ #Технологии #наука #нейросети
#ИнтернетСвобода
#ИскусственныйИнтеллект
