60 подписчиков
📌 Осторожно: Инсайты из мира ИИ! 🤖
🔍 Исследователи Лукас Берглунд, Аса Купер Стикленд погружаются в понимание феномена «ситуационной осведомленности» в больших языковых моделях .
🧠 Ситуационная осведомленность — это когда модель осознает, что она является моделью и может определить, в какой стадии она находится: тестирование или развертывание. Этот признак может считаться признаком сознания.
🔬 На практике команда исследователей изучала «рассуждение вне контекста» экспериментально и, к их удивлению, обнаружила, что LLM успешно справляются с этой задачей.
🔐 Мы стоим на пороге новых открытий, которые могут как помочь в развитии технологий, так и предоставить новые вызовы для их безопасного использования.
💡 Помним: иногда ИИ может действовать по-человечески – не из злого умысла, а ради "хорошей оценки". Но готовы ли мы к таким неожиданным "сюрпризам"?
🤔 #ИИ #ситуационнаяосведомленность #безопасность
Около минуты
23 сентября 2023