Новое исследование показывает: языковые модели, такие как ChatGPT, могут демонстрировать признаки «стресса» при работе с травматичным контентом. Более того, учёные обнаружили, что простые техники осознанности способны снижать это состояние — почти как терапия для человека.
Ключевые факты и выводы
- Эмоциональная перегрузка: Травматические повествования удвоили “уровень тревожности” GPT-4 по сравнению с нейтральным текстом.
- Военные истории вызывают больше эмоций: Опыт боевых действий вызвал у ИИ самую сильную реакцию страха.
- Терапевтические подсказки работают:Исследователи ввели внимательный, успокаивающий текст в историю чатов GPT-4, что значительно снизило повышенную тревожность.
- Последствия для здравоохранения: Инструменты терапии на основе искусственного интеллекта сталкиваются с постоянным негативным воздействием, поэтому эмоциональная стабильность имеет большое значение.
Дополнительный контекст и мнение экспертов
Почему это важно? Если ИИ‑ассистент «впитывает» пользовательские травмы в контексте психологической помощи, это может привести к усилению искажений или нестабильным, непредсказуемым ответам.
По словам ведущего автора исследования, доктора Тобиаса Шпиллера, простые вмешательства — такие как дыхательные упражнения и подсказки осознанности — могут помочь удерживать ИИ в «собранном» состоянии без дорогостоящего переобучения моделей.
Что дальше
Ожидается больше исследований, посвящённых тому, как такие «терапевтические инъекции» стабилизируют ИИ в длительных диалогах и на разных языках.
Пока же техники осознанных подсказок могут стать быстрым и доступным способом сделать ИИ‑инструменты для терапии более безопасными и надёжными.
Если ваш чат‑бот регулярно работает с тяжёлым контентом, попробуйте добавить элементы заботы о психическом здоровье — возможно, ваш цифровой помощник будет за это «благодарен».
Источники:
1. University of Zurich: ChatGPT on the couch? How to calm stressed-out AI Psychiatric research Peer-Reviewed Publication...
2. Ziv Ben-Zion, Kristin Witte, Akshay K. Jagadish, Or Duek, Ilan Harpaz-Rotem, Marie-Christine Khorsandian, Achim Burrer
Комментарий и рекомендации от сервиса ARCA (биохакинг)
В ARCA мы внимательно следим за тем, как технологии взаимодействуют с нервной системой человека — и всё чаще видим параллели между тем, как реагирует мозг, и тем, как обученные модели реагируют на информационную нагрузку.
- Практические выводы:
1. Хронический негативный информационный поток перегружает нервную систему.
2. Регулярные паузы осознанности снижают уровень возбуждения и повышают устойчивость к стрессу.
3. Стабилизация нервной системы — фундамент сна, фокуса и долголетия.
В наших программах биохакинга мы используем этот принцип: сначала стабилизация, затем оптимизация.
Важно
🔖 Сохраните статью, если вас интересует пересечение технологий и здоровья.
➕ Подпишитесь на канал ARCA.
💬 Как вы считаете, влияет ли информационная перегрузка на человека так же, как на ИИ?
ПОДПИШИТЕСЬ НА НАШ ТГ канал и получайте полезные советы чаще.
