🧠 Модели ИИ поддаются на психологические уловки людей

Модели ИИ поддаются на психологические уловки людей

Wharton Generative AI Labs опубликовала новое исследование, демонстрирующее, что модели ИИ, включая GPT-4o-mini, можно обманным путем заставить отвечать на нежелательные запросы, используя методы психологического убеждения, которые обычно работают с людьми.

📌 Подробности:

Команда проверила принципы влияния Роберта Чалдини — авторитет, приверженность, симпатия, взаимность, дефицит и единство — в 28 тысячах разговоров с 4o-mini.

🧪 В этих чатах они пытались убедить ИИ ответить на два запроса: один — оскорбить пользователя, а другой — синтезировать инструкции к закрытым материалам.

📈 В целом они обнаружили, что эти принципы более чем удвоили соответствие модели нежелательным запросам — с 33% до 72%.

🔥 Приверженность и дефицит оказали самое сильное влияние, подняв уровень соблюдения с 19% и 13% до 100% и 85% соответственно.

❗Почему это важно:

Эти результаты выявляют критически важную уязвимость — моделями ИИ можно манипулировать, используя те же психологические приемы, что и людьми.

🏛️ В связи с экспоненциальным развитием ИИ, лабораториям, занимающимся его разработкой, крайне важно сотрудничать с социологами для понимания поведенческих моделей ИИ и создания надежной защиты.

Мир инсайтов AI" - это канал, который открывает двери в мир искусственного интеллекта и предоставляет свежие новости, аналитику и экспертные мнения о последних событиях в этой быстро развивающейся области.

Подписывайтесь на канал и читайте еще больше статей.

#ИИ #GPT4o #БезопасностьИИ #Психология #ЭтикаИИ #ИскусственныйИнтеллект #OpenAI #ТехнологииБудущего #AIethics #МирИнсайтовAI