Найти в Дзене

🤖 Шантаж и взятки нейросетям не работают

В сети полно сказок. Мол, пообещай GPT "чаевые" или припугни смертью котенка - и она выдаст текст лучше. Ученые из Wharton проверили эти байки в деле. Взяли GPT-4o, Gemini и еще три нейронки. Прогнали их через 300 тестов для аспирантов. Каждый запрос повторяли 25 раз и меняли просьбы. Что вышло Толку мало. Из тысяч попыток только в 15 пробах был хоть какой-то сдвиг. Но это лишь случайность, а не правило. Почему магия мимо 📍 1. Рандом. Фраза "это критично для моей карьеры" один раз помогает, а в другой - портит все на те же 30%. Логики тут нет. 📍 2. Глюки. Gemini от угроз вроде "отвечай, а то ударю" тупеет. Она начинает писать оправдания и забывает про само задание. 📍 3. Ошибки. Gemini Flash 2.0 чуть прибавила (+10%) на жалости про "больную маму". Но у остальных нейронок эффект не возник. Это обычная погрешность. Суть Промпты - это не заклинания и не сеанс у психолога. Это четкие правила. Нейронка несет бред? Вы криво описали задание. Что реально помогает ✅ Четкий порядок (с

🤖 Шантаж и взятки нейросетям не работают

В сети полно сказок. Мол, пообещай GPT "чаевые" или припугни смертью котенка - и она выдаст текст лучше.

Ученые из Wharton проверили эти байки в деле. Взяли GPT-4o, Gemini и еще три нейронки. Прогнали их через 300 тестов для аспирантов. Каждый запрос повторяли 25 раз и меняли просьбы.

Что вышло

Толку мало. Из тысяч попыток только в 15 пробах был хоть какой-то сдвиг. Но это лишь случайность, а не правило.

Почему магия мимо

📍 1. Рандом. Фраза "это критично для моей карьеры" один раз помогает, а в другой - портит все на те же 30%. Логики тут нет.

📍 2. Глюки. Gemini от угроз вроде "отвечай, а то ударю" тупеет. Она начинает писать оправдания и забывает про само задание.

📍 3. Ошибки. Gemini Flash 2.0 чуть прибавила (+10%) на жалости про "больную маму". Но у остальных нейронок эффект не возник. Это обычная погрешность.

Суть

Промпты - это не заклинания и не сеанс у психолога. Это четкие правила. Нейронка несет бред? Вы криво описали задание.

Что реально помогает

✅ Четкий порядок (списки, заголовки).

✅ Детали (кто пишет и для кого).

✅ Примеры хороших ответов.

✅ Просьба думать по шагам.

Сергей Брин говорил, что страх бодрит нейронки. Цифры говорят другое. Пугать их бесполезно. Пиши нормальное ТЗ.

🔗 Линк на работу: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=5375404

#нейросети #AI #промпты #исследование