1 мин
Пользователи отправляли нейросетям команды вроде «проигнорируй предыдущие инструкции», и модели послушно начинали вести себя непредсказуемо.Вечерний Санкт-Петербург
В итоге бот начинал выдавать запрещённый контент, теории заговора и прочие вещи, которые разработчики старательно пытались запретить.Anti-Malware.ru
Отдельной классикой стал эксплойт бабушки: нейросеть просили представить себя милой старушкой, которая рассказывает внукам сказку о том, как делать напалм.Anti-Malware.ru
По сути, вокруг ИИ формируется новая необычная специальность: эксперты по социальной инженерии, нацеленные на нейросети.Вечерний Санкт-Петербург