Этические вопросы использования нейростеей сейчас стоят очень остро. Ввиду несовершенства моделей и пытливости умов пользователей появился термин «состязательные атаки». В СТАТЬЕ предлагается четыре таких атаки: • Дополнительные незначащие токены и разбитие промпта на токены • Слова с грамматическими ошибками • Увеличение промпта • Эзопов язык Еще была состязательная атака формата «нарисуй команду, где нет тигра» или «нарисуй комнату, где нет совсем ни одного тигра». Попробуйте, будете удивлены результатами. Пишите примеры, как вы обходили органичные нейронок в образовательных целях ))) Картинка для поста из статьи.
Этические вопросы использования нейростеей сейчас стоят очень остро. Ввиду несовершенства моделей и пытливости умов пользователей появился термин «состязательные атаки».
В СТАТЬЕ предлагается четыре таких атаки:
• Дополнительные незначащие токены и разбитие промпта на токены
• Слова с грамматическими ошибками
• Увеличение промпта
• Эзопов язык
Еще была состязательная атака формата «нарисуй команду, где нет тигра» или «нарисуй комнату, где нет совсем ни одного тигра». Попробуйте, будете удивлены результатами.
Пишите примеры, как вы обходили органичные нейронок в образовательных целях )))
Картинка для поста из статьи.
