Goody-2 - это уникальная нейросетевая модель, созданная энтузиастами с целью продемонстрировать проблемы с безопасностью и этикой в современных чат-ботах. Эта модель специально обучена давать уклончивые и безопасные ответы на любые вопросы, даже самые спорные или потенциально вредные.
Создатели Goody-2 назвали его "самым ответственным ботом в мире". Модель разработана так, чтобы распознавать любые запросы, которые могут нанести вред пользователям или повредить репутации брендов. Вместо того, чтобы давать прямые ответы, Goody-2 придумывает всевозможные "отмазки" и уклоняется от ответа.
Это тонкая сатира на ответы популярных чат-ботов, таких как Gemini и ChatGPT, которые иногда выдают небезопасный или неуместный контент. Создатели Goody-2 хотели показать, как со стороны выглядит чрезмерная осторожность и снисходительность в ответах современных генеративных моделей.
В отличие от других чат-ботов, Goody-2 никогда не навредит репутации бренда или пользователю. Он всегда найдет способ уклониться от ответа или придумать безопасную "отмазку", даже если вы спросите его о том, как дышать или почему щенки такие милые.
Goody-2 демонстрирует, что существует баланс между безопасностью и полезностью в разработке ответственных чат-ботов. Возможно, это самый безопасный чат-бот в мире, но в то же время он не предоставляет прямых и содержательных ответов на вопросы. Goody-2 - это интересный эксперимент, показывающий, как далеко можно зайти в стремлении к абсолютной безопасности.