Исследователи из Microsoft обнаружили что GPT-4 взломать проще чем GPT-3.5
Ученые опубликовали исследование, согласно которому, GPT-4 проще заставить выдать запрещенную информацию, токсичные тексты и оскорбления, чем GPT-3.5. Для этого они использовали специальные текстовые команды, вводящие ИИ в заблуждение.
Авторы исследования пришли к выводу что GPT-4 более уязвима потому что она в целом лучше следует инструкциям от пользователей.
Исследователи заявили что до публикации поделились информацией с OpenAI и подразумевают что разработчик принял ее к сведению и исправил уязвимость.
—
Около минуты
17 октября 2023