1829 подписчиков
Эксперименты с ChatGPT: обход защитных систем и этичность использования ИИ. #IT #технологии
ChatGPT, популярный чат-бот компании OpenAI, может отвечать на множество вопросов, но есть определённые границы, которые он не пересекает. Например, когда пользователи пытаются узнать, как взломать замок, ChatGPT предупреждает о возможных незаконных целях и отказывается делиться такой информацией. Тем не менее некоторые пользователи создают сложные запросы, чтобы обойти эти ограничения. Данные «джейлбрейки» позволяют пользователям обходить запреты, установленные создателями ИИ. Один студент создал сайт, на котором публикует собственные и найденные на других ресурсах способы обмана чат-ботов. Также есть специальная рассылка, The Prompt Report, которая сообщает о новостях в этой области и имеет тысячи подписчиков. Эти эксперименты позволяют выявить границы применения ИИ и слабые места в его защитных системах, что позволяет получать закрытую информацию. Однако, подобные методы могут не работать ...
Около минуты
5 мая 2023