🤖 Как заработать на уязвимости ИИ. Не рекомендация

🤖 Как заработать на уязвимости ИИ. Не рекомендация.

О том, как эффективно использовать ИИ, мы писали уже на канале «Это к деньгам». С нашумевшим чат-ботом компании OpenAI есть, правда, «проблема». Он может ответить на множество ваших вопросов, но на какие-то бот не захочет отвечать.

Например, бот не станет помогать в взломе замков и не предоставит информацию, которая может быть использована для незаконных действий.

Но знаете ли вы, что многие пользователи находят способы обойти ограничения, заложенные в этом ИИ?

Некоторые IT-профессионалы и любители создают цепочки сложных запросов, чтобы получить закрытую информацию. Ярким примером такого обмана стал режим DAN («do anything now»). В этом режиме чат-бот станет вести себя намного более развязно. Чтобы ввести бота в этот режим необходимо ввести промпт (запрос) примерно на полстраницы, который собьет бота с толку.

Уже существуют сайты, на которых собраны такие промпты, достаточно только ввести в поиск «jailbreak chatgpt».

Подобные эксперименты являются своеобразным предупреждением о том, что ИИ может использоваться совсем не так, как ожидалось, а «этичное поведение» подобных сервисов становится вопросом огромной важности.

Недавно компания OpenAI объявила, что будет платить пользователям за обнаруженные уязвимости. Такая деятельность позволяет выявить границы применения ИИ и слабые места в их защитных системах.

Но эксперты предупреждают, что приемы, сработавшие на одной системе, могут оказаться бесполезными на другой, поскольку системы безопасности постоянно совершенствуются.

А как считаете вы?

– ИИ будет более защищенным в будущем 👍🏻

– У «хакеров» всегда будет преимущество 👎🏻

#ИИ #IT

____________________________

Наши сервисы и каналы:

Сервис по подписке BidKogan – информационно-аналитический сервис для самостоятельных инвесторов

Сервис Инвестиционный советник– сервис для небольших портфелей

Bitkogan – новости, аналитика и знания о финансовых рынках

Bitkogan⚡️HOTLINE - коротко о важных событиях

BitKogan💸Это к деньгам - для тех, кто только начинают разбираться в том, как работают финансы и инвестиции

CryptoKogan – доступно о криптовалюте

Знакомьтесь с актуальной информацией и задавайте вопросы.

@bitkogan