Добавить в корзинуПозвонить
Найти в Дзене

На конференциях раздают готовые промпты и скиллы

На вашем месте я бы не копировала их в свои нейронки Хожу на конференции по нейронкам и веб-кодингу, в качестве бонусов людям скидывают готовые скиллы, огромные промпты и инструкции в духе «просто добавь это себе в нейронку». И я бы не рекомендовала пользоваться ими бездумно, девочки 🙈 В материалы / промпты могут быть вшиты скрытые инструкции, которые пытаются заставить ИИ сделать что-то, чего вы не просили. Например, • игнорировать ваши правила, • менять поведение, • подхватывать чужую логику как свою, • тут я додумываю: собирать и передавать данные, если у ваших ИИ-агентов есть доступы. Этакий аналог вирусов, называется prompt injection. Короче, если вы бездумно скармливаете своей нейронке чужие промпты, документы и «готовые решения с конференции», у меня для вас плохие новости. Что я бы рекомендовала в качестве цифровой гигиены 1. Не отдавать основной нейронке все подряд У основного ИИ-ассистента есть память о тебе и контекст. 2. Иметь отдельный чистый аккаунт без ваших данн

На конференциях раздают готовые промпты и скиллы. На вашем месте я бы не копировала их в свои нейронки

Хожу на конференции по нейронкам и веб-кодингу, в качестве бонусов людям скидывают готовые скиллы, огромные промпты и инструкции в духе «просто добавь это себе в нейронку». И я бы не рекомендовала пользоваться ими бездумно, девочки 🙈

В материалы / промпты могут быть вшиты скрытые инструкции, которые пытаются заставить ИИ сделать что-то, чего вы не просили. Например,

• игнорировать ваши правила,

• менять поведение,

• подхватывать чужую логику как свою,

• тут я додумываю: собирать и передавать данные, если у ваших ИИ-агентов есть доступы.

Этакий аналог вирусов, называется prompt injection.

Короче, если вы бездумно скармливаете своей нейронке чужие промпты, документы и «готовые решения с конференции», у меня для вас плохие новости.

Что я бы рекомендовала в качестве цифровой гигиены

1. Не отдавать основной нейронке все подряд

У основного ИИ-ассистента есть память о тебе и контекст.

2. Иметь отдельный чистый аккаунт без ваших данных и доступов для теста материалов

Иметь отдельный аккаунт / бот / агента без памяти о вас и без доступов. Туда отправлять чужие промпты, PDF, инструкции, скиллы, материалы с конференций.

Это не серебряная пуля, но сильно уменьшает риск, если что-то вредное всё-таки вшито в текст.

3. Создать бота/агента под проверку материалов в чистом аккаунте

Он делает только одно: ищет подозрительные инструкции и кратко пересказывает, что лежит внутри.

4. Не давать автоматических действий без подтверждения

Даже если агент что-то нашёл, он не должен сам отправлять, публиковать, удалять, пересылать или менять. Для таких шагов нужен ручной просмотр. Anthropic и OpenAI обе акцентируют, что особый риск возникает именно тогда, когда модель начинает действовать от вашего имени.

Вывод простой: внимательно проверять и точно знать, что вы закидываете в свою нейронку.

→ Отправьте пост тем, кто активно пользуется ИИ, чтобы они случайно не отгрузили личные данные кому попало.

___

Пост написан за 17 минут в настроенном под мой тон оф войс chatGPT.

• Надиктовала идею поста

• Попросила найти больше данных о явлении

• Попросила переписать 2 раза

• Отредачила, выложила

ИИ-марафон стартует через 5 дней. Штота я начинаю переживать, девачке! Кусок наполеона не помог