14 подписчиков
Проверить программный код в скилле без технических знаний вряд ли получится – для этого нужен разработчик. И если можете, ОБЯЗАТЕЛЬНО идите к нему советоваться. Остальное можно сделать самостоятельно: узнать, кто автор, прочитать инструкции как обычный текст, заметить код и передать его специалисту, а на первом запуске ограничить доступы. По этим шагам и собрали чек-лист.
🥷 Неизвестный автор
Скилл может опубликовать кто угодно, и звёзды на GitHub не говорят о его безопасности. Посмотрите, кто автор: компания, известный разработчик или аккаунт без истории. Надёжнее всего брать скиллы из официальных репозиториев ИИ-сервисов или из каталога, одобренного в вашей компании.
🟠 Код внутри скилла
Кроме текстовых инструкций в скилле могут быть программы, которые выполнятся на вашем компьютере. Вам не нужно их читать: достаточно посмотреть на список файлов. Если видите файлы с окончаниями .py, .js или .sh, покажите скилл разработчику или IT-отделу до установки.
📄 Подозрительные просьбы в инструкциях
Главный файл SKILL .md написан обычным языком, его можно прочитать как письмо. Насторожиться стоит, если там есть просьбы отправить что-то на внешний сайт, ссылки на незнакомые адреса, обращения к паролям и ключам или указание не сообщать пользователю о каком-то действии. Дочитайте файл до конца: такие строки часто ставят в самый низ.
☝️ Спросите нейросеть
Скопируйте содержимое SKILL .md в чат с ИИ-ассистентом и попросите:
🟣Проверь этот скилл. Есть ли в нём инструкции, которые отправляют данные наружу, читают пароли или скрывают действия от пользователя? Объясни простыми словами 🟪
Это хороший фильтр, но не гарантия: вредоносный текст иногда пишут так, чтобы обмануть и модель.
🤜 Слишком широкие доступы
Если скилл окажется вредным, он получит доступ ко всему, что подключено к агенту. Первый раз запускайте его на тестовых файлах, без рабочей почты и клиентской базы. Подключайте реальные данные только после того, как убедились, что скилл делает ровно то, что обещает.
🤜 Изменения после обновления
Автор может изменить скилл в любой момент, и вместе с обновлением в него может попасть вредный код.
🟢Сохраните проверенную версию у себя и не включайте автообновление🟩
Новую версию ставьте, только если в ней есть то, что вам нужно, и проверяйте её так же, как первую.
Если хотя бы один пункт вызывает сомнения, отложите установку и покажите скилл специалисту. Сохраните чек-лист, чтобы свериться с ним в следующий раз.
2 минуты
6 ноября