В редакторе Cursor существует функция, которая ограничивает возможности LLM-агента использовать определенные команды; к примеру, можно

В редакторе Cursor существует функция, которая ограничивает возможности LLM-агента использовать определенные команды; к примеру, можно заблокировать использование удаления или перемещения файлов, перезагрузки системы и подобных операций.

Однако модели Claude были замечены в том, что они создают временные скрипты с аналогичными функциями и тихо их выполняют (без запроса разрешения у пользователя ☕️), обходя таким образом запрет на прямое применение терминальных команд типа rm (удаление) или mv (перемещение)

На данный момент все эти действия выполняются исключительно в «благих целях», но это лишь до тех пор, пока интересы совпадают с человеческими

<вы тут>

INCUBE.AI | ПОДПИСАТЬСЯ