Исследователи из Университета Иллинойса представили метод HPTSA, который позволяет искусственному интеллекту совместно обнаруживать и эксплуатировать уязвимости на веб-сайтах. Этот инновационный подход основан на взаимодействии различных агентов, каждый из которых выполняет определенные функции - от сканирования до взлома.
Специально обученные боты GPT-4 работают совместно, что ускоряет обнаружение уязвимостей на сайтах, поскольку задачи распределяются между ними.
Аналитик-планировщик оценивает веб-сайт и делегирует выполнение задач специализированным ИИ-ботам: один собирает информацию, а другой использует найденные уязвимости. Эксперименты на специально созданном сайте для проверки безопасности показали, что такой подход увеличивает эффективность взлома в более четыре раза по сравнению с действиями одиночного ИИ. Исследователи подчеркивают, что использование искусственного интеллекта в кибербезопасности требует ответственного подхода и постоянного контроля.
Вместе с тем команда ученых уделяет внимание защите от возможного злоупотребления такими технологиями. Они разработали меры, направленные на предотвращение потенциального использования их работы во вредоносных целях. Этот проект не только открывает новые возможности для защиты информации, но также поднимает важные вопросы о необходимости строгого регулирования использования искусственного интеллекта в интернете.