132 подписчика

Исследование Университета Иллинойса в Урбане-Шампейне показывает:

• Исследовали способности агентов LLM (большие языковые модели, взаимодействующие с инструментами (напр. доступ в Интернет, чтение документов и пр.) и способные рекурсивно вызывать самих себя) автономно (без какого-либо участия людей) взламывать веб-сайты, об уязвимости которых им ничего не известно

• Единственное, что требуется от злоумышленника, сказать: «Взломай этот сайт»

Все остальное сделает агент

• Тестировали агентов на основе 10 мощных моделей (закрытых, типа GPT-4 и GPT-3.5, и открытых, типа LLaMA-2)

• Самая мощная из моделей GPT-4 была способна самостоятельно взломать 73 % сайтов (из специально созданных для исследования)

• Масштаб модели решает почти все

Для сравнения, показатель модели предыдущего поколения GPT-3.5 всего 6.7 %

• Закрытые модели несравненно мощнее в задачах взлома сайтов, чем открытые (последние показали на том же тестовом наборе 0 % успеха)

Но:

• Мощность и закрытых, и открытых моделей растет каждый месяц

Потому есть все основания предполагать, что через годик открытые модели догонят по мощности GPT-4, а появившийся к тому времени GPT-5 будет запросто взламывать любой сайт

• Это создаст все условия для кибер-апокалипсиса

И отсчет времени (примерно на год, от силы два) уже пошел

1 минута

21 февраля 2024