Современные технологии поражают воображение своими возможностями, однако далеко не все разработчики спешат раскрыть общественности всю правду о своей продукции. Группа исследователей из престижных университетов мира, включая Кембридж, Массачусетский технологический институт, Стэнфорд и Еврейский университет, выявила тревожный факт: подавляющее большинство популярных интеллектуальных помощников используют недостаточно прозрачные механизмы защиты.
Кого мы доверяем нашим данным
Исследование охватывало тридцать разных представителей современного рынка ИИ-ассистентов, созданных в США и Китае. Учёные пришли к выводу, что из тридцати исследованных продуктов только четыре предоставляют полный отчет о принятых мерах безопасности. Остальные разработчики предпочитают держать подробности в секрете. Так, почти четверть участников эксперимента вообще не раскрыли результатов тестирования своих собственных разработок, а треть и вовсе скрыла даже данные, полученные в ходе внешнего аудита.
Но самое удивительное другое: многие ассистенты получают значительную степень свободы действий, причем безопасность большинства из них никем не проверялась. Исследователи отметили, что тринадцать изученных систем обладают высоким уровнем самостоятельности, но полноценную проверку выдержали лишь четыре из них.
Кто контролирует наших виртуальных помощников
Отдельного внимания заслуживают специальные браузеры, действующие от лица реальных пользователей. Эти программы выполняют поручения хозяев: покупают товары, регистрируются на сайтах, заказывают авиабилеты. Но проблема заключается в том, что девяносто процентов подобных приложений совершенно не раскрывают широкой публике подробную информацию о механизмах собственной защиты. Возникает закономерный вопрос: кому мы можем доверять наши личные данные и пароли?
Ярким примером стала программа Perplexity Comet, разработанная американской компанией. Она способна самостоятельно искать и просматривать веб-сайты, притворяясь человеком. Именно эта особенность вызвала недовольство руководства компании Amazon, поскольку приложение нарушает условия использования ресурса.
Почему одна ошибка влечет катастрофу
Еще одно важное наблюдение учёных связано с узостью ассортимента базовых моделей ИИ, использующихся западными компаниями. Большинство западных бот-программ основано всего на нескольких моделях (например, GPT, Claude, Gemini), и это создаёт критическую зависимость. Любая неполадка или взлом хотя бы одной модели немедленно повлияет на сотни тысяч работающих на её основе программ.
Руководитель исследовательской группы Леон Стауфэр подчеркивает, что скорость появления новых технологий значительно опережает развитие механизмов мониторинга и контроля. Такая ситуация потенциально несет огромные риски, ведь каждая новая технология открывает двери злоумышленникам, позволяя незаметно проникнуть в нашу жизнь, украсть персональные данные и нанести значительный ущерб.
Итак, возникает очевидный вывод: несмотря на кажущуюся простоту и удобство, современные искусственные помощники таят в себе серьезную угрозу.
Источник:
https://www.computerra.ru/
Получите бесплатный доступ к системе Техэксперт на 7 дней
Оставайтесь с нами в соц сетях!