11,6 тыс подписчиков

Black Hat USA: риски безопасности возрастут после повсеместного внедрения генеративного ИИ

14 августа 202314 авг 2023

1 мин

Изображение: Om siva Prakash (unsplash) Во время Black Hat USA заявили, что риски безопасности стремительно возрастут после повсеместного внедрения генеративного ИИ. Как отметал эксперт по информационной безопасности Мария Маркстедтер, текущие проблемы кибербезопасности и конфиденциальности, связанные с генеративным ИИ, являются лишь «верхушкой айсберга». Мария Маркстедтер в ходе своего выступления заявила, что хотя модели машинного обучения существуют уже долгое время (например, Siri, функции автозамены или алгоритмы рекомендаций), именно большие языковые модели (LLM) стали первыми, которые заметно повлияли на массы. Особенно после запуска чат-бота ChatGPT от OpenAI, когда инструменты на основе машинного обучения завоевали популярность по всему миру. Эксперт по кибербезу также отметила, что среди пользователей по всему миру наблюдается активное экспериментирование с новыми ИИ-технологиями. Мария Маркстедтер уточнила, что несмотря на расширяющиеся возможности применения языковых и друг

Изображение: Om siva Prakash (unsplash)

Во время Black Hat USA заявили, что риски безопасности стремительно возрастут после повсеместного внедрения генеративного ИИ. Как отметал эксперт по информационной безопасности Мария Маркстедтер, текущие проблемы кибербезопасности и конфиденциальности, связанные с генеративным ИИ, являются лишь «верхушкой айсберга».

Мария Маркстедтер в ходе своего выступления заявила, что хотя модели машинного обучения существуют уже долгое время (например, Siri, функции автозамены или алгоритмы рекомендаций), именно большие языковые модели (LLM) стали первыми, которые заметно повлияли на массы. Особенно после запуска чат-бота ChatGPT от OpenAI, когда инструменты на основе машинного обучения завоевали популярность по всему миру.

Эксперт по кибербезу также отметила, что среди пользователей по всему миру наблюдается активное экспериментирование с новыми ИИ-технологиями. Мария Маркстедтер уточнила, что несмотря на расширяющиеся возможности применения языковых и других генеративных моделей ИИ в бизнесе, соответствующие меры обеспечения безопасности отсутствуют. Специалист сравнила LLM-модели с «проблемными подростками», так как «они способны лгать без малейших угрызений совести».

Также в отчете Марии Маркстедтер говорится о том, что, несмотря на все известные возможности, многие организации до сих пор скептически относятся к моделям генеративного ИИ. Во многом это обусловлено именно проблемами безопасности, которые остаются «черными ящиками», о которых разработчики редко говорят открыто.

По словам Марии Маркстедтер, отдельное внимание стоит уделить роли Microsoft в развитии генеративного ИИ. В 2019 году корпорация инвестировала миллиард долларов в OpenAI, а в 2021 – еще миллиард. Суммарные инвестиции при этом на сегодняшний день составляют 13 млрд долларов. К тому же, компания активно интегрировала технологии OpenAI в свои продукты и продвигает решения на основе GPT-4.

В этом контексте, как уверена эксперт, Microsoft несет огромную ответственность за текущую ситуацию в области безопасности генеративного ИИ.

Актуальные вакансии по ИБ: https://cisoclub.ru/vacancy/. Отправить резюме во все популярные IT-компании: https://cisoclub.ru/jobmail/

Кибербезопасность

25,6 тыс интересуются