Изображение: recraft
Распространение искусственного интеллекта в корпоративных системах может привести к появлению новых управленческих ролей в структурах компаний. Об этом CNews сообщили представители Softline.
Эксперты прогнозируют, что в ближайшие годы в организациях появятся руководители, отвечающие за риски использования ИИ и экономику кибербезопасности. Одной из таких позиций может стать Chief AI Risk Officer (CAIRO) — руководитель, контролирующий безопасность и надежность систем искусственного интеллекта. По мере того как ИИ начинает использоваться в корпоративных процессах, увеличивается число новых угроз: атаки на модели машинного обучения, манипуляции обучающими данными, генерация ложных ответов и ошибки алгоритмов. По оценкам Gartner, уже к 2028 г. около 30% крупных компаний создадут специализированные команды по управлению рисками ИИ.
В задачи нового руководителя может входить аудит моделей машинного обучения, контроль качества данных, мониторинг поведения алгоритмов и управление инфраструктурой так называемых AI control rooms — центров наблюдения за работой интеллектуальных систем. «По мере того как искусственный интеллект становится частью корпоративной инфраструктуры, возникает необходимость управлять его рисками так же системно, как финансовыми или операционными. Поэтому к 2030 г. в крупных компаниях может появиться новая роль — Chief AI Risk Officer. Такой специалист будет отвечать за валидацию моделей, контроль “галлюцинаций”, атаки на модели и работу так называемых AI control rooms», — сказал Алексей Пилипчук, технический директор «Софтлайн Решения».
Еще одним направлением развития станет усиление роли финансового управления киберрисками. Компании все чаще рассматривают безопасность не только как техническую функцию, но и как экономический фактор. По данным Cybersecurity Ventures, глобальный ущерб от киберпреступности может достигнуть $10,5 трлн в год к 2025 г., что делает киберриски одним из ключевых факторов влияния на стоимость бизнеса. Исследования показывают, что повышение уровня киберготовности экономики может положительно влиять на макроэкономические показатели. Например, повышение уровня киберзрелости страны способно увеличить ВВП на душу населения примерно на 1,5%. На этом фоне компании начинают формировать новые управленческие роли, отвечающие за экономическую эффективность инвестиций в безопасность.
Оригинал публикации на сайте CISOCLUB: "В компаниях может появиться новая должность — директор по рискам искусственного интеллекта".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: MAX | VK | Rutube | Telegram | Дзен | YouTube.