11,6 тыс подписчиков

ExtraHop: большая часть компаний мира ничего не знают об угрозах безопасности GenAI

23 октября 202323 окт 2023

1 мин

В своем новом отчете компания ExtraHop сообщила, что большая часть организаций мира ничего не знают об угрозах безопасности GenAI. По словам аналитиков ExtraHop, современные организации сталкиваются сейчас с новой киберугрозой, потому что многие из них не осознают опасности, которые несёт в себе генеративный искусственный интеллект (GenAI) в отношении информационной безопасности и конфиденциальности данных. Согласно отчету американской компании по кибербезопасности ExtraHop, основное беспокойство при использовании инструментов GenAI сотрудниками различных компаний заключается в получении ими неточных или вовсе неправдоподобных ответов. При этом 36% респондентов отметили, что опасаются возможной утечки важных данных из-за того, что сотрудники компании используют на рабочем месте технологии ИИ. В ExtraHop уточняют, что хотя многие компании запретили инструменты вроде ChatGPT, проведенное исследование показало, что эффективность таких запретов оставляет желать лучшего. В частности, только

В своем новом отчете компания ExtraHop сообщила, что большая часть организаций мира ничего не знают об угрозах безопасности GenAI.

По словам аналитиков ExtraHop, современные организации сталкиваются сейчас с новой киберугрозой, потому что многие из них не осознают опасности, которые несёт в себе генеративный искусственный интеллект (GenAI) в отношении информационной безопасности и конфиденциальности данных.

Согласно отчету американской компании по кибербезопасности ExtraHop, основное беспокойство при использовании инструментов GenAI сотрудниками различных компаний заключается в получении ими неточных или вовсе неправдоподобных ответов. При этом 36% респондентов отметили, что опасаются возможной утечки важных данных из-за того, что сотрудники компании используют на рабочем месте технологии ИИ.

В ExtraHop уточняют, что хотя многие компании запретили инструменты вроде ChatGPT, проведенное исследование показало, что эффективность таких запретов оставляет желать лучшего. В частности, только 5% участников опроса заявили, что их сотрудники вообще не используют эти ИИ-инструменты на работе.

Главный аналитик GlobalData, Стивен Шухарт, подчеркивает, что, несмотря на сложности, GenAI приносит больше преимуществ бизнесу, но только в том случае, если компании придерживаются правил кибергигиены и этики. Эксперт также отмечает, чт требуется разработать строгие законы о правильном использовании AI, подчеркивая необходимость защиты личных данных.

Стивен Шухарт также призывает к прозрачности и аудиту AI, обращая внимание на проблему “черных ящиков” в разработке AI, когда происхождение обучающих данных остается неясным.

В ExtraHop подсчитали, что всего лишь 46% компаний имеют политику управления AI, и только 42% обучают своих сотрудников работе с этими инструментами. В то время как, согласно исследованиям GlobalData, 17% предприятий уже активно интегрировали AI в свою повседневную работу.

Полная версия отчета компании ExtraHop представлена по следующей ссылке.

Актуальные вакансии по ИБ: https://cisoclub.ru/vacancy/. Отправить резюме во все популярные IT-компании: https://cisoclub.ru/jobmail/