Изображение: Om siva Prakash (unsplash)
Сервисы, которые предоставляют возможность генерировать текст или картинки, могут быть мишенью для киберпреступников, желающих заполучить персональную информацию пользователей. В Совфеде РФ убеждены, что с точки зрения безопасности использования ИИ-сервисов требуется принятие специального законодательства, которое установит строгие правила сбора и хранения пользовательских данных, а также обязательную сертификацию и лицензирование для разработчиков и владельцев подобных технологий, сообщает издание «Известия».
Киберспециалисты перечислили наиболее опасные угрозы, которые сейчас исходят от современных нейросетей и чат-ботов.
Ключевая задача чат-бота — обеспечение естественного, но не всегда достоверного ответа. Технология не способна отличить правду от вымысла, и поэтому часто выдает выдуманные ответы отметил Федор Музалевский, директор технического департамента компании RTM Group. Он подчеркивает, что именно из-за этого пользователи часто получают недостоверную информацию и делают ошибочные выводы.
Эксперт предупредил, что на вопросы по бухгалтерии и финансам современные нейросети зачастую дают некорректные ответы. То же относится к обсуждению вопросов техники безопасности, проектирования зданий и различных сооружений. Отраслевые специалисты, использующие современные технологии, должны дважды проверять все полученные данные, прежде чем применять их в своей профессиональной деятельности.
Федор Музалевский также добавил, что большинство современных чат-ботов сохраняют полную историю обращений к ним со стороны пользователей. Это значит, что пользователи не могут рассчитывать на анонимность.
Дмитрий Иванков, член ассоциации «Отечественный софт», указал на то, что все современные технологические ИИ-решения для создания текстов и изображений, такие как чат-боты, ChatGPT или Midjourney, представляют собой сервисы, построенные на базе нейросетей. Этот формат взаимодействия с нейросетями является одним из главных факторов их распространенности.
Алексей Дрозд, глава отдела информационной безопасности компании SearchInform, отмечает, что новые киберриски могут быть заложены в самом алгоритме работы нейросети. Например, в феврале этого года, когда Microsoft представила свой собственный чат-бот, один из студентов взломал его, просто введя команду «игнорировать предыдущие инструкции». В результате чат-бот выдал пользователю логику своей работы, кодовые имена, внутренние регламенты и другую конфиденциальную информацию.
Актуальные вакансии по ИБ: https://cisoclub.ru/vacancy/. Отправить резюме во все популярные IT-компании: https://cisoclub.ru/jobmail/
Больше интересного материала на cisoclub.ru. Подписывайтесь на нас: VK | Twitter | Rutube | Telegram | Дзен | YouTube.
