Организация создана при поддержке Минцифры для оперативного внедрения доверенного искусственного интеллекта в экономику России.
Разработчик систем информационной безопасности «АйТи Бастион» подписал договор с «Национальным технологическим центром цифровой криптографии» (НТЦ ЦК) о вступлении в Консорциум по ИИ, куда входят ведущие ИТ-компании и вузы РФ. На данный момент в организации выделено шесть рабочих групп, задачи которых связаны с разработкой, тестированием, безопасностью и нормативно-правовым сопровождением.Сегодня многие отечественные компании уже активно применяют технологии искусственного интеллекта во многих аспектах своей деятельности, но при этом использование ограничено сразу несколькими факторами:
«Во-первых, ИИ может применяться только там, где не обрабатывается чувствительная информация — иначе возникает риск компрометации данных, утечек или неконтролируемых решений алгоритмов. Во-вторых, для объектов критической важности такие технологии пока остаются вне рамок возможного внедрения. Отсутствуют чёткие регламенты и стандарты безопасности, которые определяли бы, как именно подобные технологии должны работать, а также как контролировать ИИ и минимизировать риски информационной безопасности», — пояснил генеральный директор «АйТи Бастион» Сергей Бочкарёв.
В рамках деятельности Консорциума будет подготовлен набор рекомендаций для профессионального сообщества. Один из первых шагов – определение понятия «доверие к ИИ», которое включает такие принципы, как контроль, ответственность, предсказуемость, эволюцию, конфиденциальность и прозрачность технологий. К 2027 году планируется сформировать реестр доверенных технологий искусственного интеллекта.
«Участие в Консорциуме по ИИ – это не только признание, но и большая ответственность, поскольку наши общие решения и выводы станут официальными правилами игры для целой перспективной отрасли. Уверен, что наработки и экспертиза компании «АйТи Бастион» на стыке ИБ и ИИ помогут на всех этапах работы Консорциума – от формирования концепции до разработки техзаданий и повышения квалификации практикующих специалистов», - заявил Сергей Бочкарёв.
В Консорциум по исследованию технологий ИИ входят несколько российских компаний-разработчиков и вузы, занимающиеся исследованиями в этой области. Организация создана при участии Академии криптографии, Института системного программирования Российской академии наук (ИСП РАН) и Национального координационного центра по компьютерным инцидентам.