«Ломоносов»: о доверенном искусственном интеллекте
В кластере "Ломоносов" в Москве проходит форум "Цифровая экономика: технологии доверенного искусственного интеллекта". При участии АНО «Национальный технологический центр цифровой криптографии», Академия криптографии РФ, ИСП им. В.П. Иванникова РАН и других участников сессии прошло обсуждение по теме «Доверенный искусственный интеллект». Модератором дискуссии выступил директор ИСП РАН Арутюн Аветисян.
Александр Шойтов, заместитель Министра цифрового развития, связи и массовых коммуникаций РФ:
Мы действительно активно участвуем в вопросах исследования информационной безопасности Искусственного интеллекта (ИИ) и, в частности, в проекте "Цифровая экономика" в области искусственного интеллекта. В течение двух лет мы проводим соответствующие исследования.
Искусственный интеллект и большие данные - это точки роста нашей экономики с учетом того, что у нас технологический приоритет.
Массовое внедрение ИИ дает эффект: чем больше внедряем - тем больше получаем рисков безопасности системы. Поэтому для надежного функционирования нужно доверенное и информационно безопасное ПО в вопросах ИИ, особенно в критических сферах.
Виталий Лютиков, заместитель директора ФСТЭК России:
Я думаю, что нам в ближайшие годы доверенный ИИ не светит. Мы должны в этой парадигме находиться при принятии решений о его использовании в тех или иных сферах и областях.
Если нарушения системы функционирования ИИ приводят к последствиям, которые определены соответствующим законодательством, то ее применять нельзя, какая бы она хорошая ни была. Если у нас в показателях определено, что может быть нанесен ущерб жизни и здоровью одного человека, то ее применять нельзя.
Максим Еременко, вице-президент – директор департамента развития технологий искусственного интеллекта и машинного обучения ПАО «Сбербанк»:
С последние месяцы случилось несколько важных вещей. Первое - революция ChatGPT. Мы как компания, которая занимается большими лингвистическими и генеративными моделями в партнерстве с научным сообществом, видим в этом не только возможности, но и угрозы.
Второй момент - контент на выход. Его, очевидно, тоже можно фильтровать условиями и правилами, можно обучать модель цензора, который будет помогать основной модели фильтровать то, чего нам не хотелось бы видеть на выходе.
Безусловно, правила должны быть определены по мере того, как это все развивается, применяется и масштабируется на разные сегменты. Конечно, и государство, и профессиональное сообщество вместе с научным должны делать выводы из этого.
Сергей Голицын, вице-президент, заместитель руководителя департамента анализа данных и моделирования «Банк ВТБ»:
Для банка уровень доверия - это цифра, уровень модельных рисков. Модельный риск - это тип потери, который банк может понести при реализации определенных сценариев. Банк очень серьезно рассматривает вопрос регламентации управления работы с данными, разработки модели и их применение, мониторинга и валидации. Это достаточно сложный процесс.
Анна Серебряникова, президент Ассоциации больших данных:
Мы должны опираться на то, что мы защищаем российский бизнес. В этом аспекте очень важно выстраивать правильный диалог и взаимодействие с государством. Мы пошли на эксперименты в технологической сфере не от хорошей жизни, а от того, что боялись, что регуляторика остановит технологический прогресс. И это то, что мы сейчас не можем себе позволить допустить.
Возможности роста экономики лежат именно в цифровой сфере. И поэтому регуляторика не должна мешать нашим крупнейшим компаниям и государству развиваться. И это то целеполагание, которое мы должны положить в основу установления каких-либо правил и ограничений.
Андрей Духвалов, вице-президент, руководитель управления перспективных технологий Лаборатории Касперского:
Обсуждение термина "доверие" почему-то очень остро встало именно с приходом технологи ИИ. Оно и раньше обсуждалось, но такую остроту приобрело именно с приходом машинного обучения. Это происходит, потому что эти технологии оказались настолько эффективными, они проявляют себя с положительной стороны в огромных направлениях нашей жизни. Они достаточно быстро принимаются и бизнесом, и обществом для достижения каких-то своих положительных целей.
Материал в нашем Телеграм-канале: https://t.me/scienpolicy/32755
