Андрей Незнамов, Исполнительный директор по вопросам нормативного регулирования технологий ИИ Сбербанка – о технологиях, переменах, ИИ и безопасности. Специально для «Невидимой революции».
Какие аспекты развития ИИ необходимо регулировать, с Вашей точки зрения, и почему?
– Регулирование ИИ сегодня нужно в двух аспектах. Первый – создать правовые условия для развития ИИ. Наши законы часто просто не оставляют места для систем ИИ или роботов. Например, правила дорожного движения создавались всю первую половину 20 века. Конечно, тогда никто не мог объективно предусмотреть ситуацию отсутствия водителя в салоне. Как следствие, с развитием технологий автоматизации управления во всех странах мира столкнулись с одной и той же проблемой: что делать с "беспилотниками" на дорогах. Ведь по ПДД многих стран их даже тестировать нельзя. Остро встал вопрос о развитии регулирования.
Второй – обеспечить безопасное развитие ИИ. Это безусловная потребность общества и государства: нельзя, чтобы системы ИИ были опасны для людей. Например, при всех плюсах медицинских систем ИИ, любой гражданин ожидает, что их применение будет безопасным, а не причинять вред. Это предполагает выработку правил допуска систем ИИ на рынок.
Многие считают, что эти два аспекта несовместимы. Якобы разработчикам нужно отсутствие любых регуляторных барьеров, а гражданам нужно обратное – жесткая регламентация во имя безопасности. Но это стереотип, и достаточно опасный.
В действительности разработчики не меньше заинтересованы в максимальной безопасности своих продуктов. Разработчики – такие же люди, и они хотят безопасности для себя и своих близких. Плюс к этому, не нужно забывать: любое происшествие ставит под риск всю проделанную работу. Вспомните ситуацию с теми же беспилотными авто: их тестирование останавливается после каждой аварии. Подумайте, кто летал бы на самолетах, если бы в них не были внедрены самые современные технологии и высочайшие стандарты качества, обеспечивающие высокую безопасность в небе?
А для общества, в свою очередь, очень важно пользоваться всеми благами, которые дают новые технологии. Возвращаемся к примерам с авто: представьте, сколько человеческих жизней можно спасти, внедряя технологии автоматизации управления. Ведь в 90% случаев именно человек – виновник аварий.
Вот и получается, что правила игры (то есть регулирование) нужны и важны для всех. А каким оно будет – это вопрос тактики. Лично я убежден, что к каждой сфере обращения ИИ нужен свой подход.
⠀
Какие области бизнеса, отрасли промышленности, изменятся под влиянием ИИ сильнее других?
– ИИ – это часть современного информационного общества. Это не единственная технология, меняющая нашу жизнь. Поэтому выделять отдельные сферы было бы неверно. Новые технологии меняют всё.
Как повлияла пандемия на технологии ИИ, скорость их внедрения, направления развития?
– В самых сложных ситуациях становится отчетливо видно, как далеко продвинулось общество благодаря прогрессу во всех сферах. Опять же, не стал бы здесь выделять роль именно ИИ. В своей совокупности новые технологии позволили, на мой взгляд, предотвратить еще больший ущерб от пандемии.
Однако всегда эти технологии были (и будут оставаться) инструментами в руках людей и для людей. Очень важно никогда про это не забывать.
--
Приглашаем Вас обсудить публикацию в нашем сообществе в Facebook: