На Конгрессе молодых ученых, проходившем 8 декабря в Сочи, очень интересную лекцию прочитал директор Центра науки, инноваций и образования по научным и инженерным вычислительным технологиям для задач с большими массивами данных Сколковского института #науки и #технологий Максим Федоров.
В ходе лекции, которая называлась «Искусственный интеллект: социальные, культурные и научные аспекты внедрения технологий» он рассказал о том, какую опасность несет в себе #автоматизация автомобилей.
«Это довольно опасная тема», - сказал Максим Федоров.
Он уверен, что автоматизация автомобилей несет большое количество положительных моментов. Автомобили стали более безопасными, в них очень много систем, которые предотвращают столкновения, помогают водителю.
«Но если мы совсем людей исключаем из системы, если мы выпускаем на улицу, положим, десятки, сотни, миллионы беспилотных автомобилей, то что может произойти? Произойти может одна нехорошая вещь: перехват управления. Перехватить сознание миллионов водителей пока технически невозможно.
Коллеги нейробиологи работают над этим, но пока все-таки мы считаем, что влезть в сознание человека так уж напрямую технически невозможно. Вот поэтому один конкретный человек может много нехорошего сделать, находясь за рулем автомобиля, но это все-таки локальная история, как бы не было иногда печально», - заявил эксперт.
Перехватить же управление всем флотом беспилотников технически можно. И сейчас есть масса примеров, когда сильно #беспилотники даже с участием человека были атакованы #киберпреступниками, был перехват управления.
«Я считаю, что еще рановато массово внедрять, потому что не решен этот базовый вопрос кибербезопасности. И то же самое касается всех остальных компьютерных систем принятия критических решений», - сказал Максим Федоров.
Он делает выбор о том, что человек, а не искусственный интеллект, должен быть критическим компонентом системы принятия решений.
«Это базовая опасность этой концепции. Если мы переложим многие критически важные решения по безопасности по медицинскому вмешательству, по каким-то юридическим моментам на полностью автоматизированные системы, то тем самым мы уберем субъектность, мы уберем усталость, непрофессиональность и так далее.
Но базовый момент - это перехват управления, поэтому все-таки мы в экспертных группах считаем, что человек должен оставаться критическим компонентом системы принятия любых важных решений», - сказал Максим Федоров.
Алгоритмы должны остаться инструментом, помогающим человеку, считает он.
