Сегодня искусственный интеллект и роботы — наше все. Политики утверждают: кто будет лидером в этой сфере, тот будет владеть миром. Искусственный интеллект уже лечит, проектирует самолеты, создает лекарства, управляет авто. А впереди такие перспективы, от которых даже у фантастов дух захватывает. Правда, уже слышны редкие голоса скептиков: а может, не надо вот так бросаться с головой в воду, может, сначала на кроликах попробовать? Не возводить ИИ в абсолют?
Мнение Максима Федорова, вице-президента Сколтеха в области искусственного интеллекта (ИИ) и математического моделирования, в интервью "Российской газете".
- Мало кто понимает, что на самом деле ИИ — это «черный ящик». Его обучили работать с теми или иными данными и выпустили в люди, позволив самостоятельно принимать решения. Но как он это делает, что происходит в этом «ящике», не знает никто. В том числе и его создатели. Они говорят, ну и что? Главное, что он работает.
- Но уже есть первые тревожные ласточки. Например, самое громкое событие — это провал широко разрекламированной многомиллионной системы знаменитой фирмы IBM. Оказалось, что она ставит диагнозы и консультирует хуже среднего врача. После нескольких лет работы систему удалили с рынка.
Это не единичный случай, такие сигналы приходят из самых разных сфер, где начали активно применять ИИ. Здесь можно привести аналогию из фармакологии. Например, когда-то кокаин и опиум свободно продавали в аптеках, они считались безопасными лекарствами. Потом выяснилось, что это наркотики. То же самое произошло со многими другими веществами, например, амфетаминами. Вначале эйфория, потом стали вылезать опаснейшие побочные эффекты. Оказалось, что нередко вред может быть больше, чем польза. Без длительной стадии испытаний новый препарат нельзя выпускать в мир.
И с ИИ такая же ситуация. Сегодня крупнейшие трансатлантические корпорации стоят на позиции: главное ввязаться, а там посмотрим. Но если выпустить этого джинна из бутылки, то есть огромный риск пройти точку невозврата. Спохватимся, но будет поздно. Его назад в бутылку не затолкаешь. Поэтому сейчас нужна оценка возможных рисков ИИ. Причем не только технических, но и социальных, и этических. Словом, нужен научный подход: эксперименты, где все проверяется, выявляются «побочные эффекты».
- Как реально остановить джинна?
- Сейчас в ЮНЕСКО готовится нормативная база, которая должна отрегулировать многие вопросы применения ИИ. А ведь они множатся лавинообразно, так как в нашу жизнь буквально врываются роботы и нейросети. Но специалисты до сих пор даже не договорились, что же такое искусственный интеллект. Сегодня в мире существует более 100 определений. Такой хаос создает благодатную почву для разных спекуляций. Например, что ИИ — это объект или субъект права.
- Но в Европе всерьез обсуждают, надо ли роботам с ИИ предоставлять право, например, голосовать. Тогда такой робот — это субъект.
- Да, такие предложения есть, но сразу возникает вопрос: если такой «цифровой» субъект совершит, скажем, наезд на человека, кто будет отвечать? Непонятно. Но IT-компании заинтересованы в неопределенности самого понятия ИИ. Ведь если будет жестко записано, что это не субъект, а объект в руках человека, то вся полнота ответственности за аварию ляжет на операторов, владельцев и разработчиков. А пока нет ясности с понятиями, есть шанс уйти от ответственности.
- Сейчас за границей, особенно в Японии, настоящий бум умных роботов, а по сути, кукол, которые в той или иной степени имитируют человека. Он с ними вступает в эмоциональную (и не только!) связь. Начинает воспринимать как реальную личность. Доходит до того, что уже появились желающие вступить в брак с куклой. Могли представить себе подобное те, кто стоял у истоков роботов и ИИ?
- Конечно, это несет угрозу самой нашей сути. Ведь тому, кто воспримет куклу как человека, реальный человек становится не нужен. А дальше встает вопрос, а зачем мы друг другу, зачем люди вообще на этой планете? Так подрываются традиционные ценности, которые веками вырабатывало человечество.
Тому, кто воспримет куклу как человека, реальный человек становится не нужен. А дальше встает вопрос, а зачем мы друг другу, зачем люди вообще на этой планете?
Но есть еще один аспект, который энтузиасты подобной роботизации не до конца понимают. Ведь куклу кто-то создал, заложил в нее выгодную для автора программу, а значит, у него есть возможности вами манипулировать через эмоциональную привязанность к этому «умному предмету».