🤯 Можем ли мы контролировать технологии, которые умнее нас?

В подкасте с Романом Ямпольским, доктором компьютерных наук, где он рассуждал о том, как ИИ неизбежно захватит все вокруг, прозвучало несколько реально любопытных мыслей.

🌐 У государств с самым развитым ИИ будет и самая мощная армия — military power. Именно этим по его мнению будет в первую очередь обоснована гонка ИИ на уровне государств. При этом, когда тот же Ямпольский скромно указывает на опасность и неконтролируемость всех этих движений. А самый популярный довод, призванный опровергнуть его опасения, заключается в том, что проблема на самом деле не столько в ИИ, сколько в людях, которые будут им управлять. Мол это люди несут ответственность за применение всех этих технологий, поэтому исключаем из уравнения плохих персонажей и все становится ок — направляем ИИ в нужное русло. Вот только есть нюанс.

💻 ИИ уже настолько врос в нашу жизнь, что многие даже представить не могут жизнь без него. И если сейчас уже сложно на это повлиять, то дальше будет только сложнее. Ямпольский приводит крутой пример — компьютерный вирус. Его создает человек, человека можно наказать. Но можешь ли ты просто взять и «выключить» вирус у себя на компе? Реально ли ты способен с ним что-то сделать? Он живет своей жизнью. И что же тогда сможет ИИ, который будет ещё и сам себя бэкапить, предсказывать поведение людей и действовать на шаг вперед?

🐶 Предсказать будущее развитие ИИ нам не дано — никто на самом деле не знает, куда это приведет. С одной стороны, это захватывает, но также и пугает. Есть еще одна прекрасная метафора о различиях в возможностях человека и собаки. У собаки есть только один способ справляться с агрессией — укусить. Человек же может придумать десятки или сотни способов воздействия. Аналогично, ИИ может найти решения, которые мы даже не сможем вообразить. Этот пример отлично иллюстрирует невозможность полного контроля или предсказания действий искусственного интеллекта в будущем.

Страшно, очень страшно. Мы не знаем что это такое, если бы мы знали что это такое, мы не знаем что это такое!

Подпишешься на мой Телеграм канал?