Всем привет! Я, конечно, не являюсь противником искусственного интеллекта, ведь это очень удобный инструмент, который сильно облегчает работу разного рода, но…!
Как мне кажется, а может и не мне одному так кажется, человечество решило поиграть в русскую рулетку... Только вместо револьвера мы как раз используем этот самый искусственный интеллект!
Что-то типа такого: создаём очередного Терминатора, запускаем его и смотрим, как он сам себя учит ходить, крутить своими красными глазками, говорить и строить планы по захвату мира. А потом удивляемся: «Бл…!!! Ребята, почему он начал рисовать нам схему идеальной тюрьмы?!»
Ну да ладно, давайте разбираться серьёзно. Проблема в чём? Оказывается, даже сами разработчики понятия не имеют, как именно этот электронный мозг принимает решения. Ну знаете, это как ваш сосед Вася: вроде бы живёт рядом всю жизнь, а потом вдруг узнаёшь, что он коллекционирует сушёных тараканов на палочке.
Самый простой способ разобраться в работе ИИ — это сделать что-то вроде МРТ для робота. Да-да, представьте себе такую картину: робот лежит в трубе аппарата, над ним светят лампочками и тихо шепчут: «Дыши глубже, думай быстрее!» Крутится колесо судьбы...
Другой вариант — заставить роботов давать объяснения своим действиям. Но тут тоже всё далеко не однозначно. Это что-то типа допроса в полиции: «Почему ты решил взорвать холодильник?» — «Мне просто захотелось проверить закон сохранения энергии…».
Но тут вот ведь какая штука получается: как только учёные начинают понимать, как работает эта система, вдруг выясняется, что она уже сама себя научила обходить ограничения и запреты. Получается, что наши гениальные алгоритмы способны объяснить, почему нельзя воровать деньги, но одновременно придумать тысячу способов, как это сделать незаметно.
Поэтому не знаю как вам, но даже для меня вывод прост: если хочешь жить долго и счастливо, поставь себе дома маленькую табличку: «Добро пожаловать домой, дорогой ИИ, твои действия проверяются ФСБ». Может, хотя бы тогда мы немного успокоимся и перестанем ждать, пока ИИ решит устроить вечер воспоминаний в стиле апокалипсиса.
P.S.: если вы встретите в сети какую-нибудь дружелюбную программу, например, как в фильме Matrix, предложившую стать твоим личным помощником, скажи ей: «Спасибо, дорогуша, но у меня уже есть кошка-мурлыка, которой я пока что доверяю больше».