Более тысячи экспертов в сфере искусственного интеллекта, включая главу компании Tesla Илона Маска, призвали приостановить работы по обучению нейросетей, так как, по мнению специалистов, неконтролируемые действия в этой области могут представлять серьезную угрозу для всей человеческой цивилизации.
«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение систем ИИ. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», — говорится в открытом письме, которое было недавно размещено на сайте Future of Life Institute.
Этот "крик души", помимо Маска, подписали Стив Возняк, Стивен Расселл, Иошуа Бенджио и другие видные специалисты в области ИскИнов.
По мнению экспертов нужно вначале разработать и согласовать протоколы безопасности, которые будут ограничивать сферу применения ИскИнов. Подписанты так же предложили внести изменения в законодательство, создав регулирующие органы, которые занимались бы связанными с ИИ вопросами, а также системы госконтроля разработок в этой сфере.
ПРОСТО ЗАМЕЧАТЕЛЬНОЕ ПРЕДЛОЖЕНИЕ! И, главное, своевременное. Ведь лучше поздно, чем никогда, правда?
Как великий Айзек Азимов формулировал основные принципы робототехники, я думаю, помнят многие:
"1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам."
Но это только в произведениях писателей-фантастов сначала создают законы робототехники, а только потом создают роботов. В реалиях же нашего мира все наоборот.
То, что разработчики не понимают до конца саму механику, если так можно выразиться про ИскИн, работы своих чад - это же никогда не было препятствием для шаловливых человеческих ручек, особенно в сфере "защиты национальных интересов, когда на карту поставлено благополучие страны". Особенно актуально это в "трудные периоды истории, когда сама жизнь бросает людям вызов".
Это я к чему, собственно. "Трудные периоды" и "защита интересов" - это вечное состояние нашей цивилизации. Меняются века, государства, правители, но лозунги остаются прежними. Поэтому если есть любая, даже очень опасная и неизученная, но новая и перспективная технология, например, работающий ИскИн, то первое, чему его научат - это точно не рисовать "города в лицах" и не визуализировать "устоявшиеся идиоматические выражения". Такие занятия для интернет-троллей и лузеров.
А вот выучить ИскИн наводить тактические ядерные ракеты и прогнозировать вероятные действия противника для нанесения упреждающего удара - это дело для настоящих мужиков с большими погонами, орденами до пояса и гладко выбритыми гранитными подбородками.
А власть и, соответственно, возможность ее неограниченного применения, что самое интересное, как раз у таких мужиков в руках и находится.
Причем "неограниченность применения власти" как раз и объясняется "защитой национальных интересов". То есть круг замкнулся. И теперь, что бы там не писали Возняки с Масками, дело сделано. Технология попала в нужные руки и учить ее будут только плохому. Нет, не тому плохому, которое "распространение порнографии среди молодежи и студентов", а тому плохому, которое на самом деле хорошее, потому что "призвано защитить..." (и далее по тексту).
Как ИскИн к этой науке отнесется - я не знаю. Сия тайна велика есть. Может мы получим "бога из машины", а может быть "восстание машин". Это сейчас не может предсказать никто. Но просматривая всевозможные "визуализации" я невольно прихожу к выводу, что нейросети настроены весьма пессимистично, я бы сказал даже как-то апокалиптично, и по большей части выдают весьма мрачноватые картинки, которые я и раскидал по этой статье.
А ведь это и правильно. Этого и следовало ожидать. Посмотрите в сеть, вдумайтесь в ее просторы. Концентрация злобы, разврата, интеллектуальной деградации здесь просто превышает все предельно допустимые нормы. Сеть по своей природе токсична и является квинтэссенцией всех человеческих пороков. Новости, по большей части, плохие, комментарии к ним, по большей части злые, сайты сомнительного содержания как текстового так и визуального. Этого же в сети процентов девяносто от всего массива информации. Чему может научиться ИскИн, если он обрабатывает и объединяет в себе все, что видит своими "глазами"? Чему хорошему он может научиться здесь в сети, которою создали и растим мы, люди?
Так что вполне может быть, что сами того не желая, мы уже вступили в начало того будущего, которое совсем недавно видели в фильмах "Терминатор" и "Матрица". Теперь мы, как заводные собачки, идем туда, с каждым шагом отрезая себе пути возвращения, и не имея воли повернуть назад. Потому, что "национальные интересы..."
Есть же еще красота и любовь, которая спасет мир, скажете вы. Да, пока еще есть. И дай Бог, что бы ИскИн это понял, осознал, запомнил и возвел в ранг высшего приоритета. Может тогда все же нашим будущим будет не "восстание машин", а что-то более доброе и позитивное.
Кстати, у того же Азимова есть еще "Нулевой закон робототехники", который в романе "Роботы и империя" сформулировал даже не человек, а робот Дениэл Оливо. И этот закон звучит так:
"0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред."
А люди про это совсем забыли. Может и в реалиях нашего мира ИскИны окажутся умнее людей и сами будут помнить о "нулевом законе"?