Страхи перед Искусственным интеллектом - это не страхи перед новой технологией вроде того, как когда-то люди боялись фотографироваться. Тут совсем другое.
На днях специалисты по ИИ опубликовали памятку для журналистов, чтобы те не писали всякую чушь. Смысл примерно такой.
Нет никакого отдельного ИИ (an AI).
Это вам не Скайнет и не Матрица, т.е. не автономные системы. ИИ - это набор методов и идей для создания софта, который решает определенные задачи (играет в шахматы, в го, в Starcraft, рисует кошечек и т.п.). Чаще их называют системой машинного обучения.
Новость про то, что робот-рука научился собирать кубик Рубика, надо понимать так: люди разработали технологию, способную управлять робопальцами, чтобы те собрали кубик Рубика.
Важно понимать: робот НЕ додумался до того, как собрать кубик Рубика, достижение в том, что ученые научились контролировать его руку таким образом, чтобы он совершил последовательность действий, ведущих к собиранию кубика.
Учится не ИИ, его учат
Да, система способна самообучаться, но данные для нее подбирают люди, т.е. система научится только тому, чего в нее загрузят. И большинство систем ИИ сегодня способны решать только одну конкретную задачу: управлять автомобилем или писать стихи, например.
Важны детали
Если пишут, что ИИ научился писать книги, приглядитесь, скорее всего окажется, что система смогла составить пару непротиворечивых предложений.
Авторам стоило пояснить, что они имеют в виду так называемый слабый ИИ, т.е. методы автоматизации обычных интеллектуальных задач. А страхи и вся эта новостная фантастика связаны с сильным ИИ, он же artificial general intelligence, т.е. системой, подобной человеку - способной решать самые разные задачи. Разработка сильного ИИ сейчас находится в самой начальной стадии. Более того, если сравнить человеческий мозг и самый мощный компьютер, то получается следующее. В мозге человека около 150 квадриллионов триггеров транзисторов, процессор Sparc-M7 имеет 10 млрд транзисторов, вентильная матрица FPGA содержит до 20 млрд транзисторов. Только архитектура разная.
Ник Бостром выделяет еще Искусственный сверхразум: интеллект, превосходящий лучшие умы человечества во всех областях, включая научную изобретательность, здравый смысл и социальные навыки.
Но ничего этого пока нет, вокруг только слабый ИИ, который может нести угрозу преступникам, чьи лица распознают камеры в метро, или уйгурам в Китае.
Проблема создания сильного ИИ связана с отсутствием пока достаточных вычислительных мощностей и - самое главное - отсутствием понимания как его сделать. На сегодняшний день есть три главных подхода к решению этой задачи:
1. По образу и подобию: т.е. копировать человеческий мозг.
Пока удалось эмулировать миллиметрового плоского червя.
2. Эволюция. Т.е. закладывать в систему программы, неудачные будут отсеиваться, успешные/лучшие будут меняться, отдавать часть кода потомству. Проблема в том, что эволюционные изменения занимают многие годы, если не больше.
3. Самообучение.
Идея в том, чтобы создать компьютер, у которого будет два основных навыка: исследовать искусственный интеллект и вносить изменения в свой собственный код. Это позволит ему не только больше узнавать, но и улучшать собственную архитектуру.
Основной аргумент сторонников появления сверхразума сводится к тому, что нас ожидает взрывное развитие ИИ. Сейчас ничто не предвещает, пару лет и бац - привет, Скайнет. Это может случиться, по оценкам ученых, примерно к 2040 г.
Шахматы из другого измерения. Информация к размышлению
В шахматную программу AlphaZero заложили правила игры. После этого она сама себя обучала в течение 24 часов, после чего стала лучшим игроком в шахматы в мире.
Еще интереснее то, что ее игра непохожа на игру великого гроссмейстера или существующей программы. Смотря на ее ходы, шахматисты (и люди, и программы) находят их противоречащими здравому смыслу или даже просто неверными.
Авторы этой статьи из приводят интересное предположение. ИИ, внедренный в систему обороны, будет использоваться в разработке новых вооружений, стратегий и тактик. Если мы сейчас не очень понимаем, что внутри AlphaZero, то противник не будет также знать, что там внутри ИИ, и это станет стратегическим преимуществом. Система ядерного сдерживания основывается на том, что мы знаем, на что способны другие обладатели ядерного оружия. А если бы не знали?
А что если возможное развитие ИИ в его симбиозе с человеком? Ведь не только ИИ очеловечивается, но и человек превращается в киборга.