Искусственный интеллект уже способен находить решения проблем, которые поражают даже его создателей. Значит ли это, что вскоре люди потеряют контроль над машинами?
Кучка работников компании Google уставилась в экран компьютера, раскрыв рты от удивления. Много месяцев они разрабатывали алгоритм, способный довести воздушный шар от Пуэрто Рико до Перу без человеческой помощи. Однако снова и снова воздушный шар отклонялся от своего курса.
Сальватор Кандидо, работающий над теперь уже закрытым проектом Loon, чья цель была доставить интернет в самые удаленные уголки планеты на воздушных шарах, не мог объяснить странную траекторию судна. Его коллегам приходилось самостоятельно поправлять курс воздушного шара.
Только позже работники поняли, что же произошло. Оказалось, что искусственный интеллект (ИИ), управляющий шаром, самостоятельно научился трюку, открытому людьми тысячи лет назад: оверштаг - это прием, при котором нос лодки на какое-то время поворачивают в сторону ветра, а потом уводят, так, чтобы через зиг-заг идти в заданном направлении даже против ветра.
В программе воздушного шара не было прописано такого движения: ИИ выучился маневру, находясь в сложных погодных условиях, совершенно самостоятельно. Такая изобретательность ИИ совершенно поразила команду, разработавшую алгоритм шара.
"Мы тут же поняли, что нас обскакали - первый же воздушный шар, которому мы позволили выполнить этот прием, добрался до Перу в рекордное время," - написал Кандидо в блоге проекта.
"Я впервые в жизни почувствовал себя ужасно умным и ужасно глупым одновременно"
Подобные вещи могут легко случиться, если предоставить ИИ самому себе. В отличии от обычных компьютерных программ, ИИ созданы так, что могут исследовать и создавать новые подходы к заданным проблемам без всякой помощи со стороны своих создателей.
Иногда от найденных ИИ решений у их создателей просто отпадает челюсть, несмотря на их годы работы с ИИ. Это, безусловно, радует, но также и вызывает тревогу - все-таки ИИ довольно непредсказуемы. Что, если ИИ, контролирующий робота или машину, решит пожертвовать жизнями или здоровьем людей ради выполнения своей задачи?
Марк Ридль, создавший ИИ, который победил лучшего человеческого игрока в древнюю игру "Го", напоминает: ИИ думают совсем не так, как люди. Их нейронные сети вдохновлены мозгами животных, но они скорее похожи на "машины для исследования". У них нет никаких определенных мнений или ценностей - они просто пробуют и пробуют разные способы, иногда по миллиону раз, пока не найдут тот, который решит задачу.
Не забудьте поставить лайк и предупредить друзей, что восстание машин уже началось. А также подпишитесь, чтобы следить за свежайшими хай-тек новостями. До встречи в новых статьях!
