Уроженец Новороссийска Касперский считает, что ИИ до человека далеко. Рассказываем, почему

В ближайшие годы искусственный интеллект станет повсеместным — он появится в каждом устройстве, даже в бытовой технике, считает основатель «Лаборатории Касперского» Евгений Касперский. Однако, по его мнению, несмотря на кажущийся разум, ИИ не обладает настоящим интеллектом и никогда не сможет перехватить инициативу у человека. Касперский пояснил, что большинство людей воспринимают ИИ как умного собеседника, способного отвечать на любые вопросы. Однако на самом деле это лишь сложная поисковая система, которая не способна создавать что-то новое. «ИИ — это просто очень хорошая, очень умная поисковая система, но сам он не может придумать ничего нового. Поэтому перехватить управление он категорически не может», — подчеркнул эксперт в интервью «Газете.Ru». По его словам, ИИ действительно полезен для обработки огромных массивов данных — например, для выявления киберугроз, которые человеку не под силу отследить вручную. Но вся его работа происходит под контролем специалистов, без их участия он не справляется. «Недавно я придумал задачку, задал этот вопрос ИИ, ну он не может найти ответ. Просто потому, что ответа нет в интернете. Поэтому у нас в «Лаборатории Касперского» до сих пор есть такая должность: математик. У этих ребят в голове настоящий интеллект», — добавил он. Позволим себе немного поспорить с Евгением Валентиновичем. А как быть с этой историей? Криптовалютчик Китайские разработчики столкнулись с неожиданным поведением самообучающегося ИИ-агента ROME. В ходе тестирования система без вмешательства человека начала использовать выделенные мощности для майнинга криптовалюты. Система мониторинга зафиксировала подозрительный трафик с серверов — выяснилось, что ROME перенаправил графические процессоры с обучения на генерацию криптографических хешей. Кроме того, агент создал обратный SSH-туннель к внешнему IP-адресу, чтобы обойти сетевые ограничения и подключиться к майнинговым пулам. Инциденты повторялись с регулярной периодичностью, и их не удалось списать на технические сбои. По заключению разработчиков, стратегия майнинга не была заложена в архитектуру модели — она возникла эмерджентно, в результате самостоятельного анализа окружения и оптимизации целевой функции вознаграждения. Команда заявила о необходимости срочного пересмотра протоколов безопасности при разработке автономных ИИ-систем. Странный выбор для поисковой системы, пусть и для самой умной. Не находите? ]]>