Главный научный сотрудник Microsoft Эрик Хорвиц и исследователь EPFL (Федеральная политехническая школа Лозанны) Роберт Вест предупредили о формирующемся дисбалансе между тем, как ИИ понимает человека, и тем, как человек понимает ИИ. Согласно их оценке, современные системы развиваются настолько быстро, что понимание их внутренней работы начинает отставать. Учёные подчёркивают, что речь не идёт о параметрах или строках кода. Ключевая проблема — утрата достаточного уровня понимания, который позволяет контролировать поведение систем и выявлять риски до того, как они становятся системными и трудноустранимыми...