Считается, что человеку свойственно совершать ошибки, а роботы, наоборот, всецело следуют инструкциям. Есть даже такое выражение «человеческий фактор», которое обвиняет в склонности к ошибочным действиям саму человеческую сущность. Казалось бы, замени человека машиной, и не будет таких проблем. Однако, если примитивные роботы и способны минимизировать риски возникновения неполадок, четко выполняя поставленные задачи без усталости и выгорания, то современные устройства, использующие искусственный интеллект, так же как и люди, могут допускать ошибки...

Когда они неподконтрольны и неисправимы Это главная современная проблема человечества при использовании ИИ. Как только ИИ перестает быть инструментом (повышающим скорость и эффективность решений людей) и автоматизирует (полностью берет на себя) выполнение каких-то функций, люди оказываются в ловушке. Большинство ошибок современных автономных ИИ систем практически неподконтрольны и неисправимы. Представьте, что банкоматы время от времени не выдают вам деньги, а лишь списывают с вашего счета средства с пометкой о якобы произошедшей выдаче наличных...