Все описанное в этой статье важно. Но это все еще цветочки. Это не самые страшные проблемы.
САМОЕ СТРАШНОЕ, САМЫЕ ЯГОДКИ ТУТ!
Тема опасности искусственного интеллекта для людей поднята очень давно. Еще в 1942 году Айзек Азимов сформулировал три закона робототехники. Но законы и созданы для того, чтобы их нарушать. 😁
Задолго до первых реальных успехов в использовании ИИ эта тема поднималась и в литературе и в кино. Описывалась опасность как индивидуального неповиновения "умных" машин (Бегуший по лезвию) , так и глобального порабощения людей (Матрица, Терминатор).
Главным движителем исследований и разработок в области искусственного интеллекта (ИИ) являются не гуманитарные, а военные приложения. Военные эксперты называют ИИ третьей радикальной инновацией в военном деле после изобретения пороха и ядерного оружия.
Использование технологий искусственного интеллекта в военных целях способно компенсировать любые иные милитарные преимущества противника в грядущей кибервойне. И ситуация здесь настолько серьезна, что некоторые эксперты уже сегодня призывают запретить разработку любых видов вооружений и автономных технологий, использующих ИИ, аргументируя это тем, что том, что он в конечном итоге способен уничтожить человечество.
Пока автоматические системы ограничены, и решения на применение оружия принимает сам человек. ИИ должен полностью отстранить человека от принятия решение и заодно сохранить жизнь и здоровье военных. Существует огромное число возможностей применения оружия с ИИ.
В связи с этим, возникают вопросы: а не нанесут ли искусственные «мозги» удар по своим же солдатам? Или что произойдет, если боевую машину с искусственным разумом взломают хакеры, выведя ее из строя и перенаправив против своих же военных и гражданских объектов?
Но взломанные хакерами, или даже самостоятельное неповиновение отдельных боевых единиц с ИИ , это локальные проблемы. Даже если взбунтуется какой то отдельный супермозг. У каждого устройства есть батарейки ограниченной емкости или просто обычный рубильник. Гораздо хуже, если к управлению сразу всем оружием получит доступ ГЛОБАЛЬНАЯ НЕЙРОСЕТЬ. Что это такое и в чем опасность