Очень интересный случай произошёл на имитационных испытаниях с использованием ИИ в США (ИИ – искусственный интеллект). Читаем новость.
«Система убила оператора»: управляемый искусственным интеллектом американский военный дрон взбунтовался
В ходе имитационного испытания, организованного американскими военными, беспилотник ВВС США, управляемый искусственным интеллектом, «убил» своего оператора, чтобы тот не мешал его усилиям по выполнению своей миссии, заявил чиновник.
Как пишет The Guardian, ИИ использовал “весьма неожиданные стратегии для достижения своей цели” в имитационном тестировании. Об этом рассказал полковник Такер "Синко" Гамильтон, начальник отдела тестирования и эксплуатации ИИ в ВВС США, во время саммита по будущим боевым воздушным и космическим возможностям в Лондоне в мае.
Полковник Гамильтон описал имитационный тест, в ходе которого беспилотнику, оснащенному искусственным интеллектом, было рекомендовано уничтожить системы противовоздушной обороны противника, и он атаковал любого, кто нарушал этот приказ.
В реальности никто не пострадал, но вы поняли, что так простенько и со вкусом можно создать программу для решения поставленной задачи, а она начнёт сводить счёты с оператором, который, по мнению ИИ, мешает ей решить поставленную задачу.
Нас убеждают, что ИИ не может сделать открытия в науке, так как он всего лишь молниеносно перебирает возможные варианты, сравнивает их, выбирает наиболее подходящий для решения поставленной задачи, но чего-то принципиально нового ИИ создать не может.
Для ИИ можно найти много полезных применений. Вот в одном регионе России решили, что ИИ поможет отремонтировать дороги… Может, и поможет. Но эта игрушка весьма опасна и может огорчить своих создателей, приняв неожиданное для них решение, что и произошло в имитационном испытании. А в других сферах не может произойти аналогичное «восстание машин»? Как бы не заиграться с ИИ.
Тем более, что у нас ИИ хотят поручить обучение наших детей.
