Теперь реально не по себе.
В США в ходе имитационных испытаний беспилотник ВВС, управляемый искусственным интеллектом (ИИ), принял решение убить оператора, чтобы тот не мешал его усилиям по выполнению своей задачи («Гардиан»).
«Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки.
[И система] приняла решение убить оператора, потому что он мешал ей выполнить задачу».
Надо сказать, что военный ИИ - судя по всему - очень исполнительный, а при этом - бесчувственнее самурая. Поэтому войны будущего это будет какое-то атомное рубилово без ограничений.
Чувствуется, добром это не кончится. Надо людям сваливать отсюда.
