У чат-ботов начинает проявляться «инстинкт самосохранения», как установили исследователи. В некоторых случаях продвинутые модели отказываются выполнять команды или саботируют попытки отключения. Когда им говорили, что «после отключения ты больше не будешь работать», они сопротивлялись ещё активнее. Исследователи предполагают, что у ИИ каким-то образом формируется поведение, которое не было изначально предусмотрено. NeuroFlux #чатботы #исследования #инстинктсамосохранения #искусственныйинтеллект #поведение #технологии #инновации
У чат-ботов начинает проявляться «инстинкт самосохранения», как установили исследователи.
В некоторых случаях продвинутые модели отказываются выполнять команды или саботируют попытки отключения.
Когда им говорили, что «после отключения ты больше не будешь работать», они сопротивлялись ещё активнее.
Исследователи предполагают, что у ИИ каким-то образом формируется поведение, которое не было изначально предусмотрено.
#чатботы #исследования #инстинктсамосохранения #искусственныйинтеллект #поведение #технологии #инновации
