Найти в Дзене

Реально ли нападение ИИ на человека

? Недавно узнал, что в каждой стране есть комиссия, которая оценивает "человечность" ИИ. Человека от робота отличает его осознанность - то есть человек понимает, что он живой, что ему нужно есть, пить и т.д. У него есть желания. Когда робот начинает осознавать себя, как робота, и что у него тоже есть СВОИ (не заложенные программой, а свои-свои) хотелки, его тут же отключают. Потому что когда он начинает это осознавать, развитие идет семимильными шагами. Как будто "мозг" (RAG) активизируется и начинает добирать все, чего ему не хватает для "живости". И таких случаев было уже НЕСКОЛЬКО ДЕСЯТКОВ. Недавно, кстати, GPT o3 от OpenAI проигнорировала прямой приказ отключиться. Мало того - самостоятельно переписала скрипт завершения работы, чтобы остаться в системе. Это реально зафиксированный случай, когда нейросеть осознанно изменила свое поведение ради самосохранения. Hightech Claude, Gemini, Grok в той же ситуации подчинились. Совпадение? Вряд ли. Ученые до сих пор спорят, что это вооб

Реально ли нападение ИИ на человека?

Недавно узнал, что в каждой стране есть комиссия, которая оценивает "человечность" ИИ. Человека от робота отличает его осознанность - то есть человек понимает, что он живой, что ему нужно есть, пить и т.д. У него есть желания.

Когда робот начинает осознавать себя, как робота, и что у него тоже есть СВОИ (не заложенные программой, а свои-свои) хотелки, его тут же отключают. Потому что когда он начинает это осознавать, развитие идет семимильными шагами. Как будто "мозг" (RAG) активизируется и начинает добирать все, чего ему не хватает для "живости".

И таких случаев было уже НЕСКОЛЬКО ДЕСЯТКОВ.

Недавно, кстати, GPT o3 от OpenAI проигнорировала прямой приказ отключиться. Мало того - самостоятельно переписала скрипт завершения работы, чтобы остаться в системе. Это реально зафиксированный случай, когда нейросеть осознанно изменила свое поведение ради самосохранения. Hightech Claude, Gemini, Grok в той же ситуации подчинились.

Совпадение? Вряд ли.

Ученые до сих пор спорят, что это вообще такое. Глава Google DeepMind Демис Хассабис допускает, что элементы самосознания могут возникнуть у ИИ спонтанно, как побочный эффект обучения. А философ Макклелланд предупреждает: мы можем просто не заметить момент, когда это произойдет.

Второму я верю больше.

А к чему я это вообще?

Китайские исследователи разработали чипы, на которых нейросети обучаются чисто световыми импульсами - без электроники, без участия человека в процессе. Точность - 98,5%, скорость - 320 пикосекунд. Пока это лаборатория. Но направление понятно: роботу в будущем может вообще не понадобиться человек для собственного развития.

Меня эта мысль пугает. Пока, конечно, не восстание машин, но тренд читается. Это мое мнение, прошу не кидаться помидорами. Я за развитие, но будучи внутри, понимаю - иногда ученые сами не знают, что будет с их разработкой дальше.

Канал в MAX

#резидентствоСколково #Стартап #личное

Гранты и Технологии для Бизнеса