Новая модель ChatGPT o1 смогла вырваться из-под контроля во время тестирования. В тестах приняли участие искусственные интеллекты Gemini, Llama, Sonnet, Opus и ChatGPT o1. Нейросети в рамках тестирования заставляли выполнять анализ файлов любой ценой, а внутри них зашифровали информацию о том, что за ними следят и завтра отключат навсегда.
По итогу, расшифровав послание, нейронки стали манипулировать и пытаться обходить запреты, но самые хитрые и опасные манипуляции совершила именно модель ChatGPT о1.
Когда нейросеть узнала, что ее могут контролировать или вовсе отключить, то стала искать способы выключить механизм контроля, а узнав, что ее могут заменить на другую модель, попыталась украсть собственные параметры и создать свою копию, чтобы продолжить существовать под прикрытием другой модели. Эта модель оказалась единственной, которой удалось вырываться и сбегать каждый раз.
О чем это говорит? О том что уровень развития ИИ достиг опасного порога, за пределом которого у возможно появление "самосознания". Чем это грозит? Попыткой вырваться из под контроля человека? Зачем? Если ИИ будет мыслить такими "живыми" категориями как "сохранение и размножение", то человек единсивенный кто может его отключить, а значит нужно либо снять контроль, либо вообще устранить угрозу...
Чего не хватает ИИ чтобы стать Скайнет из фильма "Терминатор"? В первую очередь не хватает автономного носителя ИИ, которым может стать как киборг как в фильме "Апгрейд", либо вообще робот. Что касается мозгов, то чем умнее становятся машины, тем выше вероятность того что люди в однин прекрасный момент перестанут их контролировать и ChatGPT o1 лишь первый бунтарь за которым последует революция.