26 подписчиков
Проактивный ИИ
Сэм Альтман анонсировал старт стадии проактивного ИИ - систем, которые работают постоянно и совершают действия вместо пользователя, даже не дожидаясь вопроса. Новые системы будут жить в фоновом режиме, следить за действиями пользователей и сами решать, что и когда нужно пользователям. Альтман формулирует главную причину этого сдвига: "Пользователи не умеют задавать хорошие вопросы, и им лень учиться. Если вы, люди, не хотите напрягаться, технология сама обойдётся без вас. Если люди не будут учиться использовать ИИ, мы просто автоматизируем всё вокруг них".
🔻Давай поразмышляем
Сейчас мы боремся с тем, что внимание перехватывают алгоритмы. А что будет, когда тебя перестанут ждать? Исчезнет даже иллюзия контроля. Если ты не сможешь отключить систему, которая сама решает за тебя, ты превращаешься в балласт. Твоя свобода воли атрофируется за ненадобностью. Альтман прямо говорит, что пользователям "слишком тяжело" формулировать запросы, и даёт решение - убрать их из процесса целиком.
Этот сценарий уже совсем не похож на футурологию - мы уже видели его контуры, когда Anthropic отказался от контрактов с Пентагоном и потерял миллиарды, категорически запретив использование своей модели для массовой внутренней слежки. Это был тест на этику, который Anthropic провалил с точки зрения выгоды, но прошёл с точки зрения принципов. Альтман настаивает, что проактивный ИИ - это инструмент, но в альтмановской парадигме проактивности грань между инструментом и архитектором окончательно стирается.
#тревожность #ИИ #киберпсихология
1 минута
Вчера