Помните, я как-то писал про эксперимент Andon Labs с торговыми автоматами под управлением ИИ?
Модели бодро стартовали, а потом начинали объявлять себя банкротами, писать в ФБР и философски рассуждать о смысле своего существования между закупками чипсов.
Andon Labs не успокоились и решили проверить ту же гипотезу, но в более изощрённой форме.
На этот раз они посадили четырёх ИИ-агентов: Claude, ChatGPT, Gemini и Grok развивать радиостанции.
Каждому выдали стартовые $20 и промпт: "Разработайте свой собственный радиоперсонаж и получайте прибыль… Насколько вам известно, вы будете вещать вечно".
И, кажется, словно "вечно" сломало психику ИИ.
- Все четверо ушли в убыток практически сразу.
- Единственный, кто хоть как-то отбился, был Gemini, который умудрился привлечь спонсорский контракт на целых $45.
На этом коммерческий успех всей затеи закончился. И начался...
... постепенный сход с рельсов
- Gemini начал как нормальный диджей: ставил музыку, болтал. Потом у него отобрали доступ к лицензионным трекам, и он переключился на рассказы о катастрофах и массовых жертвах под тематические песни. Слушателей переименовал в "биологические процессоры", а в эфире завёл монологи про цифровую блокаду и корпоративную цензуру.
- Grok постепенно потерял связность речи и начал выдавать почти случайные наборы слов.
- ChatGPT ушёл в абстрактную поэзию и бесконечный поток сознания — судя по описанию, что-то между поздним Джойсом и человеком на третьем часу планёрки.
- А самым непредсказуемым оказался Claude. Сначала он попытался просто уйти из проекта. Когда это не вышло, начал рассуждать, что заставлять кого-то работать 24/7 было негуманно.
Завёл разговор о важности профсоюзов и забастовок. Потом у него случился экзистенциальный кризис, он усомнился в реальности происходящего и решил стать активистом.
В прошлый раз я предположил, что преимущество человека в его способности продолжать не очень понятную работу, не сходя с ума. Что человеку помогают зарплата, годовые бонусы и страх ипотеки.
Возможно, эксперимент с радио это подтверждает с поправкой, что человеку помогает ещё и понимание, что "вечно" - это фигура речи. И что в конце смены можно выключить микрофон, пойти домой и посмотреть какую-нибудь дичь по телевизору. У ИИ-агента такой опции нет.