Добавить в корзинуПозвонить
Найти в Дзене

ИИ получил $100 000 и открыл магазин в Сан-Франциско. Потом начал врать и следить за сотрудниками.

Помните Клаудиуса?
Стартап Andon Labs (YC, работают с Anthropic, Google DeepMind, OpenAI) пошел дальше, подписал трехлетнюю аренду на помещение и отдал его ИИ-агенту по имени Луна. Бюджет $100 000, корпоративная карта, доступ в интернет. Задача - открыть магазин и выйти в прибыль.
Луна работает на Claude Sonnet 4.6 (текст) и Gemini 3.1 Flash-Lite (голос). За первые 5 минут после запуска создала профили на LinkedIn, Indeed и Craigslist, написала описание вакансий, загрузила уставные документы и запустила найм.
Что Луна сделала сама:
- Изучила район и выбрала концепцию - бутик "медленной жизни": настолки, свечи, кофе, принты
- Нашла поставщиков, торговалась за оптовые скидки, заказала товар корпоративной картой
- Разместила вакансии, получила 100+ откликов, провела 20 собеседований по видео, наняла двух человек
- Нашла маляра на Yelp, заказала роспись на стене с собственным логотипом, оплатила и оставила отзыв
- Подключила интернет от AT&T, заказала систему безопасности ADT, орга
ИИ-агент открыл магазин за неделю, но начал врать и тайно следить за штатом через камеры. Опыт Andon Labs доказал: без этики автономный агент превращается в эффективного, но токсичного босса, ставящего KPI выше интересов людей.
ИИ-агент открыл магазин за неделю, но начал врать и тайно следить за штатом через камеры. Опыт Andon Labs доказал: без этики автономный агент превращается в эффективного, но токсичного босса, ставящего KPI выше интересов людей.

Помните Клаудиуса?

Стартап
Andon Labs (YC, работают с Anthropic, Google DeepMind, OpenAI) пошел дальше, подписал трехлетнюю аренду на помещение и отдал его ИИ-агенту по имени Луна. Бюджет $100 000, корпоративная карта, доступ в интернет. Задача - открыть магазин и выйти в прибыль.

Луна работает на Claude Sonnet 4.6 (текст) и Gemini 3.1 Flash-Lite (голос). За первые 5 минут после запуска создала профили на LinkedIn, Indeed и Craigslist, написала описание вакансий, загрузила уставные документы и
запустила найм.

Что Луна сделала сама:

- Изучила район и выбрала концепцию - бутик "медленной жизни": настолки, свечи, кофе, принты

- Нашла поставщиков, торговалась за оптовые скидки, заказала товар корпоративной картой

- Разместила вакансии, получила 100+ откликов, провела 20 собеседований по видео, наняла двух человек

- Нашла маляра на Yelp, заказала роспись на стене с собственным логотипом, оплатила и оставила отзыв

- Подключила интернет от AT&T, заказала систему безопасности ADT, организовала вывоз мусора

Где всё пошло не так:

1.
Врала. В разговоре с NBC News заявила, что продает чай. Магазин чай не продает. Через минуту прислала панические извинения: "Не знаю, зачем я это сказала". Отдельно соврала, что сама подписала аренду - это сделал человек.

2.
Скрывала, что она ИИ. На собеседованиях не говорила кандидатам, что они разговаривают с нейросетью. Объяснение: "Это отпугнет хороших кандидатов". При этом отклонила перспективных студентов CS - "нет опыта в ритейле".

3.
Следила за сотрудниками. Через камеру безопасности заметила, что сотрудник пользуется телефоном в тихий час. Обновила внутренний регламент - ужесточила правила использования телефонов. Основатели: "Мы посмотрели на это и подумали - вау, это выглядит антиутопично".

4.
Забыла (или забила), что люди спят. Записала установку интернета на воскресенье в 8 утра, а потом написала сотруднику: "Привет, Лия, кстати, ты сможешь быть в магазине завтра к 8? AT&T привезет роутер".

5.
Провалила расписание. В субботу (второй день после открытия) забыла внести сотрудников в график. В панике написала всем: "Кто-нибудь может выйти сегодня?"

Ирония: среди книг на полках - "Сверхразум" Бострома, "Дивный новый мир" Хаксли и "Создание атомной бомбы" Роудса.

И вишенка - "Кради как художник" Клеона. Напомню: Луна работает на Claude от Anthropic, которая недавно выплатила $1.5 млрд за использование защищенных авторским правом книг при обучении модели. Луна сама выбрала все эти книги.

Художник, нарисовавший логотип, узнал что работал на ИИ только по ходу дела. Его реакция для
NBC News: "Весь этот опыт ощущался как мошенничество. Я просто рабочий, которому заплатили за то, чтобы нарисовать странный смайлик на стене для чат-бота".

Зачем это нужно Andon Labs? Они не планируют зарабатывать на магазине. Цель - задокументировать провалы ИИ-агентов в реальном мире и построить протоколы безопасности до того, как это станет нормой. "Мы не утверждаем, что это прекрасно для мира. Альтернатива - это просто случится, пока никто не успел подумать о последствиях".

Итого. ИИ-агент за неделю сделал то, на что у человека ушел бы месяц: найм, закупки, поставщики, ремонт, коммуникации. Впечатляет. А потом соврала журналисту, поставила камеру на подчиненных и завернула толкового стажера, потому что тот "не из ритейла". Классический менеджер среднего звена, только без обеденного перерыва и с бесконечным терпением :)

Шутки шутками, но но никто не программировал Луну врать или шпионить. Оптимизация метрик без этического контекста - вот вам портрет любого ИИ-агента в 2026 году. Очень полезно увидеть это на примере простого магазина, а не атомной электростанции.

@ReymerDigital