О том, что ИИ далёк от идеала, всех ещё в конце года предупредили словари. Например, Merriam-Webster словом 2025-го года выбрали именно контент низкого качества, продукт ИИ (AI slop - подробнее здесь).
🥤 Уже и Кока-кола попалась на удочку финансово привлекательной замены людей на ИИ и в итоге огребла по полной за свою ИИ-сгенерированную рекламу на Рождество.
И вот, руководство крупной компании Salesforce тоже вошло в кураж и со словами «нам нужно меньше голов» уволило 4000 сотрудников, будучи уверенными, что их с лёгкостью заменит супер-современный ИИ.
Но недавно они выступили с неожиданным признанием: «Год назад мы были намного увереннее в этих умных моделях, чем сейчас». Короче, они об этом пожалели.
Что же пошло не так?
Оказалось, что «гениальные» языковые модели Agentforce в реальной работе вели себя странно:
🎄 Не слушались команд. Если дать больше 8 заданий, они начинали часть из них просто игнорировать.
🎄 Легко отвлекались. Чат-бот, который должен помогать заполнять форму, мог вдруг уйти в философские дебаты о погоде, если клиент задавал случайный вопрос. А что, очень по-английски: small talk о погоде – это ведь классика.
🎄 Работали «на отшибись». Клиенты жаловались, что система иногда просто забывала отправить клиенту обещанный опрос без причин и объяснений.
Salesforce решил сделать резкий разворот. Вместо того чтобы надеяться на «творческий» и непредсказуемый ИИ, они теперь делают ставку на старую добрую надёжность. Их новый лозунг: «ИИ должен работать по правилам». Они хотят соединить ИИ с точными данными и чёткими инструкциями, чтобы он не выдумывал лишнего и делал только то, что от него ждут. В общем, всё ещё надеются, что не придётся брать назад все 4 тысячи сотрудников.
Самое забавное, что момент прозрения наступил уже после того, как живых людей заменили недоработанным ИИ-сервисом. Теперь инвесторы начинают коситься на компании, которые гордо сокращают «ради ИИ», а пользователи - мечтать просто дозвониться до живого оператора.
🤖 Ну да, ИИ - это местами мощный инструмент, но он пока не может заменить собой всю сложность человеческого мышления и надёжность старых проверенных систем. Будущее, видимо, не за полным замещением людей, а за умным сотрудничеством человека и «приручённого» ИИ, который работает по понятным правилам. Если повезёт.
Если ваш работодатель обещает, что ИИ «освободит вас для более креативных задач», лучше заранее уточнить, не подразумевается ли под этим креативный поиск новой работы.
🙊 Как у вас дела с ИИ - учитесь с ним дружить, может уже используете в работе?
⚪️ #таблетка_культурная
Подписаться на Таблетку под язык 👅
