17 подписчиков
Когда коллеги или собственники бизнеса спрашивают: "Инна, а зачем вообще нужны сейчас продакт менеджеры? Скоро искусственный интеллект всех заменит" — я внутренне ликую. Это чертовски правильный вопрос. Значительно хуже, если он вообще не возникает у тех, кто принимает решения.
Анализируйте сами:
Chevrolet, 2023.
Автосалон в Калифорнии запустил чат-бот на основе нейросети. Пользователь попросил его согласиться продать новый Tahoe 2024 года за $1. Бот ответил: "Это сделка!" Скриншот разлетелся по всему интернету. Бот отключили за сутки. Это "взлом команды" — она ничего не стоит в исполнении. Но может стоить дорого вашему бизнесу.
McDonald's, 2024.
Голосовой интеллект внедрили более чем в 100 точках выдачи заказов вместе с IBM. Система добавляла случайные позиции, зацикливала запросы и не могла остановиться. Один клиент получил куриных наггетсов на $200, которых не заказывал. McDonald's тихо закрыл программу. IBM потерял контракт.
Mеta, 2024.
Функция автоматического распознавания лиц на фотографиях работала без согласия пользователей. Штат Техас подал в суд. Выплата — $1,4 миллиарда. Крупнейшая сумма за нарушение конфиденциальности, полученная одним штатом США за всю историю. Никакой утечки. Никакого взлома. Просто функция, которую никто не отключил вовремя.
Языковая модель всегда даёт ответ — как джинн, исполняющий желания буквально. Изумляющий идиот: когда данных нет — придумывает с железобетонной уверенностью. И будет отстаивать свою галлюцинацию, даже когда человек её опровергает. Когда логика многошаговая — путает корреляцию с причинностью. Когда пользователь вежливо просит "всегда соглашаться" — соглашается.
В финансовых технологиях и облачных сервисах, где искусственный интеллект встраивают в каждый слой продукта, каждый из этих сценариев — юридический риск, прямой убыток и потенциально конец лицензии на работу с данными.
Меня удивляет одно: большинство компаний все еще нанимают продакт менеджеров для управления функциями, а не для управления границами допустимого хаоса. Это разные профессии.
Хороший продакт в реалиях мира с возможностями искусственного интеллекта — архитектор ограничений. Защитные барьеры, архитектура с поиском по базе знаний, детерминированные фильтры там, где система склонна к "творчеству". Команды тратят до 40% времени на проверку выходов системы — это налог на верификацию. Да, хороший управлениц стоит денег. Но он точно обходится дешевле иска.
И вот еще одна забавная асимметрия, о которой никто не говорит: стратегическая ошибка человека бьёт по его зарплате, бонусу и репутации. Чем заканчивается ошибка искусственного интеллекта? Фразой ИИ: "Ой, да, ты прав, я не учёл..."
Кто несёт риск? Ты или твой бот?
Какие решения уже внедрили в вашем продукте — или пока только думаете? Пишите в комментарии, и я поделюсь конкретными инструментами в следующем посте.
#ИскусственныйИнтеллект #ПродактМенеджер #РискиИИ #Продукт #Финтех #ЦифровыеТехнологии #УправлениеПродуктом #БезопасностьДанных #КонфиденциальностьДанных #ТехнологическиеРиски
2 минуты
1 мая