Как угроза «отрезать пальцы» изменила подход к созданию ИИ
📎Помните, как в 2019 году чат-бот от Тинькофф «Олег» прославился не ценными советами, а угрозами «отрезать пальцы» клиентам? Этот случай, наряду с другими громкими провалами вроде расистского бота Microsoft, стал для всей индустрии важным уроком.
Тогда многие списывали такое поведение на юный возраст нейросетей и их обучение на открытых данных из интернета. Однако быстро выяснилось, что для бизнеса, особенно финансового, подобные ошибки — прямой удар по репутации.
➡️ Что изменилось с тех пор?
• Компании начали более глубинно и тщательно тестировать ИИ-помощников
• Вместо обучения на всем подряд используются тщательно отобранные и проверенные датасеты.
• Нейросети долго тестируют в закрытых средах, моделируя самые провокационные запросы, прежде чем выпустить к пользователям.
Конечно, идеальных систем не существует, и риски остаются. Но эпоха, когда бот мог за сутки превратиться в расиста или садиста, благодаря жесткому контролю и тщательному тестированию, уходит в прошлое.
#ии #нейросети #бизнес #ai #факапыии #ИскусственныйИнтеллект
