Полицейское управление города Хибер-Сити в штате Юта обнаружило критическую ошибку в ИИ-софте для автоматического написания отчётов. Тестируемая программа Draft One проанализировала запись с нательной камеры и зафиксировала, что офицер превратился в лягушку, сообщил сержант Кил телеканалу Fox 13. Причиной стал звук из мультфильма Disney «Принцесса и лягушка», игравшего на фоне.
Инцидент произошёл во время тестирования двух систем — Draft One от компании Axon и Code Four. Именно программа Draft One, использующая для генерации текста нейросеть GPT-4 Turbo, допустила «лягушачью» ошибку. Этот софт интегрирован в экосистему Axon — главного поставщика электрошокеров и камер для американской полиции — и обходится департаменту в $65–70 в месяц за каждого офицера.
«Тогда мы поняли, насколько важно проверять отчёты, сгенерированные ИИ», — рассказал сержант Кил.
Конкурирующая система Code Four работает похожим образом, но дополнительно расставляет временные метки в отчёте и анализирует интонации говорящих. Обе системы поддерживают английский и испанский языки. По словам сержанта Кила, технология уже экономит ему 6–8 часов рабочего времени в неделю. Тестовый период Code Four завершается в следующем месяце, но руководство департамента планирует продолжить использовать ИИ, выбирая между двумя системами.
«Я не самый технически подкованный человек, но софт очень удобный», — отметил Кил.
Инцидент наглядно показал, что окончательная проверка отчёта человеком пока остаётся обязательной.
Искусственный интеллект всё активнее внедряется в полицейскую практику по всему миру, демонстрируя как эффективность, так и курьёзные сбои. Ранее «Жуковский.Life» сообщал о том, что в китайском городе Чанша дорожные полицейские начали использовать «умные очки» с ИИ для мгновенной проверки автомобилей. Устройство с камерой высокого разрешения за секунду распознаёт номерной знак, после чего подключается к базе данных и выводит на дисплей полную историю нарушений водителя, данные о регистрации и техосмотре автомобиля.