ИИ для отчётов полиции превратил офицера в лягушку из-за мультфильма Disney
Полицейское управление города Хибер-Сити в штате Юта обнаружило критическую ошибку в ИИ-софте для автоматического написания отчётов. Тестируемая программа Draft One проанализировала запись с нательной камеры и зафиксировала, что офицер превратился в лягушку, сообщил сержант Кил телеканалу Fox 13. Причиной стал звук из мультфильма Disney «Принцесса и лягушка», игравшего на фоне. Инцидент произошёл во время тестирования двух систем — Draft One от компании Axon и Code Four. Именно программа Draft One, использующая для генерации текста нейросеть GPT-4 Turbo, допустила «лягушачью» ошибку...