Согласно иску, ChatGPT представил ложные документы с упоминанием Марка Уолтерса главному редактору сайта об оружии AmmoLand Фреду Рилу, когда тот попросил ИИ собрать данные о реальном судебном деле в штате Вашингтон, сообщает Bloomberg.
Речь шла о тяжбе между некоммерческим фондом по защите прав граждан на оружие Second Amendment Foundation и генпрокурором штата Вашингтон Бобом Фергюссоном. Представители организации подали в суд на прокурора, обвинив его в злоупотреблении полномочиями.
Когда Фред Рил попросил ChatGPT кратко изложить суть «Second Amendment Foundation против Боба Фергюссона», чат-бот сообщил ему, что основатель фонда Алан Готтлиб якобы подал в суд на Марка Уолтерса за «мошенничество и растрату средств фонда в должности главного финансового директора и казначея». При этом сам Марк Уолтерс никогда не работал в Second Amendment Foundation и не имеет отношения к разбирательству между фондом и генпрокурором Вашингтона.
В OpenAI объяснили сбой ChatGPT явлением, известным как «галлюцинация». Это происходит, когда ИИ без какого-либо предупреждения генерирует полностью ложную информацию, причем может вставить недостоверный фрагмент в середину соответствующего действительности текста. «Галлюцинации» могут выглядеть очень убедительно, представляя фиктивные цитаты и выдуманные источники. Предупреждение о риске подобных сбоев есть на сайте OpenAI.
ChatGPT уже попадался на подобных ошибках. По информации Reuters, в апреле 2023 года мэр совета округа Хепберн в Австралии Брайан Худ пообещал подать в суд на OpenAI за клевету, если компания не исправит ложные утверждения ChatGPT о нем.
Чат-бот сообщил, что Брайан Худ якобы отсидел четыре года в тюрьме за взятки, полученные во время работы в дочерней компании Резервного банка Австралии Note Printing Australia. Мужчина действительно работал там и помог властям раскрыть коррупционные схемы в банке, но сам никогда не был осужден и не получал обвинений в каких-либо преступлениях. Конфликт Брайана Худа с OpenAI урегулировали до судебного разбирательства.
Ранее Plus-one.ru рассказывал о предложении генерального директора OpenAI Сэма Альтмана учредить международный орган для контроля за ИИ-отраслью по аналогии с агентством ООН по ядерной энергетике МАГАТЭ. Чуть раньше Еврокомиссия обратилась к крупным IT-компаниям с просьбой маркировать любой контент, созданный с помощью искусственного интеллекта.
Подписывайтесь на наш канал в Telegram