На сайте OpenAI есть оговорка, что система "иногда может генерировать неверную информацию".
ChatGPT стал причиной предъявления иска компании-разработчику OpenAI, пишет Theverge. Претензии пострадавшей стороны появились в ответ на ложную информацию, сгенерированную нейросетью.
"Уолтерса обвинили в мошенничестве и растрате средств некоммерческой организации. Система сгенерировала информацию в ответ на запрос третьей стороны, журналиста по имени Фред Риль", – пишет издание.
Как пишет Theverge, у этих систем нет надежного способа отличить факты от вымысла, и когда их просят предоставить информацию – особенно если просят подтвердить то, что, по мнению спрашивающего, является правдой – они часто выдумывают даты, факты и цифры.
Обычно эти измышления не приводят ни к чему большему, чем к введению пользователей в заблуждение или пустой трате их времени. Но начинают появляться случаи, когда такие ошибки причиняют вред.
В качестве примера интернет-издание приводит случай с профессором, который рисковал испортить свой урок после того, как ChatGPT заявил, что его студенты использовали искусственный интеллект для написания своих эссе, и юрист, которому грозят возможные санкции после использования ChatGPT для расследования поддельных судебных дел.
Адвокат, о котором идет речь, недавно сказал судье: "Я слышал об этом новом сайте, который, как я ошибочно предположил, был чем-то вроде супер-поисковой системы".
При этом OpenAI подстраховалась и опубликовала оговорку, что система "иногда может генерировать неверную информацию".
>>>Больше интересных историй – подпишитесь на наши Telegram, Instagram и Viber