Неточную, ошибочную информацию или бессмысленный текст, которые иногда производят боты ИИ вроде ChatGPT и Google Bard, называют «галлюцинациями». И технологические гиганты довольно плохо подготовлены к борьбе с этой проблемой.
Ирина Райку, директор программы по этике в Интернете в Центре прикладной этики Марккула в Университете Санта-Клара, заметила, что компании должны были заранее сообщить потребителям о подобных недостатках. "Пользователи не должны были разбираться в этом самостоятельно. Они [компании] должны делать гораздо больше, чтобы информировать общественность о последствиях этого", - сказала она.
Обнаружилось, что ChatGPT от OpenAI и Google Bard, выдают ошибочные ответы на простые фактические вопросы. Например, Google Bard неверно утверждал, что космический телескоп Джеймса Уэбба «сделал самые первые снимки планеты за пределами Солнечной системы». Это не так.
Несмотря на шаги, предпринятые техническими гигантами для прекращения распространения дезинформации, эксперты обеспокоены невозможностью полностью ее предотвратить.