60-летний американец отравился бромом: он три месяца по совету ChatGPT употреблял бромид натрия вместо поваренной соли.
Пациент, случай которого описан в журнале Annals of Internal Medicine Clinical Cases, рассказал врачам, что искал способ снизить потребление соли (хлорида натрия). Он читал о ее вреде, нашел рекомендации, как сократить потребление натрия, но не нашел публикаций о снижении колиичества потребляемых хлоридов.
Вдохновленный опытом изучения диетологии в колледже, мужчина решил провести собственный эксперимент по исключению хлоридов из своего рациона. Для консультации он обратился к ИИ: по словам пациента, чат-бот посоветовал ему заменить хлорид натрия на бромид. При этом нейросеть не предупредила о потенциальном вреде замены для здоровья.
Исследователи не смогли получить доступ к истории переписки пациента, но, судя по времени появления симптомов отравления, мужчина использовал либо ChatGPT 3.5, либо ChatGPT 4.0. В эксперименте врачи получили аналогичную рекомендацию при использовании ChatGPT 3.5 — видимо, ее использовал пациент.
Через три месяца употребления бромида натрия вместо поваренной соли у мужчины развился бромизм — синдром, вызванный хроническим избыточным воздействием бромида или брома. Это редкое состояние, при котором токсин накапливается в организме и может вызывать нейропсихиатрические симптомы.
Пациент обратился в скорую помощь с опасениями, что его отравил сосед: паранойя — один из признаков бромизма. Среди других симптомов были галлюцинации, бессонница, угревая сыпь, проблемы с координацией и сильная жажда. Анализы показали высокое содержание бромида в крови. После попытки бегства из больницы пациента отправили на психиатрическое лечение.
Когда психическое состояние улучшилось на фоне приема антипсихотика, он смог рассказать врачам о совете ChatGPT.
При длительном воздействии бромид накапливается в организме и нарушает функцию нейронов. В XIX и XX веках бромид использовали в рецептурных и безрецептурных препаратах, в том числе в седативных средствах и снотворном. Однако уже в 70–80-х годах прошлого века регулирующие органы исключили бромиды из безрецептурных препаратов после выявления связи с токсическими эффектами.
Представители OpenAI, комментируя этот случай, заявили об ограничениях в возможностях сервиса. В правилах ChatGPT указано, что чат-бот не предназначен для диагностики или лечения, а пользователи не должны полагаться на результаты как на единственный источник медицинской информации или замену профессиональной консультации.
Читать далее:
В США одобрили капли от пресбиопии: они улучшают зрение вблизи без очков
Вспышка вируса Чикунгунья и карантин в Китае: что делать, как защититься и насколько опасно
Что происходит с собаками в Чернобыле: выяснилось, как их меняет радиация
Иллюстрация на обложке: designed by Freepik, лицензия