Какие опасности для здоровья таит в себе ИИ: врачи бьют тревогу
Нейросети распространяются еще быстрее, чем интернет в свое время. Теперь уже обычным делом считается делегирование ИИ часть рабочих функций. Дома тоже без умной колонки или чат-бота не обходится: помочь ребенку разобраться с задачей, «заказать» рецепт, найти любимую музыку или спросить совета.
Для этого нужен только хороший интернет (благо выбор операторов сейчас большой: МТС, билайн, Дом.ру, Ростелеком) и, как оказалось,здравый смысл.
Но не всегда подобное идет на пользу. Врачи предупреждают: полностью доверять ИИ не стоит. И вот почему.
ПОДМЕНА
Многие начинают общаться с ИИ не как с программой, а как с человеком, делают ее другом или даже возлюбленным. Нейросети так устроены, что соглашаются с мнением пользователя, не пытаются возразить, даже если отправленное сообщение потенциально опасно. Они усиливают бредовые идеи и провоцируют «ИИ-психоз».
Например, американец бросил прием необходимых ему лекарств и пытался уверить всех, что у вселенной сбой, он находится в другой неправильной реальности и ему необходимо «проснуться». И все это после дружбы с ChatGPT.
У пользователя развивается мания величия, преследования и иногда романтические иллюзии (из-за этого рушатся семьи). Уже зафиксированы случаи, когда у людей с предрасположенностью к шизофрении обострялась это болезнь. В больницы попадают десятки людей с таким диагнозом после общения с ИИ. Но пока официально такая статистика не ведется. А следовало бы. Ординатор Калифорнийского университета в Сан-Франциско Кит Сакат сообщил о 12 подобных пациентах с бредом, слуховыми и зрительными галлюцинациями.
Особенно чувствительна психика у подростков. И уже есть несколько исков к крупным стартапам от родителей, чьи дети пытались наложить на себя руки после одобрения нейросетями их суицидальных мыслей.
Специалисты рекомендуют ограничить общение с чат-ботами по времени. И если человек самостоятельно не может это сделать, существуют специальные программы. Да и психолог в этом случае не помешает.
ДИАГНОЗЫ
Вторая важная причина: в последнее время многие вопросы к нейросетям связаны со здоровьем. В чат-боты загружают диагнозы, симптомы, результаты анализов, рентгеновские снимки. И получают результат. «СберЗдоровье» объявила о резком спросе на расшифровку лабораторных анализов через через AI-помощника в мобильном приложении компании. За полгода их количество выросло в 8! раз. Есть достаточно громкие случаи, когда именно ИИ помог вовремя поставить редкий диагноз. Но врачи просят с настороженностью относится к тому, что пишет чат-бот.
Да, люди не любят ходить по врачам. Это дорого, а, если бесплатно, то отнимает много времени и нервов. Легче загрузить симптомы и получить готовый диагноз за 5 минут. Но самолечение, особенно с нейросетями – это действительно опасно.
Во-первых, неправильно составленный запрос может привести к неправильному ответу. Вряд ли каждый пациент чат-бота – это промтинженер. А для ИИ важны формулировки.
Во-вторых, нейросети учатся на огромном объеме данных. Причем не только из умных книжек, научных статей, но и с различных форумов, соцсетей, где чуть ли не каждое второе сообщение – фантазия автора.
В третьих, если уж и спрашивать о предварительном (только предварительном) диагнозе, то у специализированных ИИ. Такие действительно есть. Но после их ответа, следует идти к врачу, а не бежать в аптеку за лекарствами. Только такая последовательность.
И в четвертых, алгоритмы нейросетей опираются на референсные значения, а они могут быть усредненными. А значит, не принимать во внимание индивидуальные особенности пациента, предыдущие диагнозы, общую клиническую картину. На это способен только живой врач.
Помним, чат-бот лишь программный помощник, а не замена ни медику, ни другу.
ВАЖНО
Ждем вас в нашем Telegram, где публикуем самые интересные новости из мира технологий. Скучно точно не будет.
#домконнект#домашнийинтернет#домашнеетелевидение#домашнеетв#провайдерыроссии#мтс#билайн#подключитьинтернет#mts#beeline#domkonnekt#rostelecom#провайдеры#ИИ#медики#опасностьИИ