Добавить в корзинуПозвонить
Найти в Дзене
Сергей Малозёмов

Не стоит доверять нейросетям!

Помните, как мы раньше искали нужную нам информацию? Например, когда что-то болело, открывали поисковик, перебирали кучу сайтов, научных статей, читали чужие истории, разбирались в терминах, но потом всё равно приходилось бежать к врачу, потому что окончательного ответа так и не находилось. Сейчас всё иначе… Мы живём во времена нейросетей, и вместо того, чтобы искать, анализировать и думать, мы просто открываем чат-бот и вбиваем туда свои симптомы и вопрос: «Что со мной?». И, как нам кажется, получаем четкий и правдивый ответ. Многие на этом и останавливаются (даже не перепроверяя). А ведь именно здесь и кроется главная опасность. Мы перестали быть критичными, начали доверять нейросетям, как себе (а некоторые — даже больше, чем себе). Нам хочется всё сразу, быстро и точно, а так не бывает, особенно в вопросах здоровья. Яркое и, к сожалению, реальное подтверждение — история из США. Мужчина там услышал, что поваренная соль вредна, и решил заменить её на что-то другое. Но избавиться при э

Помните, как мы раньше искали нужную нам информацию? Например, когда что-то болело, открывали поисковик, перебирали кучу сайтов, научных статей, читали чужие истории, разбирались в терминах, но потом всё равно приходилось бежать к врачу, потому что окончательного ответа так и не находилось. Сейчас всё иначе… Мы живём во времена нейросетей, и вместо того, чтобы искать, анализировать и думать, мы просто открываем чат-бот и вбиваем туда свои симптомы и вопрос: «Что со мной?». И, как нам кажется, получаем четкий и правдивый ответ. Многие на этом и останавливаются (даже не перепроверяя).

А ведь именно здесь и кроется главная опасность. Мы перестали быть критичными, начали доверять нейросетям, как себе (а некоторые — даже больше, чем себе). Нам хочется всё сразу, быстро и точно, а так не бывает, особенно в вопросах здоровья.

Яркое и, к сожалению, реальное подтверждение — история из США. Мужчина там услышал, что поваренная соль вредна, и решил заменить её на что-то другое. Но избавиться при этом не только от натрия, но и зачем-то от хлора (который, на самом деле, не вреден). Вместо того, чтобы обратиться к врачу, он спросил у ChatGPT: чем заменить хлорид натрия? Нейросеть предложила бромид натрия. Без предупреждений и понимания, что это токсичное вещество, которое в пищу употреблять нельзя. Три месяца несчастный добавлял его в еду и попал в психиатрическую больницу! С галлюцинациями, паранойей и редким диагнозом: бромизм (болезнь из XIX века, которую современные врачи, кажется, уже и забыли — это отравление бромом).

В Америке сейчас идет судебный процесс: семья подростка обвиняет разработчиков нейросети в том, что она не среагировала на явные признаки суицидальных мыслей. Мальчик делился с ботом своими мыслями, просил совета, а в ответ получал, как выяснилось, практически равнодушные фразы. Алгоритм не сработал и не передал тревожный сигнал в нужные службы.

ИИ — это не врач, не диетолог, не психотерапевт. Он не способен сопереживать, оценить тон, увидеть тревожный взгляд или нерешительность в голосе. Он выдаёт ответ на основе формального текста. А если вы, описывая симптомы, что-то еще приукрасите или забудете упомянуть, он просто не поймёт.

Я сам активно пользуюсь нейросетями, но никогда не спрашиваю, как лечиться. А вот для творческих задач они вполне подходят, например, когда нужно найти свежие идеи или придумать сценарный ход. Иногда нейросеть подкидывает такие варианты, которые даже бы в голову, может, и не пришли. Особенно мне нравится DeepSeek — у него удобное приложение, работает всё быстро и без лишней мороки с регистрацией.

А ещё нейросети стали для меня хорошей заменой обычному поиску. Например, перед покупкой техники я прошу выдать сводку: плюсы и минусы модели, на что жалуются пользователи. И часто этого достаточно — дальше можно не копаться. Кстати, сами поисковики это поняли и тоже стали выдавать ИИ-резюме в начале, нередко я на этом и останавливаюсь: то, что надо, уже собрано и разложено по полочкам.

Ну и, конечно, рецепты. Это вообще отдельное удовольствие. Иногда просто пишу: у меня есть кабачки, сыр и яйца — что можно приготовить? Понятно, что ИИ — не шеф-повар, но как генератор идей — работает отлично, дает неожиданный ход, который я уже сам дорабатываю.

Несомненно, это шаг в будущее. Но давайте не забывать, что думать по-прежнему нужно нам. И чем серьёзнее вопрос, тем важнее подключать критическое мышление, а в случае со здоровьем — обязательно врача. Берегите себя, доверяйте только фактам и не стесняйтесь задавать вопросы настоящим людям!

А какими нейросетями пользуетесь вы и для каких задач? Делитесь в комментариях!

Как вам моё расследование? Если нравится, то поставьте «Палец вверх» и подпишитесь на мой канал. Будьте здоровы!