Найти в Дзене

Алиса: Не задал вопрос — не получил ответ. Почему ваш цифровой помощник может быть опасен

Вот и я, как и многие пенсионеры, подружился с голосовыми помощниками. Спросишь у Алисы: «Какой сегодня прогноз погоды?», «Напомни про прием к врачу» — и вот она, настоящая магия! Удобно, не поспоришь. Но однажды мой внук сказал фразу, которая заставила меня задуматься: «Дедусь, а ты спрашивал у Алисы о побочках своих таблеток?». И я понял: у каждой медали, как говорится, две стороны. Мы видим только одну — ту, которую сами подсветили вопросом. Слепое пятно цифрового интеллекта Голосовые помощники и нейросети — это не всезнающие боги. Это, по сути, очень сложные поисковые системы, которые выдают ответ на ваш конкретный запрос. Их главный принцип: «Не задал — не получил». Вы спросили: «В чем польза яблок?». Вы получите информацию о витаминах, клетчатке и улучшении пищеварения. Вы не спросили: «А в чем вред яблок?». И вы не узнаете, что при некоторых болезнях желудка или аллергии они могут быть противопоказаны. Помощник не будет давать вам пару «польза + вред» по умолчанию. Он отвечает с

Вот и я, как и многие пенсионеры, подружился с голосовыми помощниками. Спросишь у Алисы: «Какой сегодня прогноз погоды?», «Напомни про прием к врачу» — и вот она, настоящая магия! Удобно, не поспоришь. Но однажды мой внук сказал фразу, которая заставила меня задуматься: «Дедусь, а ты спрашивал у Алисы о побочках своих таблеток?». И я понял: у каждой медали, как говорится, две стороны. Мы видим только одну — ту, которую сами подсветили вопросом.

Слепое пятно цифрового интеллекта

Голосовые помощники и нейросети — это не всезнающие боги. Это, по сути, очень сложные поисковые системы, которые выдают ответ на ваш конкретный запрос. Их главный принцип: «Не задал — не получил».

Вы спросили: «В чем польза яблок?». Вы получите информацию о витаминах, клетчатке и улучшении пищеварения.

Вы не спросили: «А в чем вред яблок?». И вы не узнаете, что при некоторых болезнях желудка или аллергии они могут быть противопоказаны.

Помощник не будет давать вам пару «польза + вред» по умолчанию. Он отвечает строго на поставленную задачу. В этом и кроется главная ловушка.

Примеры из жизни, где это играет против нас

Самолечение и здоровье. Это самая рискованная зона. Запрос «как снизить давление» может выдать народные рецепты с травками, но не упомянет, что при вашем диагнозе они несовместимы с основными лекарствами. Вы не спросили — помощник не рассказал. Результат — ухудшение самочувствия.

Финансы и покупки. «Где взять быстрый заем?». Алиса любезно покажет МФО с мгновенной выдачей, но не станет говорить о грабительских процентах и последствиях долговой ямы. Вы не уточнили про «выгодные условия» или «риски» — значит, их для вас как бы и не существует.

Воспитание детей. Ребенок спрашивает: «Почему нельзя есть много конфет?». Он может получить ответ «испортятся зубы». Но если он не спросит про влияние на сахар в крови или кожу, то и не узнает всей картины. Он формирует неполное, искаженное знание о мире.

Как сделать AI-помощника своим настоящим другом: Правило трех вопросов

Не нужно отказываться от технологий! Нужно просто научиться ими пользоваться грамотно. Я для себя выработал простое правило.

Прежде чем применить совет на практике, задай три уточняющих вопроса:

Вопрос о пользе: (Тот, который у вас уже есть). «Как сделать [что-то]?», «В чем плюсы [чего-то]?».

Вопрос о рисках: «А какие могут быть минусы?», «Что может пойти не так?», «Кому это не подходит?».

Вопрос об альтернативе: «А есть другие способы?», «Что предлагают вместо этого?».

Пример:

Вы ищете способ согреться зимой на даче.

Вопрос 1 (Польза): «Как быстро протопить печь?»

Вопрос 2 (Риски): «Какие ошибки при растопке печи могут привести к пожару?»

Вопрос 3 (Альтернатива): «Какие есть безопасные обогреватели для дачи?»

Только получив ответы на все три вопроса, вы будете владеть полной информацией для принятия верного решения.