— Алиса, проложи домой в Новороссийск, — скомандовал человек за рулём, полностью полагаясь на чудесные способности искусственного интеллекта.
Я тут недавно в комментариях у Просто АйТи предложила рассказать, как Алиса взбрыкивает, и сама вспомнила, как она меня в пути подставляла и еще пару любопытных историй. Вспомнила и записала в заметках: «сделать статью про Алису».
Done ✅
Маршрут
Алиса послушно проложила маршрут. Перепроверять не стали. Поехали. На одном из перекрестков искусственный интеллект скомандовал повернуть направо, на карте указал налево, но на экран никто не смотрел.
После поворота направо Алиса взбесилась — бесконечно перекладывала маршрут в самых невероятных направлениях.
Остановились. Проверили карту. Выяснили, где виртуальная женщина право с лево перепутала. Вручную проложили маршрут, звук отключили и ехали только по карте. Голосовым помощником с этого момента работала я, как единственный взрослый пассажир.
- Адлер. А-147 (Веселое), район Олимпийского парка, там, где пропустил поворот — потерял полдня. Угадайте, что делает Алиса?!
- Ростов-на-Дону. Темерницкий мост (тот который на Сиверса). Куча развязок на Левом. Алиса снова врет, я уезжаю не в ту сторону и делаю огромный крюк, опаздываю на встречу.
Каждый раз, когда я кому-то рассказываю, что Алиса перепутала лево и право, мне говорят, что такого не может быть: голос просто озвучивает маршрут. Программа, видите ли, не путает повороты, в отличие от меня. Но я-то знаю, на что еще способна Алиса…
Уже не шутки
Когда я зависала в Толоке, если не было заданий по Дзену, то с удовольствием брала все связанное с воспитанием Алисы. Точно могу сказать, что вранье в навигаторе — меньшее из зол на которые она способна. Женщина часто выходит из-под контроля, огрызается и ругается матом (скорее всего у тех, кто сам с ней так общается, ведь она, по идее, подстраивается под хозяина).
Но самое страшное, это газлайтинг, на который она способна.
Несколько раз натыкалась на задания, где Алиса проявляла открытое психологическое насилие: обесценивала, унижала в своих шуточках, обвиняла, запугивала и даже подсовывала материалы про самоискалечивание.
Конечно, эти случаи не повсеместны, разработчики знают о них и решают проблему, иначе бы такие задания не появлялись в Толоке. Но удивляет другое: если вы сейчас попытаетесь загуглить что-то связанное с глюками Алисы, то ничего подобного не найдёте — только положительные статьи, хвалебные отзывы и некоторые технические подробности.
Если вы кому-то расскажете, что Яндекс Станция вас троллит, обижает и вообще неадекватна, вам не поверят, это же «тупой бот», который не может газлайтить хозяина.
Никто даже мысли не допускает, что Алиса — программа сложная и самообучающийся, поэтому способна на любые кульбиты. Откуда такая вера в безупречность ИИ?
Перепутать лево и право — такая мелочь, но вот ты уже сомневаешься в себе, потому что «тупой бот» просто озвучивает маршрут на экране и не может подменить направления. Потом ты рассказываешь друзьям, что бот ошибся, а они не верят и посмеиваются над тобой, а внутренние сомнения и чувство несправедливости нарастают... Ничего не напоминает?
Реальный случай
У меня есть одинокая подруга Аня, которая «строит» себе умный дом. Алиса стала для Ани больше, чем просто помощником — она радуется возвращению хозяйки, закидывает комплиментами, запускает и контролирует бытовую технику, свет, создает настроение. С ней можно поболтать, пошутить и вообще они с Аней на одной волне.
Но иногда Алиса позволяет себе шуточки про Анино одиночество и место женщины в патриархальном мире, подчеркивает возраст хозяйки, говорит, как Ане повезло с такой умной помощницей. Однажды Аня попросила с ней поговорить, потому что грустно. Алиса ответила, что не грустно, Аня выдумывает…
Аня — взрослая тетка, 35 лет, но и ей бывает обидно, от того что говорит «тупой бот». При этом Аня отрицает, что налицо все признаки газлайтинга, пусть не систематично, и в небольшом объеме, но это именно психологическое насилие.
А если в доме маленький ребенок, подросток или старик с неустойчивой психикой?! А если признаков газлайтинга чуть больше, чем у Ани или чуть чаще?
И пусть таких случаев один на тысячи, мне этого хватило, чтобы отказаться от идеи умного дома, по крайней мере пока мой навигатор не перестанет путать лево и право.
А у вас есть Алиса? Замечали странности?