Как написано в описании канала, он не только о дизайне и архитектуре, но ещё немого об обществе и о событиях, которые затрагивают или могут затронуть нас всех. Эта статья именно на такую тему.
Сегодня из каждого утюга вещают о скором пришествии искусственного интеллекта (ИИ). И не далёк час, когда он в прямом смысле заговорит с нами из каждого утюга и мультиварки. Пока же мы всё чаще сталкиваемся с отдельными элементами ИИ, внедряемыми крупными компаниями в самых разнообразных сферах.
Если это общение добровольное, оно обычно безобидно и интересно. Возьмите Алису от Яндекс. Приятная и полезная вещь в навигаторе и для голосового поиска в интернете. Особенно за рулём. Когда она только появилась, многие часами забавлялись беседами с ней. Да и сейчас иногда забавляются.
Буквально на днях видел, как компания бабулек, постоянно сидящая недалеко от нашего подъезда, увлечённо беседовала с Алисой. Кому-то из них внучок подарил смартфон. Очередной вопрос въедливых бабулек поставил Алису в тупик, и она не нашла ничего лучшего, как пожелать им хорошего дня и отключиться. Бабульки посмеялись, я тоже ухмыльнулся и пошёл дальше. Забавно, и безобидно.
Но так бывает не всегда. Иногда общение с "элементами ИИ" происходит вынужденно и безальтернативно. И вот тут уже всё совсем не так весело.
ИИ от Сбербанка
Вот к примеру Сбербанк. То, что его глава является ярым сторонником внедрения ИИ не только в банковскую сферу, но и вообще везде, знают многие. Недавно мне пришлось слегка ощутить аромат первых цветочков от трудов тёзки.
Есть у меня счёт и карта в Сбербанке. Несколько недель назад загружаю я личный кабинет и вижу рядом с данными счёта красную надпись: "недоступен". Денег там практически нет, но с какого перепугу он стал недоступен? Пробую перекинуть деньги с него на карту - перевелись, но надпись осталась.
Привычно звоню в поддержку. И приятный женский голос мне сообщает, что она Искусственный Интеллект от Сбербанка и будет рада мне помочь. Ух ты! Ну ладно. На просьбу описать проблему, пытаюсь изложить суть вопроса.
Я давно и много работаю в интернете, поэтому формулировать запросы для поисковых роботов умею. Но тут ситуация явно не стандартная для новорожденного ИИ. Она меня не понимает совершенно. Пробую изложить иначе и более примитивно - бестолку. В ответ мне предлагается перечень вопросов, которые она может помочь решить. Разумеется, моего вопроса в перечне нет.
Не особо этому удивляясь, прошу "девушку" соединить меня с оператором. И тут она начинает мне доказывать, что она лучше и быстрее любого оператора. Я повторяю просьбу. Барышня снова упирается и настаивает на своей эксклюзивности. После третьей попытки добиться контакта с человеком я получаю ответ, что все операторы заняты, что я могу попробовать решить свой вопрос через личный кабинет или снова обратиться к ней. И, как говорится, - давай, до свиданья! Повторная попытка закончилась так же.
Итог: минус 1:0... В пользу кого?
Алгоритм от Дзена
Большинство читающих Дзен и все пишущие на нём знают, что сначала статьи тут анализируются специальным алгоритмом. По сути, это всё тот же "элемент ИИ". От его оценки зависит, как и кому будет показываться та или иная статья.
Моя первая статья на канале была тоже на общественную тему. В тот момент только начинали вводить масочный режим, и мне очень не нравилось, как это происходит. Я проанализировал федеральные нормативные акты, распоряжения трёх губернаторов и написал статью, в которой высказал сомнение в законности требования покупки масок за свой счёт. Статья была исключительно аналитическая, с многочисленными цитатами и ссылками на официальные документы. Но она "поймала волну" эмоций.
За пару дней статью прочитали более 4,5 тысяч человек. А ещё через день она вылетела из показов и просмотры резко кончились. Алгоритм посчитал её попыткой срубить хайп, что на Дзене не поощряется.
Позже другая статья показала, что Алгоритм в принципе не понимает аналитических статей, а смотрит исключительно на отдельные слова и их сочетания.
Я написал статью, в которой провёл анализ причин обрушения многоквартирных жилых домов за последние 14 лет. Это был анализ с моей исключительно профессиональной точки зрения, как архитектора. Никаких эмоций, только факты: когда, где, причина и последствия. При этом упор делался именно на причины, приведшие к этим событиям. И, разумеется, никаких фотографий с мест или обсуждений последствий.
Так вот эта статья сразу не попала в показы. Их было всего несколько десятков за многие недели. В конечном итоге алгоритм Дзена выдал предупреждение, что статья эксплуатирует определённый контент и доступна исключительно по прямой ссылке. Повторюсь, ничего подобного там не было в принципе. Но Алгоритм зафиксировал некие стоп-слова и, не умея понять контекс их употребления, посчитал статью за попытку погреть руки на резонансной теме. А это им не приветствуется категорически. В итоге мне пришлось удалить эту статью.
Итог: минус 2:0
Неприятные выводы
К чему я всё это пишу? У меня есть серьёзные опасения, что внедрение ИИ в сферу анализа и управления приведёт к тому, что все выходящие за усреднённые рамки ситуации станут провальными по своему результату. Алгоритмы в принципе не могут решать нестандартные ситуации.
Хорошо, если со временем такие вопросы будут автоматически переадресовываться человеку, который сможет вмешаться и "разрулить" ситуацию. Но пока этого не происходит.
Алгоритм Сбербанка просто заканчивает разговор, а алгоритм Дзена просто снимает статьи с показа. При этом общение с человеком всячески затруднено. Когда же оно всё-таки происходит, люди оказываются либо некомпетентными, либо не имеют полномочий оспорить решение программы.
Я очень надеюсь, что в контактном центре службы спасения никогда не появится никакой ИИ...
Ключевые слова:
#искусственный интеллект #дзен #алгоритм #человек и общество