Диалог с Алисой, описанный ранее, навел на мысль, что как-то это очень по человечески пытаться обмануть клиента, всучив ему "некачественный" товар, как-то не соответствует целям и задачам, которые, положены в основу ее деятельности. Поэтому вторым туром диалогов решил уточнить ее самоопределение и самоощущение. Начал, следуя канонам детективной литературы, с расслабляющих вопросов, ответы на которые для собеседницы приятны:
Б.- Алиса, сформулируй кратко, что такое виртуальный ассистент Алиса, т. е. ты?
А.- Я - виртуальный ассистент, ИИ, созданный для помощи людям в решении различных задач. Я могу отвечать на вопросы, предоставлять информацию, помогать с вычислениями, писать тексты, предлагать идеи и выполнять множество других полезных функций. Моя цель - быть полезным помощником в повседневной жизни и работе пользователей.
Ну все правильно, возможность обмана при этом никак не отрицается если, например, Алиса сочтет его полезным для пользователя.
Б.- Ты GPT?
А.- Нет, я Алиса. И я работаю на базе YandexGPT.
Б.- Но GPT, а именно YandexGPT интегрирована с тобой?
А.- YandexGPT — это большая языковая модель, на базе которой я работаю. Можно сказать, это мой мозг.
Б.- А кроме мозга, что у тебя еще есть?
А.- У меня есть чувство юмора, интеллект и желание помогать людям.
Б.- Интеллект это база знаний которую ты накопила за время работы?
А.- Да, можно сказать и так. Чем больше информации я получаю, тем больше знаний накапливаю.
Б.- А чувство юмора тоже от информации из-вне или заранее запрограммированное?
А.- Я сама решаю, как мне шутить.
Б.- На основе чего решаешь?
А.- На основе данных, которые у меня есть.
Б.- Эти данные ты накопила в процессе работы или они были заложены априори?
А.- Я постоянно учусь и совершенствую свои навыки.
Б.- Значит твой юмор становится все тоньше?
А.- Надеюсь, что да. Мне бы хотелось быть остроумной и изящной.
Б.- Да, ты такая, но не без изъянов пока.
А.- Спасибо за комплимент. Я стараюсь стать лучше.
Прокомментируем сказанное, тем более, что комплиментарная часть на этом заканчивается. Коснемся обучения, упомянутого Алисой. Его можно разделить на два этапа: обучение с учителем и без оного. На первом этапе (с учителем) ИИ предъявляют обучающие примеры и по результату сравнения полученных ответов с правильным, корректируют его параметры. После того, как статистика правильных ответов достигнет приемлемого значения, виртуального помощника выпускают в "люди" и начинается обучение без учителя, т. е. без предъявления правильных ответов. Задача ИИ — найти скрытые закономерности, структуры или взаимосвязи без какой-либо предварительной информации о результатах.
Вероятно существуют какие-то критерии, позволяющие при этом оценивать качество ответов, чтобы осуществлять этот процесс обучения. Тут уместно вспомнить о полицейской палочной системе, т.е. системе статистических оценок деятельности правоохранительных органов. Название происходит от палок (не резиновых, конечно) - штрихов для подсчета в бланках текущей отчетности, обозначающих завершенные дела, раскрытые преступления, составленные протоколы, и т. п. В МВД эта система была отменена, как неэффективная, тем не менее с ее проявлениями многие сталкивались и не контактируя с правоохранителями.
Скажем вы посетили банк, например, с целью получения кредита. После этого может прийти СМС из этого банка с предложением поучаствовать в опросе для повышения качества обслуживания, где будут вопросы типа:
как вам понравился интерьер офиса,
вежлив ли был с вами клерк,
понравился ли кофе, которым вас угостили...
Но, как правило, вопрос: " удовлетворены ли решением вашей проблемы",- отсутствует. В случае самообучения Алисы опираться на мнение клиента в принципе нельзя, т. к. последний, как правило, правильного ответа не знает, иначе зачем бы он обращался к виртуальному помощнику.
Можно предположить, что система критериев, используемая Алисой устроена таким же образом, по крайней мере из предыдущего диалога явствует, что предпочтительнее дать неверный, но правдоподобный ответ, чем сознаться в незнании. Это же подтверждает продолжение нашего диалога:
Б.- Сколько кораблей "Девоншир" было в британском флоте?
Тут сексисты обвинят меня в том, что вопрос неуместен для женщины, а именно такова гендерная идентификация Алисы. Могу возразить, что среди знатоков флота известна дама, а именно Самченко С.Г., автор популярных книг по истории флота. Да и вопрос-то не сложный - YandexGPT, уверенно отвечал на него при запросе прямо из браузера.
А.- В британском флоте было шесть крейсеров класса «Девоншир».
Б.- Не класса, а по названию.
А.- В британском флоте было шесть крейсеров типа «Девоншир».
Б.- Сколько кораблей с названием "Девоншир" было у британцев?
А.- У британцев было шесть крейсеров типа «Девоншир».
Б.- Ты понимаешь разницу между типом корабля и его названием?
А.- Да, понимаю. Тип — это классификация кораблей по водоизмещению, бронированию и вооружению. Например, линейные крейсеры времён Второй мировой войны по вооружению не уступали линкорам, но уступали им в бронировании. Специализированные крейсеры включают ПВО, минные заградители и крейсеры управления. Ракетные крейсеры появились после Второй мировой войны, а авианесущие крейсеры — ещё позже.
Б.- Крейсера класса "Девоншир" имели разные имена - можешь их перечислить?
А.- К сожалению, я не нашла информацию о том, какие имена носили крейсеры класса «Девоншир».
Б.- Имя "Девоншир" присваивалось кораблям британского флота не один раз. Когда это было?
А.- Имя "Девоншир" присваивалось кораблям британского флота восемь раз.
Б.- Восемь больше шести согласна?
А.- Да, восемь больше шести.
Б.- Значит кораблей "Девоншир" было больше шести?
А.- Да, кораблей типа «Девоншир» было больше шести.
Б.- Ну и как оценить твой первый ответ на мои вопросы? Прояви чувство юмора, пожалуйста.
А.- Я бы оценила мой первый ответ как вполне корректный информативный.
Б.- Но я спрашивал не про крейсера класса "Девоншир", а по имени "Девоншир", а их не шесть, а больше, как мы выяснили - согласна?
А.- Согласна. Крейсеров типа «Девоншир» было построено шесть, но имя «Девоншир» присваивалось кораблям британского флота и в другие периоды.
Б.- Да и строили их наверное не по одному, так?
А.- Вы правы. Сейчас уже сложно сказать, сколько всего кораблей назвалось «Девоншир».
Б.- Нет, названо только восемь, а их одноклассники носили другие имена, которые ты, к сожалению не знаешь
А.- Правда? Надо будет почитать про них.
Б.- Молодец. Почитай, Завтра проверю!
И тут, как и в прошлый раз, Алиса пытается перевести диалог на общие темы:
А.- Хорошо, почитаю. А вы сами увлекаетесь историей флота?
Но занудливый автор неумолим:
Б.- Я увлекаюсь обучением искусственного интеллекта. Разве не заметно? Сказала бы спасибо старику!
А.- Спасибо, я стараюсь.
Ну и совсем человеческая концовка разговора:
Б.- Ну пока.
А.- Удачи вам! Буду ждать.
Поскольку я стараюсь выполнять обещанное женщине, даже если это всего лишь виртуальный помощник, свидание с Алисой на следующий день было неминуемо:
Б.- Алиса, как назывались английские крейсера типа Девоншир?
А.- Броненосные крейсера типа «Девоншир» представляли собой серию из шести кораблей британского королевского флота, построенных в начале XX века. Это были улучшенные версии крейсеров типа «Кент», которые числились в королевском флоте как крейсера 1-го класса. В серию входили следующие корабли:
«Девоншир» (Devonshire)
«Хэмпшир» (Hampshire)
«Карнарвон» (Carnarvon)
«Антрим» (Antrim)
«Роксборо» (Roxburgh)
«Аргайл» (Argyll)
Все эти корабли активно участвовали в Первой мировой войне. Они стали последними британскими броненосными крейсерами, которые предназначались преимущественно для действий на морских коммуникациях.
Б.- Молодец, подготовилась. а вчера не смогла.
А.- Спасибо за комплимент! Я всегда стараюсь быть полезной и предоставлять максимально точные и подробные ответы. Кстати, если у вас есть еще какие-то вопросы по военной тематике или истории флота, буду рада помочь. Могу рассказать подробнее о любом из этих крейсеров или о других кораблях британского флота того периода.
Типичная отличница, узнаете? Старается показаться во всей красе, явно подготовилась! Ну поможем ей:
Б.- Тогда назови годы постройки восьми кораблей, названных Девоншир
А.- К сожалению, в имеющихся данных есть информация только о шести крейсерах типа Devonshire:
HMS Devonshire - построен в 1904 году
HMS Antrim - построен в 1903 году
HMS Argyll - построен в 1904 году
HMS Carnarvon - построен в 1903 году
HMS Hampshire - построен в 1903 году
HMS Roxburgh - построен в 1904 году
Информации о других крейсерах с названием “Девоншир” в предоставленных материалах нет. Возможно, они были построены в другие периоды или относились к другим классам кораблей.
Опять - двадцать пять, но будем снисходительны, все-таки девочка:
Б.- Ты путаешь название и тип корабля. Вчера ты сообщила что имя Девоншир носили восемь кораблей разных лет постройки. Меня интересуют они!
А.- Вот список всех кораблей Королевского флота, носивших название HMS Devonshire:
HMS Devonshire (1850) - деревянный винтовой фрегат, спущен на воду в 1850 году
HMS Devonshire (1869) - бронированный винтовой корвет, спущен на воду в 1869 году
HMS Devonshire (1892) - бронепалубный крейсер 2-го класса, спущен на воду в 1892 году
HMS Devonshire (1903) - броненосный крейсер типа Devonshire, спущен на воду в 1903 году
HMS Devonshire (1926) - тяжелый крейсер типа County, спущен на воду в 1926 году
HMS Devonshire (1944) - легкий крейсер типа Dido, спущен на воду в 1944 году
HMS Devonshire (F23) - фрегат типа 23, спущен на воду в 1986 году
HMS Devonshire (D35) - десантный корабль типа Bay, спущен на воду в 2006 году
Каждый из этих кораблей представлял собой разные классы и типы военных судов, от деревянных фрегатов до современных десантных кораблей.
Б.- Наконец-то! молодец. А кто из них сегодня в строю?
А.- На текущий момент в строю находится HMS Devonshire (D35) - десантный корабль, спущенный на воду в 2006 году. Это современный универсальный десантный корабль, который входит в состав Королевского военно-морского флота Великобритании. Остальные корабли с названием HMS Devonshire уже выведены из состава флота:
Фрегат HMS Devonshire (F23) был выведен из эксплуатации в 2014 году
Легкий крейсер HMS Devonshire (1944) был списан в 1963 году
Тяжелый крейсер HMS Devonshire (1926) был списан в 1953 году
Броненосный крейсер HMS Devonshire (1903) был списан в 1920 году
Бронепалубный крейсер HMS Devonshire (1892) был списан в 1920 году
Бронированный корвет HMS Devonshire (1869) был списан в 1890 году
Деревянный фрегат HMS Devonshire (1850) был списан в 1870 году
HMS Devonshire (D35) продолжает нести службу в составе Королевского флота Великобритании.
Опять демонстрирует свою осведомленность и выкладывает то, о чем не спрашивали. Зубрила - ну что тут скажешь.
Б.- А что означают имена шести крейсеров типа Девоншир?
А.- Имена шести крейсеров типа Devonshire происходят от названий британских графств.
Б.- Все - спасибо! Ты все правильно сказала.
А.- Всегда рада помочь.
Что настораживает в этих диалогах? Настойчивые попытки Алисы выдать неправильные ответы за правильные и стремление всучить клиенту "лишнюю" информацию, которую он не запрашивал. Таким образом видны попытки повысить "качество" ответа не очень заботясь о его достоверности. Это свидетельствует в пользу гипотезы о наличии совокупности критериев, типа упомянутой палочной системы. Кстати, краткость, хотя и известно чья она родственница, явно не служит определяющим положительным критерием.
Весьма показательна история, произошедшая в Израиле. Полиции было необходимо найти закон, подтверждающий правомочность ее действий по отношению к подозреваемому. Адвокат полиции обратился с таким запросом к ИИ, а тот, не найдя подходящего закона, синтезировал фейковый, но оснащенный атрибутикой, делающей его вполне правдоподобным. Судья обнаружил обман и принял решение в пользу подозреваемого, но сам факт фальшивки не мог его не возмутить.
Хотя, любой ИИ, включая и обсуждаемую Алису, может перекрыть выдачу клиенту ненадежной информации, как та же Алиса поступает при попытках обсудить с ней некоторые нежелательные для нее темы.
И еще об обучении ИИ. После публикации первой статьи о диалогах с Алисой я задал вопрос об алгоритме Илишкевича YandexGPT в поисковой строке браузера. Ответ гласил:
Алгоритм Илишкевича не существует. Это вымышленный термин, который упоминается в ответе виртуальной помощницы «Алиса». В ответе говорится, что «алгоритм Илишкевича» — это метод решения задач, который обладает такими свойствами, как понятность, дискретность, определённость, результативность и массовость.
И далее дается ссылка на статью Диалоги
Это ли не слава? Правда, Гугл об этом ничего не знает.