На днях, исследуя возможности ChatGPT-3.5 я столкнулся с (не очень) забавной ситуацией.
В процессе диалога с нейросетью, был задан невинный вопрос о количестве компьютеров в ряде стран - США, Германии, Японии и СССР на 1990 год. По поводу "Империи зла" был получен вот такой ответ:
Далее все-таки удается заставить chatGPT найти хоть какие-то данные.
То есть 2 миллиона компьютеров к 1991 году, что не так уж и мало для имиджа "отсталых Совков". В итоге я попросил нейросеть составить список топ-10 стран по количеству компьютеров на эту дату и вот такой список был сгенерирован:
И смотря на него возник логичный вопрос, неужели в маленьких Голландии и Швеции компьютеров было больше чем в СССР? Я решил выяснить и задал уточняющий вопрос.
И между текстом, chatGPT проговаривается, что по тем же "неточным данным" во Франции было только 1.5 миллиона компьютеров в то же время. То есть не очень точные данные по Франции в список вошли. А такие же примерные по СССР - нет. А Франция в этом списке (с первой картинки) - на 5 месте в мире, на минутку. А на этом месте должен быть СССР с 2 миллионами компьютеров. То есть из списка просто полностью вычеркнули одну страну. И не с 10-ой, а с 5-ой позиции. И тут стоит допустить что возможно какой-то части, например русскоязычной статистики, у нейросети просто пока нет. В Советском Союзе в 1980-х годах производилось довольно много персональных компьютеров - клонов как PC и IBM, так и Apple(!), которые возможно не учитывают в западной статистике. Ну тем не менее, раз нейросеть признает факт наличия хотя бы 2 миллионов ПК в СССР - вежливо прошу ее включить СССР в список.
Следует "подготовительной извинение", признание что в СССР 2 миллиона ПК и ...барабанная дробь.
Ничего не смущает? СССР с 2 миллионами на 10 месте, а Испания с 750 тысячами - на 9 месте. У Франции на 5 месте как ни в чем не бывало прежние 1.5 миллиона ПК. Тут меня уже слегка подбомбило.
Вторая попытка передвинуть СССР на 5 место снова оказалась неудачной. Ну ок, я тоже решил быть принципиальным.
И вновь, ничего не поменялось! Умнейший алгоритм, с гигантскими академическими знаниями, лучшей в мире оптимизацией под работу с человеческими запросами и ...такой фейл?
Ну пробуем еще раз.
Наконец-то! Отсталый Совок занял свое "непочетное" 5 место в мире, справедливость восстановлена. И все-таки меня не покидало чувство что проблема в недоверии ИИ к старой статистике из-за "Железного занавеса". Ну хорошо, для частоты эксперимента давайте запросим статистику по мирному 2021 году, заранее уточнив, сколько же компьютеров в России на этот период.
Окей, тут действительно гораздо больше пруфов - в наши торговые сети поставлялись в основном западные или китайские (но с западными компонентами вроде ЦПУ и ГПУ) ПК. Плюс все давно подключены к интернету. Косвенно можно считать и по аккаунтам в различных сетях и сервисах, транзакциях и подкюченным к жилым и нежилым зданиям оптоволоконный кабелям, а также роутерам. В любом случае, посчитать и получить на порядок более точное значение по 2021 году гораздо проще чем по 1990 году. Просим список топ-10.
102 миллиона компьютеров превращаются, легким движением руки в 37 миллионов. То есть человека, который запросит просто список топ-10 без уточнения по РФ, обманут. Список будет неточным, ведь в нем у отсталых и бедных русских - всего 37 миллионов компьютеров. Что вполне вписывается в картину мира западного потребителя. Ну я вновь решил доказать чатГПТ что допущена грубейшая ошибка.
Первый наезд принес отсталой России сразу + 10 миллионов железяк. Но это все еще половина от реального числа, озвученного чатГПТ в самом начале. Усиливаем прессинг и пробуем дообучить ее на ходу ссылкой на ресурс.
При чем алгоритм чатГПТ настолько мощный, что смог открыв ссылку на русском языке прочитать короткий информационный текст, перевести его на английский и выдать в ответ эти данные. То есть чатГПТ теперь получил еще один источник данных где фигурирует цифра 125 компов на 100 человек населения России.
И Россию помещают на 6 место! Я думаю посчитать правильно число компьютеров на страну для алгоритма способного на довольно сложные научно-технические расчеты не составит труда.
Хотя если перемножить 145 миллионов (грубая оценка) на 1.25 то получим 181 миллион. Ну пусть будет хотя бы 130 миллионов, сделаем скидку (в размере числа компьютеров в Великобритании, Россия щедрая душа).
Как ни в чем не бывало - новая цифра! То есть уже несколько раз фигурировали признания на уровне 97-102-130 миллионов компьютеров а РФ, и тут снова умышленное уменьшение. Каждый раз цифра уменьшается. Наводит уже на странные мысли.
Тут я вновь включил напор.
И вновь неудача, у русских экономику разорвали в клочья, а значит ... 34 миллиона ПК! Почему не 67??? Почему не 97? Откуда вообще эти цифры? С какого потолка?
Опять в текстовом ответе чатГПТ признает что в РФ 130 миллионов ПК, но почему тогда не хочет включать правильную цифру в список? После стольких споров и подкрепления данными.
Заключительная выбесившая меня цифра составила 40 миллионов, но в итоге я смог добиться цели! Россия получила свои 130 (хоть и не 181 милллион ПК) и законное 4 место в списке.
В заключении я не удержался передать пару теплых слов и свое вежливое возмущение технической и этическим командам компании OpenAI. В ответ куча шаблонных извинений. Но какой неутешительный вывод мы можем сделать?
Вместо вывода. Неочевидное и неутешительное
Нейросеть - отличный манипулятивный инструмент, и чем она совершеннее, тем более опасным и разрушительным, особенно в контексте информационно-психологических операций, может данный инструмент быть (и стать еще на порядок убийственнее уже через пару лет). А учитывая недавнюю заинтересованность в ИИ-сервисах таких исключительно мирных и несеящих хаос с разрухой по всему миру организаций как ЦРУ и Пентагон, логично ожидать активное развитие специализированных деструктивных версий таких сервисов на основе продвинутых языковых и графических моделей. Финансирование уже получено, а красивые слайды "как снова сделать США великой с помощью ИИ" для 4-звездных генералов и министров уже нарисованы. Как видим на примере выше, вввести в заблуждение уже 100+ миллионное коммьюнити пользователей чатГПТ вполне себе умышленным изменением статистики очень просто. А бесплатным сыром очень легко приманивать и в дальнейшем. Можно ожидать что за 2-3 года число пользователей увеличится еще кратно. Весь вопрос в том, насколько в наших силах добиться честного отображения информации? Сможем ли мы добиться для РФ "условного 5-места" там где оно есть на самом деле, или получим "стыдливо искаженное 10 место"? А очень велик шанс, что получим полный бан. То есть во вселенной чатГПТ у пользователей будет Россия с условными 30-34-40-67 миллионами компьютеров если очень попросить. А если не просить, то и этих цифр не увидишь. При том что вполне реальные 100+ миллионов ПК мирно трудятся в "поверженной дедом Байденом" экономике РФ.
