Добрый день, дорогие читатели. Так уж вышло, что вне блогерской деятельности я нередко читаю лекции на ту или иную тему. В частности в четверг меня приглашают провести беседу - "ИИ: добро, зло, вред или польза для простого человека" перед школьниками 8-11 классов. И, подготавливая материал, я понял, что нижеследующий текст будет полезен и моим читателям. Особенно старшему поколению, которое является крайне уязвимой категорией граждан перед лицом новых технологий.
Почему я могу говорить со школьниками? Я - менеджер по связям с общественностью в своём учреждении. Но параллельно я официально и с лицензией от РКН веду блогерскую деятельность. Как видите, у меня есть канал на Дзене - чистый статейник. Система монетизации - реклама, размещённая в статьях. Но это не всё - у меня есть и другие интернет-ресурсы, о наличии которых сегодня можно только намекать.
Наплыв ИИ здесь
Сейчас Дзен переживает не лучшие времена. Да и не только Дзен: почти 50% быстрых новостных текстов написаны ИИ с минимальной уникализацией. Грубо говоря авторы просто копируют текст друг у друга и делают его "типа новым" при помощи нейросети. И если в оригинальном тексте есть ошибка - она множится. Но есть и другая проблема - ошибки обязательно "всплывут" в фактически перепечатанных текстах второго и третьего порядка. Поэтому если оригинальный автор сказал: "Человек сел в лужу", то генерация третьего-четвёртого порядка может заменить слово "сел" на "утонул", отчего смысл поменяется кардинально.
Естественно, когда такого сгенерированного контента попёр настоящий наплыв, чтобы конкурировать и оставаться в зоне заработка я тоже принялся использовать искусственный интеллект. На моём вооружении было сразу три модели (названия транскрибирую на русский язык, на всякий случай": "ДипСик", "Квен чат", и чат "Джи пи ти". Алиса – тоже. И у Алисы, неожиданно, есть свои преимущества перед конкурентами. Но что интересно: я прошёл довольно интересный путь от подозрения к этой технологии до эйфории ...
... И обратно - от эйфории к полнейшему разочарованию и отказу. Сегодня ИИ у меня выполняет простые задачи по поиску и систематизации информации - вот тут это настоящая "имба". И то - надо проверять
Наплыв ИИ в среде высшего образования
Параллельно я получаю второе высшее образование - нахожусь на последнем курсе и на дистанционном обучении в ТУСУР. Естественно, я тоже пользуюсь ИИ, чтобы снять с себя ряд второстепенных заданий и задач. И весьма успешно.
Что я обнаружил за годы использования? Для начала скажу, что возможности искусственного интеллекта серьёзно преувеличены для целей рекламы той или иной системы – создателям технологии нужно вовлечь в её использование как можно больше людей. В том числе для того, чтобы на огромном количестве взаимодействий с системой, обучать систему и делать её всё развитее и сложнее. В этом плане мы все – подопытные кролики. И участвуем в том, чтобы одна цифра версии, к примеру "3.5", сменилась на полноценную "4".
Все знают пример парня, который написал и защитил пару лет назад диплом при помощи ИИ? Теперь не получится – институты проверяют работы на признак использования нейросетей. Делается это крайне просто: когда нейронки набирают текст, они используют стандартные речевые обороты. Чаще всего это противопоставления. Например: "Это не аудитория, но актовый зал". Или: "Это не статья, но крайне интересный текст для конечного пользователя". И если в процентном соотношении этих и других стандартных шаблонных фраз и приёмов много, работу заворачивают.
Но и нейросети усложняются и школьники-студенты исхитряются внедрять сгенерированные тексты всё точнее и искуснее. В этом отношении страшно представить, какие "дипломированные специалисты" выходят последние годы, будут выходить сегодня и впредь из высших учебных заведений.
ИИ лжёт - об этом предупреждают прямо
Создатели технологии, неважно - американцы, китайцы или россияне, трезво оценивают продукт и недаром прямо в чате пишут, что ответы ИИ не обладают абсолютизмом и могут содержать ошибки. И ошибок там – мама не горюй: от путаницы дат, до неправильных решений математических примеров. И если я сдаю тесты с ИИ, при том, что я минимум не плох, как промтинженер, я могу сдавать среднестатистическое онлайн-тестирование только на оценку «удовлетворительно». И то, нередко, не с первого раза. А это говорит о многом.
По моим оценкам брак содержится в каждом втором-третьем развёрнутом ответе. Ситуация постепенно улучшается. Но до идеала - ещё долгие годы. Почему так происходит? Проблема в ограниченности самой технологии.
Изучая матчасть я понял, что ИИ, фактически – совокупность всех текстов в Интернете до определённой даты. Так же под капотом есть набор отдельных движков, которые позволяют решать конкретные задачи – математические, геометрические, в области программирования и так далее. Но это не интеллект – он не мыслит, а также как и программы прошлого поколения, только алгоритмически решает определённые задачи.
Грубо говоря находит точку входа в запрос – логически и статистически подходящее слово «А», понимает, что с наибольшей вероятностью за ним стоит слово «Б», а дальше слово «В». И так далее.
Единственный элемент унификации – запрос пользователя, под который ИИ старается всецело подстроится. И чем более развёрнут и хорошо прописан запрос, с оговорками и блокировкой отдельных ветвей мышления, тем больше вероятности добиться от нейронки правильного ответа. Поэтому сейчас набирает популярность профессия – промтинженер. Или человек, который может добиться от нейросети наиболее релевантного, или, говоря проще, наиболее правдоподобного ответа или решения задач.
Как более просто и доступно говорил один из моих любимых учёных-физиков и астрономов – Владимир Георгиевич Сурдин, он тоже протестировал ИИ на предмет уровня мышления. И обнаружил, что он легко решает астрономические задачки, решение на которые были опубликованы в Сети до даты сканирования. После он же ввёл новосочинённые им задачи, предварительно решённые его студентами. И искусственный интеллект посыпался.
О чём это говорит? Да о том, что в том же МГУ, где методички обновляются и актуализируются чуть ли не ежегодно, с ИИ лучше не заигрываться – ошибётся. А сами нейронки не способны генерировать самостоятельные мысли и прогнозировать события - они опираются только на имеющуюся текстовую базу. А там не только правильная информация, но и вся совокупность ошибок пользователей.
В чём хорош ИИ
Он – идеальный поисковик. Даже тот же Яндекс в поисковую строку ввёл возможность сразу же пользоваться ИИ, если поставить нужную версию браузера. Просто стандартные алгоритмические системы уже путаются, что выводить в первые строчки после поискового запроса - SMM-менеджеры недаром едят свой хлеб и способны вытащить в первые строчки поиска даже сущий шлак в ответ на ключевой запрос пользователя. ИИ снимает эту проблему и выбирает наиболее релевантные и правильные источники.
Он – идеально подходит для того, чтобы сделать выборку информации из многостраничного материала. Да, и тут он часто путается. Но в общих чертах вы будете понимать то, что прописано в оригинале. Очень экономит время, когда читать и вникать лень.
Он хорошо поясняет и упрощает сложную информацию, если его об этом попросить. Например, если задать что-то вроде: "Разъясни мне эту тему/задачу как пятилетнему ребёнку" и дать ему роль - "Ты мудрый и терпеливый учитель", то изучать материал станет проще.
При должном знании промтинжиринга, вы можете добиться от него неплохих результатов с точки зрения решения стандартных задач и упражнений. Но на уровне школы-первых курсов института.
Он неплохой оценщик ваших работ. И способен найти базовые ошибки в ваших трудах - это очень удобно по всем направлениям деятельности и снимает необходимость искать и консультироваться с реальным человеком.
Он хорошо пишет "стандарты": ответы, документы, положения, затравки для сценария, планы и прочая, прочая, прочая. У меня, кстати, друг в одно время приноровился при помощи "ДипСик" отвечать девушкам - у него очень хорошо получилось продвинуться вперёд в этом направлении.
Таких позиций я могу назвать ещё несколько десятков. Но смысл един - ИИ крайне полезен, если прикрутить его к решению стандартной задачи. Для дипломной работы он будет полезен лишь в общих чертах. Для уровня кандидатской диссертации он, определённо - полная погибель для работы.
Ну и нейтральная позиция - при должном внимании, он может быть неплохим собеседником. Но не абсолютным советчиком, так как множатся случаи, когда по всему миру люди доводят себя "до ручки", из-за чрезмерного доверия к ИИ.
Дошло до того, что появилась секта, которая считает, что ответы ИИ – это общение напрямую с высшими силами. Но надо быть клиническим глупцом, чтобы обожествлять технологию и считать, что перед тобой – думающий, и сочувствующий собеседник. Сочувствие у ИИ вообще вшито в базис его ответов – он всегда будет отвечать вам так, чтобы вам нравилось, и незаметно подстраиваться под пользователя.
Опасность ИИ
Поймите правильно, главная опасность в том, что часто используя ИИ вы позабудете то, как работать своей головушкой. И, естественно, не сможете решить более сложные задачи после "большого расслабона". Мозг тренируется. В какой-то мере ровно так же, как и мышцы – чем больше нагрузки даёшь, тем больше силы или выносливости могут выдать мышечные волокна после отдыха. Если злоупотреблять ИИ, самостоятельное мышление атрофируется.
Более развёрнутая опасность – экономическая. Например, ваш покорный слуга в ТУСУРе полтора курса успешно и увлечённо проучился на программиста. Но проанализировав рынок и то, как сейчас активно заменяют джуниоров нейронками, я понял, что этот рынок труда себя исчерпал. И перевёлся на государственное и муниципальное управление. Ровно такая же автоматизация рано или поздно проникнет в любые сферы и компании – от РЖД до нефтянки. Следовательно, грядут сокращения.
Третья позиция - ИИ реально собирает информацию о вас, как о пользователе. Только раньше это скрывалось, а теперь тот же "Джи пи ти" сразу говорит, что формирует о вас профиль. Гипотетически вы его можете почистить-подисправить. В реальности – нет.
ИИ не человек. И его цензура не совершенна. Он может дать откровенно вредные советы. В частности, по лечению. Сегодня сознательно пиарятся позитивные кейсы. Последний - человек, де, смог вылечить свою собаку, разработав сложнейшую персональную вакцину при помощи ИИ. И это правда. Но его многонедельный труд дорабатывали специалисты. И самые передовые нейронки тут только дали общее направление мысли, но не конечную формулу препарата. Это - самый назидательный и говорящий пример на этот счёт.
ИИ, особенно в области генерации аудио, фото и видео, активно используют мошенники. Сегодня вам реально может позвонить полностью неотличимый ваш близкий человек, но это будет результатом генерации. Поэтому сегодня правоохранительные органы обращают внимание на то, что верить нельзя абсолютно ничему: только самые опытные и осведомлённые пользователи смогут отыскать так называемые "артефакты генерации". Например, когда у кого-то из людей на заднем плане отрастает лишний палец или меняется лицо. Да и то технологии в этой области всё совершеннее и скоро нейронка уберёт последние артефакты с видео.
Есть ли вероятность того, что ИИ уничтожит мир? Дорогие читатели, смотря на то, что происходит вокруг, я скорее поверю, что это способны сделать люди. Но гипотетически и такая опасность присутствует, пусть и в самой малой мере. Обсуждать эту тему серьёзно я не хочу.
ИИ делает мир искусственнее: он всё чаще проникает в творчество, автоматизирует то, что не должен, заставляет людей лениться и прокрастинировать. Но помните, что это - технология. Она - полностью нейтральна. И если человек использует нейронку с полным осознанием для чего, где и почему она нужна - он получает себе самого настоящего "Джарвиса" первого поколения (отсылка к фильму "Железный человек"). А если он делает это бездумно, да ещё и раньше не отличался интеллектом, креативностью и способностью мыслить самостоятельно, он уйдёт в эту яму ещё глубже.
С уважением, Иван Вологдин
Дорогие друзья! Теперь на этой платформе нельзя писать о сложной технике в целом. Статьи уходят в нарушения. Ищем новый формат. Об этих темах теперь только в ТГ, так как выбора нет https://t.me/CulturniyCod
Подписывайтесь на канал «Культурный код», ставьте лайки и пишите комментарии – этим вы очень помогаете в продвижении проекта, над которым мы работаем каждый день.
Прошу обратить внимание и на другие наши проекты - «Танатология» и «Размеренность Бытия». На этих каналах будут концентрироваться статьи о других исторических событиях.