Итак, кто сейчас не говорит и не сталкивается с ИИ (с так называемыми "нейросетями")? Практически все знают, что можно быстренько запросить какой-нибудь текст, картинку или даже песню у "нейросети" - и будет готово. Насколько хорошо или плохо - второй разговор, но что-то будет. И вот появляются опасения, вплоть до сценария известной серии про терминаторов или прочих вариантов "захвата мира". Но здесь мы не будем обсуждать столь глобальные риски, этому стоит посвятить отдельную статью. Пока стоит поговорить о более локальных опасностях.
Итак, каждый, кому не лень, говорит о возможном сокращении рабочих мест. В условиях России с огромным дефицитом рабочей силы к подобной фразе можно отнестись весьма скептически, но мало ли, есть же довольно уязвимые профессии, где скорее есть дефицит рабочих мест, нежели дефицит рабочей силы. Итак, кому и как стоит бояться нейросетей, мифы и реальность. Начнём с реальных вариантов и будем постепенно двигаться к гипотетическим и мифическим.
1. Тем, у кого работодатель - идиот. Здесь логика бессмысленна. Если идиот загорелся какой-то идеей, пусть даже услышанной им от кого-то ещё, он готов разрушить всё до основания прежде чем поймёт, что идея-то нереальная. И появление ИИ в этой сфере мало чего поменяет, всего лишь ещё один повод начать сокращать и урезать "лишних" работников.
2. Тем, кому по должности надо генерировать контент посредственного качества (и с низким уровнем ответственности за это качество), но в большом объёме - будь то тексты, картинки (например, рекламные), музыку/песню, речёвки, поздравления. Да, ИИ может с таким справиться. Только вот для приемлемого результата за компьютер надо посадить человека, чтобы он выбрал более или менее хороший вариант. То есть, одна работа будет заменена другой. А поскольку оценивать лучше опытному профессионалу, то люди вполне могут рассчитывать остаться на своих местах. Разве что некоторым пенсионерам будет сложно приспособиться к работе с ИИ, но это было, есть и будет. Другое дело, что у кого-то объём работы почти не изменится (например, при составлении небольших текстов), а у кого-то уменьшится на порядок (например, создание музыки или разработка видеоклипов). И вот последних могут и подсократить.
3. Различные советники и консультанты. Возможно, но очень осторожно. Если опытный консультант понимает, что можно советовать, а что - нет, то ИИ, по крайней мере нынешний, легко может "подсказать" закупить более распространённую деталь, отличающуюся парой букв в маркировке. Даже если на просторах интернета, пусть и не в топ-10 поиска, эта ловушка о несовместимости явно описана. Равно и прочие "решения", когда реальность граничит с фантастикой. Да, советовать ИИ будет человеку, который теоретически должен понять явную глупость, но если этот начальник - не особый профессионал? И вот в строгом соответствии с рекомендациями ИИ он поручит подсобным рабочим выполнять действия с виду связанные с темой, учитывающие "новомодные веяния", но... Дающие противоположный результат (тестировал я DeepSeek, задавая вопрос, как сохранить печень трески в замороженном виде до производства консервов, и вот эта сетка всё время мне советовала применить ферментные препараты, что в данном случае, наоборот, ускорит все негативные процессы - а директор-непрофессионал это знает? Кстати, "Алиса" со встроенным ИИ сразу нашла в интернете то, что я подразумевал).
4. Различные секретари и прочие лица, занимающиеся работой с документами. На самом деле, сейчас мы подходим к гипотетической/мифической части списка. Во-первых, работа секретаря - не только и не столько подготовить проект документа (который сейчас, кстати, ИИ готовит не всегда хорошо, и уж точно не отвечает за качество), сколько согласовать его у десятка лиц. А мы живём в России, так что электронный метод согласования работает... С пятого на десятое. Где-то работает, где-то буксует, где-то нужен телефон (с чем электронный секретарь может справиться, но ещё хуже) а где-то надо прийти лично, и иначе никак.
5. Учителя и преподаватели. На самом деле, нет. Если с объяснением сложной темы более или менее простыми словами ИИ справится (не без ляпов, конечно!), то дальше будет проблема. Во-первых (и это самое малое), хороший преподаватель даже на лекции "подстраивается" под аудиторию, задаёт наводящие вопросы и реагирует на ответы, объясняя непонятное и, наоборот, сокращая то, что уже всем в аудитории известно. Справится ли с этим ИИ, даже на основе большой языковой модели? Теоретически - да, практически - лучше даже не пробовать, по крайней мере, сейчас. Почему? Да потому, что очень велик риск, что ИИ уйдёт не туда. Начнёт объяснять совсем другую тему совсем другого предмета, которая будет раскрыта в вопросах. Кто-то скажет, что и живые преподаватели этим иногда страдают. Я отвечу - и да, и нет. Хороший преподаватель может "разбавить" сухую лекцию уходом от темы, живыми примерами (пусть даже не идеально перекликающимися с изучаемым материалом), организационными вопросами, может быть - лёгкими нравоучениями. Но он всегда следит за временем. И если у него есть некоторый запас (а это нормально), то он может заполнить его и вот так тоже, если же нет - он будет пресекать попытки уйти от темы. ИИ же рискует вообще больше не вернуться к теме занятия. Может, в будущем это и поправят, но... Второй нюанс - работа преподавателя - не только дать материал, но и спросить его. И вот тут ИИ пока откровенно слаб. Причём как в организационном плане (как технически организовать, чтобы ИИ проследил, чтобы студент не подсматривал в другой гаджет, переадресуя вопрос другому ИИ?), так и в фактическом оценивании. По крайней мере, пока. Современные системы "дистанционного обучения" пока нацелены, скорее, на выполнение тестов нежели на живую дискуссию, которая критически важна для любого полноценного обучения.
6. Врачи. Ещё того не легче. Хотя нынешние врачи (пока больше за рубежом) периодически обращаются к ИИ за помощью с диагнозом, но это пока только помощь, не более того. Плюс врачи пока выполняют очень много ручных манипуляций (послушать дыхание, оценить рефлексы, посмотреть горло, рот, глаза). Может, в перспективе это и сдвинется, но тут мы переходим к ответственности. Врача накажут, если он поставит критически неверный диагноз (имея на руках все данные для того, чтобы его отбросить как невозможный), а что делать с ИИ? Кого наказать, кого в крайнем случае посадить? А нынешний ИИ с его "точностью" и отношением к "негативным подсказкам" легко может выписать лекарство, которое уже известно, что противопоказано данному пациенту, просто написано это где-то раньше в истории болезни.
7. Подсобные рабочие уровня "подай-принеси". Пока у нас нет универсальных роботов в массовых количествах, точно и безошибочно исполняющих указания, таким людям бояться нечего (сейчас полно роботов, выполняющих какие-то конкретные функции, но заставить, например, робота-танцора сбегать в соседнюю мастерскую и взять там ключ на 50 пока вряд ли получится). Впрочем, кто-то скажет, что до универсальных роботов осталось очень недолго, какие-то варианты уже есть, но... С работниками они ещё не сравнятся.
Кто-то скажет, что это - временные трудности, что в будущем всё изменится, но сейчас проблем больше, чем решений. ИИ есть, работает и является неплохим инструментом, но всего лишь инструментом, а не заменой человека во всём и сразу. Перечислю основные недостатки и проблемы, ограничивающие действия по замене живого человека системой ИИ:
1. Отсутствие человеческой мотивации и опыта. С детства человек знает, что ему хорошо, а что - плохо. Он знает, что трогать горячий утюг нельзя, что падать с высоты опасно (а самому без специальных средств в небо не взлететь), что бензин принципиально несъедобен и т.п. Для ИИ всё это - абстрактные фразы, которые здесь работают, а там - нет (сколько в мире фантастики, где всё наоборот? И она вполне могла попасть в большую языковую модель, на основании которой ИИ даёт свои заключения). Да, иногда это может сработать как "свежий взгляд", может, даже позволит прийти к чему-то правильному, но чаще всего приводит к глупостям (https://vc.ru/services/1193458-sedat-po-kamnyu-v-den-i-zapravlyat-pastu-benzinom-kakie-strannye-sovety-polzovateli-poluchili-ot-neiroseti-v-google)
2. Отсутствие ответственного лица. В России без этого ну никак нельзя. "У каждой проблемы есть имя, фамилия и отчество" (С). Пока у нас не решён вопрос с концепцией отсутствия ответственного в работе ИИ, большей роли, чем вспомогательный советник при квалифицированном специалисте ему ожидать не стоит.
3. Перескок с реальности на выдумку и наоборот. Человек, не зная ответа на вопрос, может предположить, но обязательно выскажет свои сомнения в этом (по крайней мере, после нескольких случаев неудачного опыта - точно). ИИ - вряд ли. Он легко может выдавать совершенно неверный ответ, не демонстрируя в нём ни тени сомнения. Хорошо если этот ответ явно невозможный, а если он (на непрофессиональный взгляд) выглядит красиво, и будет принят большим начальством как руководство к действию?
4. Плохая работа с нормативными документами. Вот это я проверил и при тесте, и столкнулся в профессиональной деятельности (когда проверял студенческие работы, по факту написанные ИИ, как в конце концов студенты признавались). Первый вариант работы может быть условно приемлемым, на "троечку с минусом". Но да, то тут стоит устаревший ГОСТ, то там документ распространяется на другую отрасль... Короче, с десяток не таких уж больших замечаний наберётся. Но стоит только об этом сказать ИИ... Он тотчас же исправит, хорошо исправит. И вот это исправление будет таким... Как тут не процитировать Маршака: "За это, - мать сказала строго, - И единицы слишком много!"(С). ИИ начинает придумывать свои документы. Номер один, а название - такое, какое было бы надо. А теперь представьте себе, что эта работа не сдаётся на проверку преподавателю (который сначала посмеётся, потом слегка разозлится, а потом и нерадивый студент поймёт, что он "что-то делает не так"), а напрямую пойдёт в отчётные документы работающего предприятия? В которых будут ссылки на несуществующие нормативные документы! Вот будет предписание "приостановить работу и прекратить выпуск продукции до устранения недочётов", и мы вернёмся к самому первому в статье варианту. В чём тут беда? Возможно, помимо всего прочего, дело в авторском праве! Одной из задач нейросети является генерация нового контента, не задевающего старые авторские права. Как следствие, уже имеющиеся названия нормативных документов, зачастую достаточно длинные, воспринимаются как нежелательные для неизменного цитирования. А вот придумать нечто совершенно новое - это уже "интересно". Тот факт, что нормативные документы (и тем более - их названия) не защищены авторским правом, не имеет значения. Кстати, писали, что аналогичным образом нейросеть поступает с цитатами известных людей: приписывает им то, чего они не говорили вместо правильного цитирования.
Итак, общий вывод: ИИ - вполне интересный инструмент, который можно и нужно использовать, но с очень большой осторожностью. Он может облегчить работу офисных и бюрократических работников, но из-за огромной перегрузки (в том числе и вследствие последних "оптимизаций") всего лишь уменьшит её (за редким исключением - генерации вспомогательного и развлекательного контента посредственного качества). Впрочем такое уже было: пишущие машинки заменялись компьютерами, классические библиотеки потихоньку вытеснены электронными... Да, жизнь меняется, но серьёзных сокращений работников не было. Ну, кроме совсем уж не способных освоить новую технику.
Другие аспекты, которые могут причинить вред человечеству - молодые люди могут утрачивать возможность думать самостоятельно. Если раньше надо было искать материал в библиотеке (в лучшем случае - в настольных справочниках) и помнить "разумный минимум", чтобы успешно отвечать на вопросы, потом проблема решалась анализом десятка источников, выдаваемых поисковиком (но не всегда, на ряд вопросов поисковик подбирал материал крайне плохо; впрочем, много раз я сталкивался с ситуацией: ищу материал по своей тематике, нахожу очень хороший источник, прямо всё по теме, смотрю список авторов - и обнаруживаю себя и коллег), то сейчас ответ нейросети предлагается сразу. Вопрос, насколько он точный и корректный... Но решения те же: часть заданий ученики и студенты должны выполнять в отрыве от доступа к сети (тесты, собеседования), другие же следует нацеливать так, чтобы нейросеть была явно слаба в этом.
Да, я согласен, что ситуация может постепенно меняться, что появятся роботы, способные заменить тысячи подсобных рабочих (особенно мигрантов, которые с трудом понимают русский язык, так что могут путаться в выполнении заданий), но это пока всего лишь перспектива.