Заблуждение моральных абсолютов в эпоху ChatGPT
Несколько дней назад я наткнулся на комментарий об искусственном интеллекте.
В нём говорилось:
«Я блокирую людей, которые используют ИИ. Я блокирую тех, кто говорит другим, что пользоваться ИИ — это нормально. Я блокирую людей, которые используют ИИ для редактирования, тоже. Для идей. Для всего, что связано с творческим письмом.
«История в деталях» — телеграм канал для тех, кто любит видеть прошлое без прикрас, через неожиданные факты и забытые мелочи. Погружайтесь в историю так, как будто вы там были. Подписывайтесь!
Иногда мне кажется, что я перегибаю. Но нет, не перегибаю. Если вы используете ИИ — вы не писатель. Если вас задело это предложение — отпишитесь и отписывайтесь, пожалуйста».
Поначалу я хотел согласиться. Как человек, владеющий изданием, которое получало немало статей, написанных с помощью ИИ, я выработал довольно сильное мнение на этот счёт. Я испытываю отвращение каждый раз, когда кто-то присылает мне материал, который явно был сгенерирован ИИ. Обычно это не так уж трудно распознать — «автор» просто поручил написание роботу, дав ему какую-то общую тему для эссе.
Как писателю, который десятилетиями оттачивал английский язык, мне отвратительна сама мысль, что кто-то с уровнем английского шестиклассника просто вбивает запрос в Google Gemini или Grok и затем делает вид, будто проделал настоящую работу. То же касается и тех, кто пытается выдать сгенерированные ИИ изображения за свои, гордясь результатом лишь потому, что смог собрать воедино пару команд, с которыми программа справилась. Многие из тех, кто использует эти инструменты, делают это так, что это можно откровенно назвать жульничеством.
И всё же, есть одна повторяющаяся тема: те, кто занимают наиболее радикальные анти-ИИ позиции, чаще всего не в состоянии применять свои стандарты последовательно.
Одним из самых полезных применений ИИ в повседневной жизни я считаю его способность справляться с запросами, которые традиционные поисковые системы обрабатывают плохо. Долгое время в моей жизни были вопросы, на которые я хотел получить ответ, но при вводе их в поисковую строку получал лишь страницы с повторяющимися ключевыми словами. Я смирился с тем, что более сложные запросы останутся без ответа — или будут ждать, пока я не найду нужного эксперта, чтобы он их прояснил.
Ещё один аспект ChatGPT (в частности, голосового помощника), который я ценю — это то, что это редкое технологическое новшество, которое помогает мне лучше взаимодействовать с окружающим миром. Когда я в поездке хочу что-то узнать, мне не нужно лазить по Reddit, отвлекаться от окружающей обстановки или отходить от людей, с которыми я нахожусь. Когда мы с друзьями гуляем по тропинке, и кто-то начинает размышлять, почему то или иное дерево выглядит так странно, — я просто спрашиваю. Пара нажатий — и мы радуемся тому, что можем получать ответы так футуристично.
Мне также нравится возможность вести непрерывный диалог и задавать вопросы, исходя из предыдущих.
Например, я могу спросить: «Какая погода в Белизе в июне и июле?» — а затем сразу же продолжить: «Насколько утомителен их сезон дождей и как к нему лучше подготовиться?» или «Может быть, какие-то соседние латиноамериканские страны в это время года более подходящие?» Да, у системы по-прежнему есть недостатки: она «галлюцинирует» и требует проверки. Но по большинству запросов, по большинству тем, она справляется отлично. Во многом она, наконец, реализует те надежды, которые люди возлагали на Siri при её запуске.
Кроме удовлетворения любопытства о мире, ИИ помогает мне становиться лучшим писателем даже тогда, когда я не пишу. Будь то прогулка с собакой или поездка на машине — лучшие идеи часто приходят ко мне вдали от компьютера. И, как и во время написания, я начинаю размышлять: как лучше это выразить? Какие существуют тонкие различия между, скажем, «curt», «terse», «brusque» и «laconic»?
Это многое говорит о моей страсти: я провожу свободное время, разбирая такие нюансы и консультируясь с ChatGPT, чтобы прояснить тонкие оттенки значений. Это свидетельство того, что куда бы я ни пошёл — моя страсть к письму следует за мной. И мне кажется поразительным, что эта технология дала мне доступный способ размышлять о языке где угодно, где есть связь.
Я искренне верю, что ИИ способен помочь писателям выражать свои мысли лучше — и, что важнее, так, чтобы это оставалось с ними даже после выключения программы. Жаль, что мы так часто видим, как люди без языкового опыта просто пытаются обойти путь становления писателем. Те позорные случаи, когда человек входит в сферу и сразу же передаёт весь процесс выражения мысли на откуп автоматике.
Именно потому, что я так страстно люблю своё дело, я отказываюсь позволить ИИ делать это за меня. Какими бы хорошими ни становились эти модели, это не изменит того, что я начал писать, потому что люблю это. Это не какая-то рутинная работа, которую делают от безысходности. ИИ не избавит меня от бремени — он лишь отнимет радость. Отнимет тот приятный, поучительный и даже катарсический процесс выражения своих идей.
Но даже «пустота» — это преувеличение. Когда мы просим ИИ выразить наши мысли за нас, сам творческий процесс испаряется. Исчезает эта восхитительно мучительная проба и ошибка, попытки найти правильный способ передать нашу мудрость и опыт. Разница — колоссальна.
Когда ИИ только появился, я часто использовал аналогию с GarageBand: если программа, демократизировавшая музыку, не уничтожила музыкантов — почему ИИ должен уничтожить авторов? Но сейчас я понимаю, что это было чрезмерное упрощение проблемы, слишком сложной, чтобы выразить её словами.
Угроза, которую ИИ представляет для всех творцов — нечто, что трудно переоценить. Думаю, через 10 лет наша жизнь изменится до неузнаваемости. ИИ не просто помощник творца — он способен украсть, имитировать наш образ, а возможно, однажды и заменить нас.
Но это не значит, что он лишён достоинств или не может помочь авторам стать более творческими. Главная задача — понять, в какой момент программа, помогающая глубже анализировать слова и их связи, становится кибернетическим «допингом». Когда она позволяет выражать то, чего человек не способен выразить сам.
Мне кажется, один из самых действенных тестов на «жульничество» — это неспособность автора устно обсудить идеи из своего текста. Иногда даже диалог по переписке способен разоблачить обман. Когда я помечаю статью как подозрительную, ответ автора часто написан совершенно другим голосом. Идеальные фразы исчезают, появляются громоздкие предложения — и маска спадает.
Студент может списывать всю четверть, но на экзамене это его не спасёт. Когда мошенники выдают тексты, сгенерированные ИИ, за свои — это может пройти мимо внимания неопытного читателя, но рано или поздно фальшь проявится.
Категорическое «всё использование ИИ — это обман» трудно применять, когда так много сайтов и приложений уже опираются на него. От Siri и Facebook до Grammarly и Dictionary.com — мы уже привыкли к алгоритмам. Считать, что весь ИИ — зло, не выдерживает критики. Чтобы быть последовательным в этом мнении, пришлось бы удалить все соцсети и уехать в лес.
Когда я только начинал писать профессионально, я часто пользовался толковыми словарями и спрашивал Siri о значениях слов, чтобы подобрать наиболее подходящее по контексту. Вряд ли кто-то увидит в этом этическую проблему. Но если теперь сказать тем же коллегам: «Я иногда использую ChatGPT, чтобы прояснить различия между синонимами, понять их уместность в конкретных предложениях и происхождение» — чаще всего они реагируют осуждающе.
С одной стороны, эти опасения нельзя полностью игнорировать. Но с другой — в их реакциях я вижу тот же рефлекторный страх перед новым, который был при появлении звукового кино, цветного ТВ и компьютеров.
Когда мы полностью пишем статью, а потом используем чат-бота, чтобы найти повторы, опечатки или подобрать более точный синоним — он играет роль продвинутого проверяльщика орфографии. Тем не менее, часто это вызывает бурную реакцию, как будто сам факт помощи ИИ уже обесценивает труд. Пуристы тут же заявляют, что это «уже не писательство».
Но по правде говоря, чтобы полезно применять ИИ, нужно иметь предварительный талант. Без литературного чутья легко принять любой текст от Gemini за «нормальный». Только настоящий автор знает, какие вопросы нужно задать, какие ответы полезны, какие советы применимы. Как использовать его обратную связь для дальнейшего роста.
А рост — это именно то, что должно происходить при редактировании. Но не у всех есть редактор, готовый добровольно помочь.
По мере изменений в мире, я стараюсь быть на стороне эмпатии и понимания. Мне вспоминается образ муравьёв в банке: их сталкивают лбами, но они не понимают, что виновата внешняя сила. В истории с ИИ мы — эти муравьи, и наш конфликт не по нашей вине.
С тем, что ИИ появился почти без предупреждения, без надлежащей проверки и регулирования — я согласен с самыми ярыми критиками. Это вызвало массу проблем. Легко обвинять каждого, кто пользуется этим ПО, и считать всех нас частью проблемы. В этом, может быть, есть доля истины. Мы кормим машины данными, которые часто были взяты без нашего согласия. Для многих именно в этом кроется отвращение к ИИ — в воровстве.
Но воровство — не только прерогатива ИИ. Оно — основа современного интернета. Социальные сети, поисковики, алгоритмические ленты новостей — всё это давно использует наши данные, предпочтения и поведение. LLM вроде ChatGPT — всего лишь продолжение этого. Я не оправдываю нарушения свободы, но указываю: интеллектуальное воровство стало столь же обыденным, как переход дороги в неположенном месте.
Как и в случае с другими цифровыми технологиями, нельзя обвинять только пользователей. Наш гнев стоит направлять на тех, кто знал, что делает, выпуская этих «джиннов» из бутылки.
Мы можем до бесконечности ругаться с теми, кого алгоритмы научили нас ненавидеть. Или можем обвинить тех, кто создал платформы, поощряющие эти конфликты. Мы можем демонизировать всех, кто использует ИИ. А можем осознать масштаб поворотного момента, в котором мы живём.
Что значит быть человеком на заре ИИ. Одновременно восхищаться его возможностями и бояться последствий.
Я стараюсь помнить, что всего несколько лет назад такое было трудно представить. Это дилемма — всего лишь ещё один странный элемент жизни в безумное время.
Для тех, кто всегда хотел рассказать истории, но не мог подобрать слов, генеративный ИИ — это, возможно, освобождение. И я только могу представить, каково им услышать: «Ты не имеешь права на эти мысли. Это не твоё». Что экран перед ними — результат чужого времени и таланта.
Этических вопросов — масса. И нет единственно верных ответов.
Может быть, мы по уши в мутной воде. Но мы также — в эпоху беспрецедентных возможностей. Отрицать, что мы подошли к судьбоносному распутью, бессмысленно.
Мы в реальном времени пытаемся понять, что значит быть настоящим человеком в новом веке. У меня самого нет ответов. Но я точно знаю: прятаться в песок и вешать ярлыки — не выход из этой бури.
ИИ — это ящик Пандоры, который мы уже открыли. И обратно он уже не закроется. Но это не значит, что мы должны принимать всё без вопросов. Однако и позволять страху ограничивать воображение — тоже нельзя.