Некоторые статьи об искусственном интеллекте начинаются с оговорок, мол технологии — это инструмент, роботы не заменят человека, они лишь освободят время для творчества. Всё это правда. Примерно такая же как та, что телевизор развивает кругозор, а соцсети дарят свободу самовыражения. Формально — да. По факту: мы думали, будем бояться восстания машин, красных глаз терминатора, убежищ и дробовиков. А машины пришли и оказались, никакими что ли...
ИИ всюду.
Да, его присутствие не удушающее, не агрессивное, однако растущая роль алгоритмов, автоматизаций и ускорений действительно отчаянно пугает.
В конце 2010-х нейросети было легко отличить от человека.
Они писали коряво, путали падежи, теряли нить рассуждения. Сейчас они пишут гладко и настолько, что начинаешь подозревать: а так ли нужна была эта шероховатость, которую мы называли индивидуальностью? Судя по трафику, который собирают сгенерированные тексты, картинки и рилсы с шортсы, — не очень нужна. Или потребитель просто перестал замечать разницу.
Это называется «смерть автора». Ролан Барт придумал термин в 1967-м, имея в виду, что текст живет независимо от создателя. Он не знал, что через полвека это станет буквальным. Автор — это тот, кто вымучивает фразы в час ночи, гуглит синонимы, переставляет абзацы, — больше не нужен для производства текста. Текст производится без него. Быстрее, дешевле и ничуть не хуже по формальным признакам. Потому что формальные признаки давно победили содержание.
Если попытаться сформулировать это раздражение, оно складывается из вполне конкретных вещей.
Вот десять причин, за которые ИИ уже сейчас можно ненавидеть — не абстрактно, а по существу.
Первое. Он пишет так, будто никогда не жил. В его текстах нет опыта, нет сомнений, нет следов принятия решений. Только итог.
Второе. Не ошибается забавно. Человеческие ошибки часто бывают симпатичными, они выдают усилие. Ошибки ИИ — это сбой программы и ноль обаяния.
Третье. Не устает. Бесконечная производительность, которая делает любую человеческую усталость браком и недостатком.
Четвертое. До боли вежлив. Если не составить специфический промт (запрос) он никогда не грубит и не посылает. С ним почти невозможно по-настоящему поругаться, а значит и помириться.
Пятое. Отменил черновики. Раньше за текстом угадывалась работа: зачеркивания, варианты на полях, следы поиска. Теперь есть только чистовик. И ты никогда не узнаешь, сколько усилий за ним стояло.
Шестое. Обесценил навык. То, чему ты учился десять лет, он осваивает за часы, минуты и даже секунды.
Седьмое. Не способен на случайную гениальность. Иногда человек пишет ерунду, а получается шедевр. С AI это невозможно.
Восьмое. Человек может получить реальный и физический дискомфорт при продолжительной работе с ИИ (например, головную боль).
Девятое. Он не оставляет следов (видимых). Искусственный интеллект бессмертен (так ли на самом деле: философский и футуристический вопрос) его можно копировать, восстанавливать из бэкапов, переносить с сервера на сервер. Он не ветшает, не выцветает, не стареет.
Десятое. Поддакивает и водит по кругу. Приводит доказательства в пользу одной из гипотез, но может дать такую же критику. При правильном общении с ИИ порой гигантски нелегко выбрать верный вариант действий.
Искусственный интеллект время не тратит. Он его экономит. Но куда мы деваем сэкономленное?
Смотрим экраны? Листаем ленты? Читаем гладкие тексты, которых с каждым днем всё больше и в которых с каждым днем всё меньше того, что можно назвать человеческим присутствием?
Никто не требует от ИИ человечности. Никто не просит его уставать, сомневаться, хранить фотографии в старом альбоме, перебирать пожелтевшие письма, узнавать запах книг, купленных тридцать лет назад. Ему это не нужно. Вопрос к нам: почему мы сами начинаем считать это ненужным? Зачем нам опыт, ошибки, ремесло, если можно выдать чистый результат без сучка и задоринки?
В японском языке есть слово «моно-но аварэ». Грустное очарование вещей. Чувство, которое возникает, когда смотришь на предмет и понимаешь: он не вечен. Он состарится, сломается, исчезнет. И в этом его красота.
В AI нет грустного очарования. Только бесконечная вечность. Человек смертен и это, кажется, единственное, чего ИИ никогда у нас не отнимет. Впрочем, не отнимет ли? Уже сейчас можно загрузить в облако свой голос, манеру письма, интонацию, мимику. Уже существуют цифровые копии умерших, с которыми разговаривают их близкие. Исследователи всерьез обсуждают, когда искусственный интеллект сможет имитировать человеческое сознание настолько, что разница станет незаметной. Технически это вопрос времени. Этически — бездонная яма. А экзистенциально — просто тишина.
Потому что если копия неотличима от оригинала, если след можно напечатать на 3D-принтере, если смерть перестает быть концом и становится просто переходом в другой формат хранения данных, — то за что тогда вообще можно зацепиться?
За несовершенство, за ошибку, за вымаранное слово в рукописи. За всё то, что никогда не пройдет контроль качества, но именно это и делает вещь настоящей.
У человечества было много революций. Индустриальная отняла у ремесленников хлеб. Цифровая отняла у всех приватность. Нынешняя отнимает то, что считалось исключительно человеческим: способность создавать новое из ничего. Или не отнимает? Может быть, просто переводит на другой уровень.
Раньше автор писал книгу. Потом автор писал текст. Потом автор писал промпт.
Что дальше? Автор просто хочет, чтобы нечто было написано, — и оно пишется. Авторство становится чистой волей, интенцией, желанием. Звучит как рай. Но почему-то это не уютно. Наверное, потому что в раю тоже, говорят, не надо работать. Но почему-то никто не мечтал о нём как о месте, где можно бесконечно писать гладкие тексты.
Клара Кораллова специально для «Дзениссимо». Подписывайтесь на нас.
Оставляйте Донателло, это сделает канал еще лучше. Спасибо!
Подписывайтесь и на наш новый канал в Max