Цена (кажущегося) удобства и скорости может оказаться очень высокой
Последние несколько дней у меня в голове крутится цитата писателя и художника Уильяма С. Берроуза:
«Чем питается денежная машина? Она ест молодость, спонтанность, жизнь, красоту и, прежде всего, она ест креативность. Она пожирает качество и испражняется количеством.»
И правда, кажется, что почти каждая машина, в которую мы вдохнули жизнь, подходит под это определение — денежная машина. И вот мы здесь, и некоторые из нас радостно или рассеянно превращаются в её покорных слуг, возводя её на пьедесталы, когда-то предназначенные для богинь и богов, и молясь ей о том, чего желают больше всего: внимании, влиянии, славе, деньгах и прочих вещах, которых человеку всегда мало, каким бы способом они ни были получены.
«История в деталях» — телеграм канал для тех, кто любит видеть прошлое без прикрас, через неожиданные факты и забытые мелочи. Погружайтесь в историю так, как будто вы там были. Подписывайтесь!
Я окончательно осознала это после того, как оказалась в центре недавнего скандала с плагиатом. Так много из того, что мы видим онлайн, так много этой кажущейся успешности и глубокой мысли — лишь дым и зеркала, подпёртые, в пугающе большой степени, машинами, которым абсолютно всё равно, что они делают и зачем. Они могут оправдать любое действие, сочинить любое извинение и лгать, лгать и ещё раз лгать.
Я верю (возможно, наивно), что до сих пор можно распознать это. Отделить то, что похоже на человеческое, от того, что создано человеком.
Но плохая новость в том, что мы все сами всё больше становимся кормом для этой машинной системы — даже если не осознаём этого — и все так или иначе ею пожираемся.
Технология ИИ — в частности большие языковые модели (LLM), разновидность генеративного ИИ и, пожалуй, самая популярная машина сегодня — становится всё труднее избегать. Два инструмента, которыми я пользовалась годами — Notion и Grammarly — теперь встроили функции ИИ. И, честно говоря, этот маленький значок «Ask AI» вызывает у меня всё больше беспокойства. Однажды эти инструменты возьмут мои данные, работу и исследования, поданные им на цифровом серебряном блюде, и используют их для обучения своих моделей? Я найду ещё больше отголосков своих мыслей и идей, преследующих меня в самых неожиданных местах?
Пока что обе компании утверждают, что они этого не делают.
Но, конечно, это легко может измениться в будущем.
Ещё один сервис, которым я пользовалась, WeTransfer, недавно шокировал творческое сообщество, изменив условия обслуживания. С 14 июля пользователи получили уведомление, что предоставляют WeTransfer «бессрочную, всемирную, неисключительную, безвозмездную, передаваемую, сублицензируемую лицензию на использование [их] контента в целях работы, разработки, коммерциализации и улучшения Сервиса или новых технологий или услуг, включая улучшение работы моделей машинного обучения, которые повышают эффективность нашей системы модерации контента, в соответствии с Политикой конфиденциальности и куки». По сути, это юридический эвфемизм для «если вы загружаете файлы через наш сервис, мы будем использовать их для кормления наших ненасытных моделей ИИ».
После резкой реакции пользователей WeTransfer, казалось бы, отказался от этой идеи, но, технически, ничто не мешает им снова включить этот пункт.
Правда, наши данные уже много лет в свободном доступе для тех, кто хочет их использовать. Если вы пользовались платформами Meta (Facebook, Instagram, Threads, WhatsApp) и не отказались от использования ваших данных, ваш публичный контент — посты, комментарии, фото, видео и даже взаимодействия — использовался для обучения их ИИ (и это теперь касается и пользователей из ЕС). То же самое касается и продуктов Google — электронной почты, поисковой системы и т.д. Недавно компания признала в суде, что может использовать контент веб-сайтов для обучения своих моделей, даже если издатели запретили это.
Если вы писатель или исследователь, шансы, что ваши работы уже скормлены машинам, ещё выше. Программист и автор The Atlantic Алекс Райснер выяснил, что почти четверть миллиона книг использовались без разрешения для обучения генеративных систем ИИ, созданных Meta, Bloomberg и другими. Недавно он обнаружил, что целые научные журналы — включая Nature, Science и The Lancet — также оказывались в «рационе» этих моделей.
Крупные компании, включая разработчиков генеративного ИИ, используют веб-«пауков» и «скреперов» — автоматизированных цифровых паразитов, которые бродят по интернету и извлекают данные отовсюду, даже из-за платных стен.
Отсутствие прозрачности в том, как именно это происходит, и что именно машины «глотают» и откуда, напрямую связано с проблемой предвзятости ИИ — теме, о которой я писала много лет, включая недавнюю статью. Один эксперимент показал, что ChatGPT, давая совет по зарплате, назвал женщине более низкую сумму, чем мужчине с теми же квалификациями, опытом и должностью. И, что ещё хуже, ИИ часто не просто отражает человеческие предвзятости — он их усиливает.
То, что выходит «на выходе» из этого цифрового пищеварительного тракта после того, как он насытился нашими мыслями, идеями, шутками, искусством и исследованиями, слишком часто оказывается предвзятым, украденным, неточным, галлюцинаторным и просто… странным. Это «зловещая долина». Почти человеческое. Но не человеческое. Пустое, как матрёшка: снимешь слой за слоем кажущегося связного текста — и не найдёшь ничего по сути.
И всё же мы используем эти машины, а они, в свою очередь, используют нас. Но даже этот мрачный обмен не даёт нам обещанных выгод.
Стиральные машины, пылесосы, конвейеры, а затем персональные компьютеры, смартфоны и целый набор приложений — всё это обещало освободить нас от рутины. Но, как ни странно, мы, изобретая всё новые технологии, не получаем больше свободного времени. Прогноз экономиста Джона Мейнарда Кейнса о том, что к XXI веку рабочая неделя сократится до 15 часов, так и остался мечтой: 40-часовая неделя по-прежнему норма, а в некоторых странах рабочее время даже увеличилось.
В экономике это называется парадоксом Джевонса: повышение эффективности увеличивает спрос на труд, а не снижает его. То, что должно было облегчить нам жизнь, в итоге только загружает нас сильнее, дробит внимание и разрушает благополучие.
ИИ тоже не освобождает нас от работы: опрос Upwork показал, что почти 80% работников, использующих генеративный ИИ, сообщили о росте нагрузки и снижении продуктивности.
В итоге время для отдыха и человеческого общения исчезает. А оставшееся свободное время мы нередко тоже проводим с машинами — потребляя рекомендованный ими контент, заменяя живое общение цифровыми «собеседниками» и глубокую мысль — слайдами и тезисами.
Почему же мы это позволяем? Потому что денежные машины питаются мифами: что надо «двигаться быстро и ломать всё», что «жадность — это хорошо», что «усердный труд всегда вознаграждается». Но на самом деле выигрывают те, кто владеет машинами, а не те, кто трудится больше всех.
Технологии не злы по своей природе. Они делают то, чему мы их учим, отражая ценности, которые мы закладываем. А закладываем мы сейчас, увы, не лучшее. Но так быть не должно. Мы можем поставить в центр человеческое достоинство, отдых, связь, творчество, справедливость и радость.
Однако машины и их владельцы не перестанут пожирать наши данные, креативность, время и саму человечность, пока мы коллективно не изменим правила игры.
Как писала Донна Харауэй в своём эссе A Cyborg Manifesto (1985):
«Потребность в единстве людей, пытающихся противостоять глобальному усилению доминирования, никогда не была столь острой.»