Голливудские актеры бастуют из-за опасений по поводу использования ИИ, но всего за 300 долларов Meta и компания Realeyes наняли их, чтобы аватары выглядели более человечными.
Однажды вечером в начале сентября Ти, 28-летний актер, попросивший назвать его по первому инициалу, занял свое место в арендованной голливудской студии перед тремя камерами, режиссером и продюсером для несколько необычного проекта. концерт.
В ходе двухчасовых съемок были созданы кадры, которые не предназначались для просмотра публикой — по крайней мере, человеческой публикой.
Скорее, голос, лицо, движения и выражения Т. будут переданы в базу данных ИИ, «чтобы лучше понимать и выражать человеческие эмоции». Эта база данных затем поможет обучать «виртуальные аватары» для Meta, а также алгоритмы для лондонской компании Realeyes, занимающейся искусственным интеллектом в области эмоций. (Проектом руководила компания Realeyes; участники узнали об участии Меты только по прибытии на место.)
«Исследование эмоций» проводилось с июля по сентябрь и включало набор актеров. Проект совпал с историческими двойными забастовками Голливуда со стороны Гильдии писателей Америки и Гильдии киноактеров (SAG-AFTRA). Поскольку индустрия остановилась, большее, чем обычно, количество безработных актеров могло стать благом для Meta и Realeyes: появился новый пул «тренеров» — и источников данных — идеально подходящих для обучения их ИИ будет выглядеть более человечным.
Для таких актеров, как Ти, это тоже была прекрасная возможность: способ заработать хорошие и легкие деньги на стороне, не пересекая линию пикета.
«Это полностью исследовательский проект», — говорится в объявлении о вакансии . Он предлагал 150 долларов в час за не менее двух часов работы и утверждал, что «ваше индивидуальное изображение не будет использоваться в каких-либо коммерческих целях».
Актеры, возможно, предполагали, что это означает, что их лица и выступления не появятся в телешоу или фильме, но широкий характер того, что они подписывали, не позволяет наверняка знать все последствия. Фактически, чтобы участвовать, им пришлось «бессрочно» отказаться от определенных прав на технологии и варианты использования, которые, возможно, еще не существуют.
И хотя в объявлении о вакансии утверждалось, что проект «не квалифицируется как забастованная работа» (то есть работа, произведенная работодателями, против которых бастует профсоюз), оно, тем не менее, затрагивает некоторые ключевые вопросы забастовки: как можно выявить сходства актеров? используется, как актеры должны получать компенсацию за такое использование и как должно выглядеть информированное согласие в эпоху ИИ.
«Это не битва за контракт между профсоюзом и компанией», — сказал Дункан Крэбтри-Айрланд, главный переговорщик SAG-AFTRA, на дискуссии по искусственному интеллекту в сфере развлечений на Comic-Con в Сан-Диего этим летом. «Это экзистенциально».
Многие актеры в отрасли, особенно актеры второго плана (также известные как статисты), обеспокоены тем, что ИИ — во многом похожий на модели, описанные в исследовании эмоций — может быть использован для их замены, независимо от того, копируются их точные лица или нет. И в этом случае, предоставляя выражения лица, которые научат ИИ выглядеть более человечными, участники исследования на самом деле могли быть теми, кто непреднамеренно обучал своих потенциальных заменителей.
«Наши исследования не имеют ничего общего с забастовкой», — заявил в электронном письме Макс Калехофф, вице-президент Realeyes по развитию и маркетингу. «Подавляющая часть нашей работы заключается в оценке эффективности рекламы для клиентов, которая не имеет ничего общего с актерами и индустрией развлечений, кроме оценки реакции аудитории». Он добавил, что время было «неудачным совпадением». Мета не ответила на многочисленные запросы о комментариях.
Учитывая, как технологические достижения часто дополняют друг друга, не говоря уже о том, как быстро развивается область искусственного интеллекта, эксперты отмечают, что эти компании могут по-настоящему обещать очень многое.
В дополнение к объявлению о вакансии, MIT Technology Review получила и рассмотрела копию лицензионного соглашения о передаче данных, и его потенциальные последствия действительно огромны. Грубо говоря: знали об этом актеры, принимавшие участие в проекте, или нет, но всего за 300 долларов они, судя по всему, разрешили Realeyes, Meta и другим сторонам, выбранным обеими компаниями, получить доступ и использовать не только свои лица, но и свои выражения и все, что из них происходит, почти как угодно и когда угодно, — лишь бы они не воспроизводили каких-либо индивидуальных сходств.
Некоторые актеры, такие как Джессика, которая попросила назвать ее только по имени, почувствовали, что в проекте есть что-то «эксплуататорское» — как в финансовых стимулах для безработных актеров, так и в борьбе за искусственный интеллект и использование актерский образ.
Джессика, второстепенная актриса из Нью-Йорка, говорит, что за последние несколько лет она увидела растущее число объявлений о вакансиях в сфере ИИ. «Сейчас нет четких правил», — говорит она, — «поэтому я не знаю. Возможно… их намерение [состоит] в том, чтобы получить эти изображения до того, как профсоюз подпишет контракт и установит их».
Все это приводит к тому, что актеры, испытывающие трудности после трех месяцев отсутствия работы, готовы принять условия Realeyes и Meta — и, намеренно или нет, повлиять на всех актеров, независимо от того, захотят ли они лично взаимодействовать с ИИ.
«Это больно сейчас или больно позже», — говорит Морис Компте, актер и участник SAG-AFTRA, сыгравший главные роли в таких сериалах, как « Нарко » и «Во все тяжкие» . Просмотрев объявление о вакансии, он не мог не увидеть гнусные намерения. Да, сказал он, конечно, полезно иметь работу, но он считает ее такой же выгодной, «так же, как это делали коренные американцы, когда они отбирали одеяла у белых поселенцев», добавляя: «Они в свое время получали из нее одеяла». холода».
Люди как данные
Искусственный интеллект основан на данных, а данные, в свою очередь, предоставляются людьми.
Именно человеческий труд подготавливает, очищает и аннотирует данные, чтобы сделать их более понятными для машин; Как сообщает MIT Technology Review , например, роботы-пылесосы знают, что нужно избегать наезда на собачьи фекалии, потому что специалисты по маркировке человеческих данных сначала просмотрели и идентифицировали миллионы изображений отходов домашних животных — и других объектов — внутри домов.
Когда дело доходит до распознавания лиц, другого биометрического анализа или генеративных моделей искусственного интеллекта, целью которых является создание людей или человекоподобных аватаров, именно человеческие лица, движения и голоса служат данными.
Первоначально эти модели основывались на данных, извлеченных из Интернета, включая, в некоторых случаях, кадры с частных камер наблюдения, которые распространялись или продавались без ведома тех, кто был захвачен.
Но по мере роста потребности в более качественных данных, наряду с опасениями по поводу того, собираются ли данные этично и при наличии надлежащего согласия, технологические компании перешли от «сбора данных из общедоступных источников» к «созданию наборов данных с участием профессионалов», — объясняет Джулиан Посада. , доцент Йельского университета, изучающий платформы и труд. Или, по крайней мере, «с людьми, которые были приняты на работу, получили компенсацию и подписали формы [согласия]».
Но потребность в человеческих данных, особенно в индустрии развлечений, сталкивается с серьезной проблемой в Голливуде: правами на рекламу или «правом контролировать использование вами своего имени и изображения», по словам Коринн МакШерри, юридического директора Electronic Frontier Foundation (EFF), группа по защите цифровых прав.
Эта проблема существовала задолго до создания искусственного интеллекта , но искусственный интеллект усилил эту проблему. Генеративный ИИ, в частности, позволяет легко создавать реалистичные копии любого человека, обучая алгоритмы на существующих данных, таких как фотографии и видео человека. Чем больше данных доступно, тем легче создать реалистичное изображение. Особенно большое влияние это оказывает на исполнителей.
Некоторым актерам удалось монетизировать характеристики, которые делают их уникальными. Джеймс Эрл Джонс, озвучивающий Дарта Вейдера, дал согласие на использование архивных записей своего голоса, чтобы ИИ мог продолжать генерировать его для будущих фильмов о «Звездных войнах» . Между тем, омолаживающий искусственный интеллект позволил Харрисону Форду, Тому Хэнксу и Робину Райту изображать на экране более молодые версии самих себя. Metaphysic AI , компания, разрабатывающая технологию предотвращения старения, недавно подписала соглашение с Creative Artists Agency о внедрении генеративного искусственного интеллекта для своих художников.
Но многие дипфейки или изображения фейковых событий, созданные с помощью искусственного интеллекта глубокого обучения, генерируются без согласия. Ранее в этом месяце Хэнкс опубликовал в Instagram , что реклама, якобы рекламирующая его стоматологический план, на самом деле не была им.
Для незнаменитостей ситуация с искусственным интеллектом другая. Актеров второго плана все чаще просят пройти цифровое сканирование тела на съемочной площадке, и у них мало возможностей отказаться или даже получить ясность относительно того, как эти сканирования будут использоваться в будущем. Студии заявляют, что сканы используются в первую очередь для увеличения массовых сцен, что они и делают с помощью других технологий в постпродакшене в течение многих лет, но, по словам представителей SAG , как только студии захватывают образы актеров, они оставляют за собой право использовать их навсегда. ( От актеров озвучивания уже поступило несколько сообщений о том, что их голоса появлялись в видеоиграх, отличных от тех, для которых их нанимали.)
В случае с исследованием Realeyes и Meta это могут быть «данные исследования», а не сканирование тела, но актеры сталкиваются с той же неопределенностью относительно того, как еще однажды можно будет использовать их цифровые изображения.
Научим ИИ выглядеть более человечным
При цене в 150 долларов в час в исследовании Realeyes платили гораздо больше, чем примерно 200 долларов в день, предусмотренные действующим контрактом Гильдии киноактеров (за работу, не состоящую в профсоюзе, платят еще меньше).
Это сделало эту работу привлекательным предложением для таких молодых актеров, как Ти, только начинающих работать в Голливуде – это была общеизвестно сложная ситуация, даже если бы он не прибыл незадолго до начала забастовки SAG-AFTRA. (Т. не проработал достаточно профсоюзных должностей, чтобы официально вступить в профсоюз, хотя он надеется, что однажды это произойдет.)
Фактически, Ти описывал выступление для Realeyes даже больше, чем просто стандартную актерскую работу, как «подобие актерского семинара, где… у вас есть возможность поработать над своими актерскими навыками, что, как я думаю, мне немного помогло».
В течение двух часов Т отвечал на подсказки вроде «Расскажи нам что-нибудь, что тебя злит», «Поделись грустной историей» или «Разыграй страшную сцену, в которой ты напуган», импровизируя для каждой из них соответствующую историю или сцену. Он считает, что именно эта потребность в импровизации объясняет, почему Realeyes и Meta специально набирали актеров.
Т. не только хотел получить зарплату, но и участвовал в исследовании, поскольку, по его мнению, никто не увидит результаты публично. Скорее, это было исследование для Меты, как он узнал, когда прибыл в студию и подписал с компанией лицензионное соглашение о передаче данных, которое только бегло просмотрел. Он впервые услышал, что Мета вообще связана с этим проектом. (Ранее он подписал отдельный контракт с Realeyes, охватывающий условия работы.)
В лицензионном соглашении говорится, что Realeyes является единственным владельцем данных и имеет полные права «лицензировать, распространять, воспроизводить, изменять или иным образом создавать и использовать производные работы», созданные на их основе, «безотзывно и во всех существующих в настоящее время форматах и носителях». или в будущем».
Такую юридическую лексику бывает сложно разобрать, особенно когда речь идет о технологиях, которые меняются такими быстрыми темпами. Но по сути это означает, что «вы можете отдавать вещи, о которых не догадывались… потому что этих вещей еще не существовало», — говорит Эмили Полер, судебный юрист, представляющий интересы клиентов в спорах на стыке средств массовой информации, технологий и бизнеса. интеллектуальная собственность.
«Если бы я была здесь адвокатом актера, я бы определенно занялась вопросом, можно ли сознательно отказываться от прав там, где ничего еще даже не существует», - добавляет она.
Как утверждает Джессика: «Как только у них появится ваше изображение, они смогут использовать его когда угодно и как угодно». Она считает, что образы актеров можно использовать так же, как работы других художников, такие как картины, песни и поэзия, используются для обучения генеративному ИИ, и она обеспокоена тем, что ИИ может просто «создать композицию, которая будет выглядеть… «человек», как правдоподобный, как человек», но «в нем нельзя будет узнать вас, поэтому вы потенциально не сможете подать на него в суд» — даже если этот созданный ИИ человек был основан на вас.
Джессике это кажется особенно правдоподобным, учитывая ее опыт работы в качестве актера азиатско-американского происхождения в индустрии, где представительство часто сводится к символическому меньшинству. Теперь, опасается она, любой, кто нанимает актеров, может «нанять несколько азиатов» и отсканировать их, чтобы создать «азиатский аватар», который они смогут использовать вместо того, чтобы «нанимать одного из вас для съемок в рекламе».
Актерам следует беспокоиться не только об изображениях, говорит Адам Харви, прикладной исследователь, который специализируется на компьютерном зрении, конфиденциальности и наблюдении и является одним из соавторов Exposition.AI, который каталогизирует наборы данных, используемые для тренировки мимики. системы распознавания.
По его словам, то, что представляет собой «сходство», меняется. Хотя сейчас это слово понимается прежде всего как означающее фотографическое сходство, музыканты оспаривают это определение, включив в него голосовое сходство. В конце концов, полагает он, «это также… будет поставлено под сомнение на эмоциональном фронтире» — то есть актеры смогут утверждать, что их микровыражения уникальны и их следует защищать.
Калехофф из Realeyes не уточнил, для чего конкретно компания будет использовать результаты исследования, хотя в электронном письме он уточнил, что могут быть «множества вариантов использования, таких как создание более качественного опыта работы с цифровыми медиа в медицинских диагнозах (например, в области кожи/мышц). условиях), обнаружение бдительности или роботизированные инструменты для поддержки медицинских расстройств, связанных с распознаванием выражений лица (например, аутизм)».
Когда его спросили, как Realeyes определяет «сходство», он ответил, что компания использовала этот термин, а также слово «коммерческий», еще одно слово, для которого существуют предполагаемые, но не общепринятые определения, «одинаково для нас». как [] общий бизнес». Он добавил: «У нас нет конкретного определения, отличного от стандартного использования».
Но для Т и других актеров «реклама» обычно означает появление в какой-то рекламе или телевизионном ролике — «что-то», говорит Т, «что напрямую продается потребителю».
За пределами узкого понимания индустрии развлечений МакШерри из EFF задается вопросом, что означает компания: «Это коммерческая компания, занимающаяся коммерческими делами».
Калехофф также сказал: «Если клиент попросит нас использовать такие изображения [из исследования], мы будем настаивать на 100% согласии, справедливой оплате для участников и прозрачности. Однако это не наша работа и не то, чем мы занимаемся».
Тем не менее, это заявление не соответствует формулировкам лицензионного соглашения о передаче данных, которое предусматривает, что, хотя Realeyes является владельцем интеллектуальной собственности, вытекающей из данных исследования, Meta и «стороны Meta, действующие от имени Meta», имеют широкие права на данные. — включая права делиться и продавать его. Это означает, что в конечном итоге то, как оно будет использоваться, может оказаться вне контроля Realeyes.
Как поясняется в соглашении, права Meta и сторон, действующих от ее имени, также включают:
- Заявление определенных прав на личность участников («идентификация или узнавание вас… создание уникального шаблона вашего лица и/или голоса… и/или защита от выдачи себя за другое лицо и неправомерного использования личности»)
- Разрешение другим исследователям проводить будущие исследования, используя данные исследования так, как они считают нужным («проведение будущих исследований и мероприятий… в сотрудничестве со сторонними исследователями, которые могут в дальнейшем использовать данные исследования вне контроля Meta»)
- Создание производных работ на основе данных исследования для любого вида использования в любое время («использование, распространение, воспроизведение, публичное исполнение, публичный показ, раскрытие и изменение или иное создание производных работ на основе данных исследования, во всем мире, безотзывно и на постоянной основе», и во всех форматах и носителях, существующих сейчас или в будущем»)
Единственным ограничением использования было то, что Meta и стороны «не использовали данные исследования для разработки моделей машинного обучения, которые генерируют ваше конкретное лицо или голос в любом продукте Meta» (выделено автором). Тем не менее, разнообразие возможных вариантов использования и пользователей огромно. И соглашение мало помогает успокоить особые опасения актеров по поводу того, что «в конечном итоге эта база данных используется для создания произведения, и эта работа в конечном итоге становится очень похожей на [чье-то] выступление», как выразился МакШерри.
Когда я спросил Калехоффа о явном разрыве между его комментариями и соглашением, он отрицал какое-либо несоответствие: «Мы считаем, что ни в каких соглашениях нет противоречий, и мы придерживаемся нашего обязательства перед участниками, как указано во всех наших соглашениях, полностью защищать их интересы». имидж и их конфиденциальность». Калехофф отказался комментировать работу Realeyes с клиентами или подтвердить, что исследование проводилось в сотрудничестве с Meta.
Тем временем Meta создает фотореалистичные 3D «аватары-кодеки», которые выходят далеко за рамки мультяшных изображений в Horizon Worlds и для совершенствования требуют данных обучения человека. Генеральный директор Марк Цукерберг недавно описал эти аватары в популярном подкасте исследователя искусственного интеллекта Лекса Фридмана как основу своего видения будущего, в котором сосуществуют физическая, виртуальная и дополненная реальности. Он предполагает, что аватары «дадут ощущение присутствия, как будто вы находитесь там вместе, независимо от того, где вы на самом деле находитесь».
Несмотря на многочисленные запросы о комментариях, Meta не ответила ни на один вопрос MIT Technology Review, поэтому мы не можем подтвердить, для чего компания будет использовать данные или кого она подразумевает под «сторонами, действующими от ее имени».
Индивидуальный выбор, коллективное воздействие
Во время забастовок писателей и актеров возникло ощутимое ощущение, что Голливуд приближается к новому рубежу, который будет определять то, как мы – все мы – будем взаимодействовать с искусственным интеллектом. Обычно эта граница описывается со ссылкой на права трудящихся; Идея состоит в том, что что бы ни случилось здесь, это повлияет на работников других отраслей, которые пытаются понять, какое значение ИИ будет иметь для их собственных средств к существованию.
Достижения Гильдии писателей уже предоставили модель того, как регулировать влияние ИИ на творческую работу. Новый контракт союза со студиями ограничивает использование ИИ в комнатах писателей и предусматривает, что в рассказах могут указываться только авторы-люди, что не позволяет студиям защищать авторские права на работы, созданные ИИ, и в дальнейшем служит основным препятствием для использования ИИ для написания сценариев.
В начале октября профсоюз актеров и студии также вернулись за стол переговоров, надеясь дать актерам аналогичные рекомендации. Но переговоры быстро сорвались, потому что «очевидно, что разрыв между AMPTP [Альянсом кинопродюсеров и телевидения] и SAG-AFTRA слишком велик», как заявил студийный альянс в пресс- релизе . Генеративный ИИ — в частности, то, как и когда следует ожидать, что актеры на заднем плане дадут согласие на сканирование тела — был, как сообщается, одним из камней преткновения.
К какому бы окончательному соглашению они ни пришли, студии не будут запрещать использование искусственного интеллекта — это никогда не было целью. Даже те, кто не согласен с проектами обучения искусственному интеллекту, имеют более тонкие взгляды на использование этой технологии. «Мы не собираемся полностью отказываться от ИИ», — признает Компте, актер «Во все тяжкие» . Скорее, нам «просто нужно найти способы, которые принесут пользу более широкой картине… [Речь идет] на самом деле о прожиточном минимуме».
Но будущее соглашение, которое заключается конкретно между студиями и SAG, не будет распространяться на технологические компании, проводящие «исследовательские» проекты, такие как Meta и Realeyes. Технологические достижения, созданные с одной целью (возможно, полученные в результате «исследовательских» исследований), также будут иметь более широкое применение, как в кино, так и за его пределами.
«Вероятность того, что разрабатываемая технология будет использоваться только для этого [вовлечения аудитории или аватаров-кодеков] исчезающе мала. Это не так», — говорит МакШерри из EFF. Например, хотя в соглашении о данных для исследования эмоций прямо не упоминается использование результатов для ИИ распознавания лиц, МакШерри считает, что их можно использовать для улучшения любого вида ИИ, включающего человеческие лица или выражения лиц.
(Кроме того, алгоритмы обнаружения эмоций сами по себе являются спорными , независимо от того, работают ли они так, как говорят разработчики. Действительно ли мы хотим, чтобы «наши лица постоянно оценивались [на основе] тех продуктов, на которые мы смотрим?» — спрашивает Посада, профессор Йельского университета.)
Все это еще больше усложняет получение согласия на эти обширные исследования: у участника нет возможности согласиться или отказаться от конкретных вариантов использования. Т., например, был бы счастлив, если бы его участие означало лучшие варианты аватаров для виртуальных миров, подобных тем, которые он использует со своим Oculus, хотя конкретно на это он не соглашается.
Но что делать отдельным участникам исследования, которым может понадобиться доход? Какой силой они действительно обладают в этой ситуации? И какая власть есть у других людей – даже у тех, кто отказался участвовать – чтобы гарантировать, что они не затронуты? Решение об обучении ИИ может быть индивидуальным, но последствия не таковы; это коллективно.
«Как только они загружают ваше изображение и… определенное количество изображений людей, они могут создать бесконечное множество похожих людей», — говорит Джессика. «Само по себе это не ущемляет ваше лицо». Но, возможно, в этом-то и дело: «Они используют ваше изображение, не неся за это ответственности».
Т. рассматривал возможность того, что однажды исследования, в которых он участвовал, вполне могут заменить актеров.
Но, по крайней мере, на данный момент это гипотетически.
«Я бы расстроился, — признает он, — но в то же время, если бы это делал не я, они, вероятно, нашли бы другой путь — более хитрый способ, не получив согласия людей». Кроме того, добавляет Т., «они очень хорошо платили».
Оригинальная статья тут.