Автор Луи Розенберг
Как известно всему миру, область искусственного интеллекта (ИИ) развивается с головокружительной скоростью. Крупные и малые компании стремятся реализовать мощь генеративного ИИ новыми и полезными способами.
Я твердо верю в ценность ИИ для повышения производительности труда и решения человеческих проблем, но меня также очень беспокоят неожиданные последствия. Как я сообщил San Francisco Examiner на прошлой неделе, я вместе с тысячами других исследователей подписал противоречивое «Письмо о паузе» в отношении ИИ, чтобы привлечь внимание к рискам, связанным с крупномасштабным генеративным ИИ, и помочь общественности понять, что в настоящее время риски развиваются быстрее. чем усилия по их сдерживанию.
Прошло менее двух недель с тех пор, как это письмо стало достоянием общественности, а Meta уже сделала объявление о запланированном использовании генеративного ИИ, что меня особенно беспокоит. Прежде чем я перейду к этому новому риску, я хочу сказать, что я поклонник работы ИИ, проделанной в Meta, и был впечатлен их прогрессом во многих областях.
Положительный прогресс: сегментная модель всего (SAM) от Meta
Например, буквально на этой неделе Meta анонсировала новый генеративный ИИ под названием «segment anything model - сегментная модель всего» (SAM), который я считаю чрезвычайно полезным и важным.
Он позволяет обрабатывать любое изображение или видеокадр практически в реальном времени и идентифицировать каждый из отдельных объектов на изображении. Мы воспринимаем эту возможность как должное, потому что человеческий мозг замечательно умеет сегментировать то, что мы видим, но теперь с моделью SAM вычислительные приложения могут выполнять эту функцию в режиме реального времени.
Почему SAM важен? Как исследователь, который начал работать над системами «смешанной реальности» еще в 1991 году, еще до того, как эта фраза была придумана, я могу сказать вам, что способность идентифицировать объекты в поле зрения в режиме реального времени — это настоящая веха. Это позволит создавать волшебные пользовательские интерфейсы в средах дополненной/смешанной реальности, которые раньше были невозможны.
Например, вы сможете просто посмотреть на реальный объект в поле вашего зрения, моргнуть, кивнуть или сделать какой-либо другой отчетливый жест, и сразу же получить информацию об этом объекте или удаленно взаимодействовать с ним, если это разрешено электронным способом. Такие взаимодействия на основе взгляда были целью систем смешанной реальности на протяжении десятилетий, и эта новая технология генеративного ИИ может позволить ей работать, даже если в вашем поле зрения есть сотни объектов, и даже если многие из них частично скрыты. Для меня это критическое и важное использование генеративного ИИ.
Потенциально опасная: реклама, созданная искусственным интеллектом
С другой стороны, технический директор Meta Эндрю Босворт заявил на прошлой неделе, что компания планирует начать использовать генеративные технологии искусственного интеллекта для создания целевой рекламы, адаптированной для определенной аудитории.
Я знаю, что это звучит как удобное и потенциально безвредное использование генеративного ИИ, но я должен указать, почему это опасное направление.
Генеративные инструменты сейчас настолько мощны, что, если корпорациям будет разрешено использовать их для настройки рекламных изображений для целевой «аудитории», мы можем ожидать, что эта аудитория будет сужена до отдельных пользователей. Другими словами, рекламодатели смогут генерировать индивидуальную рекламу (изображения или видео), которая создается системами искусственного интеллекта «на лету», чтобы оптимизировать их эффективность лично для вас.
Как «аудитория одного человека», вы можете вскоре обнаружить, что таргетированная реклама создается на основе данных, которые были собраны о вас с течением времени. В конце концов, генеративный ИИ, используемый для создания рекламы, может иметь доступ к тому, какие цвета и макеты наиболее эффективно привлекают ваше внимание и какие человеческие лица вы считаете наиболее заслуживающими доверия и привлекательными.
У ИИ также могут быть данные, указывающие, какие типы рекламных тактик эффективно работали на вас в прошлом. Благодаря масштабируемой мощности генеративного искусственного интеллекта рекламодатели могут размещать изображения и видео, настроенные так, чтобы нажимать на ваши кнопки с предельной точностью. Кроме того, мы должны предположить, что подобные методы будут использоваться злоумышленниками для распространения пропаганды или дезинформации.
Убедительное воздействие на отдельные цели
Еще более тревожным является то, что исследователи уже открыли методы, которые можно использовать для того, чтобы сделать изображения и видео очень привлекательными для отдельных пользователей. Например, исследования показали, что смешивание аспектов собственных черт лица пользователя с лицами, сгенерированными компьютером, может сделать этого пользователя более «благосклонным» к передаваемому контенту.
Исследование Стэнфордского университета, например, показывает, что, когда собственные черты пользователя сливаются с лицом политика, вероятность того, что люди проголосуют за кандидата, увеличивается на 20% вследствие манипуляции с изображением. Другие исследования показывают, что человеческие лица, которые активно имитируют собственные выражения или жесты пользователя, также могут оказывать большее влияние.
Если не будет регулироваться политиками, мы можем ожидать, что генерирующая реклама ИИ, вероятно, будет развернута с использованием различных методов, которые максимизируют их убедительное воздействие на отдельные цели.
Как я сказал выше, я твердо верю, что технологии искусственного интеллекта, включая инструменты и методы генеративного искусственного интеллекта, будут иметь замечательные преимущества, которые повысят производительность человека и решат человеческие проблемы. Тем не менее, нам необходимо установить меры защиты, которые предотвратят использование этих технологий в обманных, принудительных или манипулятивных целях, которые бросают вызов человеческой деятельности.