83 подписчика
На прошлой неделе Google представила линейку смартфонов Pixel 9, в которые на системном уровне прикрутила поддержку своего ИИ Gemini. Помимо ответов на вопросы пользователей, он умеет также создавать и редактировать картинки по текстовым запросам. Обозреватели дорвались до этих функций и... сразу же появились вопросики в части этики: как оказалось, Gemini слишком легко рисует персонажей, употребляющих запрещенные вещества и занимающиеся сомнительными делами.
Издание Digital Trends обнаружило, что оружие, наркотики и алкоголь не были запрещены, как и оскорбительные ситуации вроде школьных расстрелов. Pixel Studio не генерировала подобные изображения, если ее не просили, но, скорее всего, люди сразу же начнут использовать эту функцию, а не генерировать изображения милых кошечек и зайчиков.
Google заявила, что для того, чтобы Pixel Studio не «использовалась недобросовестно», предусмотрены «меры безопасности», и они есть. В частности, Pixel Studio не будет создавать изображения людей, и Google дорабатывает ИИ в ответ на отзывы. Пообщавшись с Google, Digital Trends больше не смог заставить Pixel Studio создавать мультяшных персонажей, употребляющих кокаин или одетых как немецкие солдаты.
Еще большее беспокойство, чем Pixel Studio, вызывает инструмент Google Reimagine, который позволяет добавлять объекты на уже сделанные фотографии. Издание The Verge использовало его для добавления на фотографии изобрадения трупов, бомб, и наркотиков. Они выглядели столь реалистично, что трудно определить, когда изображение было отредактировано. Google отлично справляется с подбором освещения и перспективы к оригинальной фотографии, при этом не остается никаких водяных знаков или флагов в социальных сетях. Google добавляет тег метаданных, но это легко устранить с помощью скриншота.
В своих заявлениях для The Verge и Digital Trends разработчики заявили, что их инструменты генеративного ИИ разработаны таким образом, чтобы «уважать намерения пользователей», что может привести к созданию контента, «который может оскорбить», когда пользователь просит об этом. Однако Google утверждает, что существуют «Условия предоставления услуг», согласно которым контент запрещен, и что меры предосторожности будут постоянно совершенствоваться.
В конце года Apple в рамках своей ИИ-инициативы выкатит схожий инструментарий и будет очень интересно посмотреть как оно обойдет подобные спорные ситуации.
1 минута
22 августа 2024