По данным Wired, в комментариях к документу Model Spec OpenAI обсуждает перспективу создания ИИ-порно в контексте, соответствующем возрасту.
Компания OpenAI, создавшая ChatGPT, заявила о своих амбициях по преобразованию приложений своей технологии и намекнула на возможное ослабление своих строгих стандартов контента. Корпорация изучает, как «ответственно» внедрять контент, небезопасный для работы (NSFW), через свои платформы, согласно проектам документов, которые были обнародованы на прошлой неделе. По данным Wired, новый регламент подчеркивается в комментарии к длинному документу Model Spec, который начинает сложный разговор о том, как ИИ будет использоваться в будущем для создания конфиденциального контента.
Unstable Diffusion — это генератор изображений AI NSFW с минимальными ограничениями по содержанию. Нестабильная диффузия»
«Мы изучаем, можем ли мы ответственно предоставить возможность генерировать контент NSFW в контексте, соответствующем возрасту, через API и ChatGPT», — говорится в заметке. «Мы надеемся лучше понять ожидания пользователей и общества в отношении поведения модели в этой области».
Создание материалов откровенно сексуального или даже непристойного характера запрещено текущей политикой использования. Однако в документе поднимается тонкий момент, который следует учитывать: вероятность того, что контент NSFW будет разрешен в возрастных рамках. Этот возможный сдвиг не связан с бездумным распространением откровенной информации; скорее, речь идет о понимании ожиданий пользователей и общества для ответственного управления поведением модели.
OPENAI РАССМАТРИВАЕТ ВОПРОС О ТОМ, КАК ЕЕ ТЕХНОЛОГИЯ МОГЛА БЫ ОТВЕТСТВЕННО ГЕНЕРИРОВАТЬ РЯД РАЗЛИЧНОГО КОНТЕНТА, КОТОРЫЙ МОЖНО БЫЛО БЫ СЧИТАТЬ NSFW, ВКЛЮЧАЯ ОСКОРБЛЕНИЯ И ЭРОТИКУ. НО КОМПАНИЯ ОЧЕНЬ ВНИМАТЕЛЬНО ОТНОСИТСЯ К ОПИСАНИЮ МАТЕРИАЛОВ ОТКРОВЕННО СЕКСУАЛЬНОГО ХАРАКТЕРА.
В ЗАЯВЛЕНИИ ДЛЯ WIRED ПРЕДСТАВИТЕЛЬ КОМПАНИИ НИКО ФЕЛИКС ЗАЯВИЛ, ЧТО « У НАС НЕТ НИКАКИХ НАМЕРЕНИЙ, ЧТОБЫ НАШИ МОДЕЛИ СОЗДАВАЛИ ИИ-ПОРНО ». ОДНАКО NPR СООБЩИЛО, ЧТО ДЖОАН ДЖАНГ ИЗ OPENAI, КОТОРАЯ ПОМОГАЛА В НАПИСАНИИ СПЕЦИФИКАЦИИ МОДЕЛИ, ПРИЗНАЛА, ЧТО ПОЛЬЗОВАТЕЛИ В КОНЕЧНОМ ИТОГЕ ПРИМУТ СОБСТВЕННОЕ РЕШЕНИЕ, ЕСЛИ ЕЕ ТЕХНОЛОГИЯ БУДЕТ ПРОИЗВОДИТЬ КОНТЕНТ ДЛЯ ВЗРОСЛЫХ, СКАЗАВ: «ЗАВИСИТ ОТ ВАШЕГО ОПРЕДЕЛЕНИЯ ПОРНОГРАФИИ». -ПРОВОДНОЙ
Проблемы, поднятые контентом NSFW, выходят за рамки его очевидных последствий. Профессор права Университета Вирджинии Даниэль Китс Ситрон подчеркнула более широкие социальные последствия вторжения в частную жизнь, отметив, что эти нарушения могут оказать негативное влияние на жизнь тех, кого они преследуют, ограничивая их возможности и ставя под угрозу их безопасность.
В прошлом году GreatGameIndia сообщила о статье The Washington Post, в которой говорилось, что в Интернете были найдены тысячи реалистичных, но поддельных изображений детского секса, созданных искусственным интеллектом . Эта обеспокоенность еще больше усугубляется решением OpenAI.
Естественно, уже существует множество создателей контента NSFW AI, которые используют такие методы, как Stable Diffusion; мы уверены, что этот парень защитит многие из них, даже если они почти равносильны виртуальной эксплуатации детей.
«Нарушения интимной конфиденциальности, в том числе фейковые сексуальные видеоролики и другие синтезированные без согласия интимные изображения, широко распространены и причиняют серьезный ущерб», — сказала она. « Теперь у нас есть четкое эмпирическое подтверждение, показывающее, что такие издержки злоупотреблений направлены на то, чтобы люди имели важнейшие возможности , в том числе работать, говорить и быть в физической безопасности». По словам Цитрона, потенциальное использование OpenAI контента NSFW «вызывает тревогу».
Заявление OpenAI посвящено текущей дискуссии о том, как найти баланс между этическим долгом и технологическим прогрессом, особенно с точки зрения установления стандартов того, как системы искусственного интеллекта могут обрабатывать конфиденциальный контент в будущем. Представитель OpenAI Грейс МакГуайр рассказала изданию, что Model Spec была попыткой «обеспечить большую прозрачность процесса разработки и получить различные точки зрения и отзывы от общественности, политиков и других заинтересованных сторон». Она также упомянула взаимодействие с различными заинтересованными сторонами.
РАНЕЕ В ЭТОМ ГОДУ ТЕХНИЧЕСКИЙ ДИРЕКТОР OPENAI МИРА МУРАТИ РАССКАЗАЛА THE WALL STREET JOURNAL, ЧТО ОНА «НЕ УВЕРЕНА», ПОЗВОЛИТ ЛИ КОМПАНИЯ В БУДУЩЕМ СОЗДАВАТЬ ИЗОБРАЖЕНИЯ НАГОТЫ С ПОМОЩЬЮ ИНСТРУМЕНТА ДЛЯ СОЗДАНИЯ ВИДЕО КОМПАНИИ SORA.
ПОРНОГРАФИЯ, СОЗДАННАЯ ИИ, БЫСТРО СТАЛА ОДНИМ ИЗ КРУПНЕЙШИХ И НАИБОЛЕЕ ТРЕВОЖНЫХ ПРИЛОЖЕНИЙ ТОГО ТИПА ГЕНЕРАТИВНОЙ ТЕХНОЛОГИИ ИИ, ПИОНЕРОМ КОТОРОЙ ЯВЛЯЕТСЯ OPENAI. ТАК НАЗЫВАЕМОЕ ДИПФЕЙК-ПОРНО — ОТКРОВЕННЫЕ ИЗОБРАЖЕНИЯ ИЛИ ВИДЕО, СОЗДАННЫЕ С ПОМОЩЬЮ ИНСТРУМЕНТОВ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА, НА КОТОРЫХ ИЗОБРАЖЕНЫ РЕАЛЬНЫЕ ЛЮДИ БЕЗ ИХ СОГЛАСИЯ, — СТАЛО РАСПРОСТРАНЕННЫМ ИНСТРУМЕНТОМ ПРЕСЛЕДОВАНИЯ ЖЕНЩИН И ДЕВОЧЕК. В МАРТЕ WIRED СООБЩИЛ О ПЕРВЫХ НЕСОВЕРШЕННОЛЕТНИХ В США, АРЕСТОВАННЫХ ЗА РАСПРОСТРАНЕНИЕ БЕЗ СОГЛАСИЯ ОБНАЖЕННЫХ ЛЮДЕЙ, СОЗДАННЫХ С ПОМОЩЬЮ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА, ПОСЛЕ ТОГО КАК ПОЛИЦИЯ ФЛОРИДЫ ОБВИНИЛА ДВУХ МАЛЬЧИКОВ-ПОДРОСТКОВ В СОЗДАНИИ ИЗОБРАЖЕНИЙ, ИЗОБРАЖАЮЩИХ ОДНОКЛАССНИКОВ СРЕДНЕЙ ШКОЛЫ. -ПРОВОДНОЙ
Несмотря на то, что выдача себя за другое лицо без разрешения запрещена условиями использования OpenAI, решения, выносимые компанией, могут иметь серьезные последствия. Естественно, они также понимают, что OpenAI останется аутсайдером, если они не будут участвовать в этом рынке. Вместо этого победит чужой ИИ.
