OpenAI представила новые рекомендации по генерации изображений в GPT-4o, отмечая переход к предоставлению пользователям большей творческой свободы при сохранении определенных мер безопасности.
Джоанн Джанг, которая курирует model behavior в OpenAI, подробно рассказала о том, что компания думает об этих изменениях в дополнительном посте. По словам Чанга, компания отходит от строгих ограничений контента в пользу предоставления пользователям большей автономии. "Сотрудники лаборатории искусственного интеллекта не должны быть арбитрами в том, что людям следует разрешать создавать, а что нет", - объясняет Чан.
Для публичных персон OpenAI теперь предлагает опцию отказа, а не общие ограничения. Компания также пересмотрела свой подход к потенциально конфиденциальному контенту, стремясь избежать неявной предвзятости при фильтрации контента. Предыдущие политики блокировали запросы типа "сделать человека тяжелее" или "сделать глаза этого человека более азиатскими", которые непреднамеренно предполагали, что эти характеристики были оскорбительными. Новые рекомендации направлены на устранение таких непреднамеренных оценочных суждений.
Даже спорные символы, такие как свастика, не запрещены полностью, поскольку они могут иметь законное образовательное или культурное применение. Вместо этого OpenAI заявляет, что разрабатывает технические инструменты для обнаружения и предотвращения неправильного использования.
Для несовершеннолетних сохраняются особые меры защиты, при этом строгие гарантии применяются как к исследованиям, так и к использованию продукта. OpenAI заявляет, что продолжит совершенствовать эти рекомендации на основе отзывов пользователей и их опыта.
Ориентируясь на отраслевое и политическое давление
В то время как Джанг рассматривает изменения как естественную эволюцию мышления OpenAI, за этим, вероятно, кроется нечто большее. Сдвиг происходит из-за того, что конкуренты, такие как xAI, придерживаются более либерального подхода. Например, Grok 3 практически не накладывает ограничений на генерацию изображений в своей модели Aurora.
Более широкий контекст также включает изменение отношения к модерации контента в США Под лозунгом свободы слова проблемный контент, такой как разжигание ненависти, дезинформация и экстремистская символика, все чаще находит признание в общественных местах. Компаниям, занимающимся искусственным интеллектом, теперь приходится с трудом балансировать между соблюдением этических стандартов и реакцией на политическое давление, требующее принятия политики модерации контента, особенно для того, чтобы их "меньше беспокоили".
Графические возможности GPT4o уже вызвали споры по поводу копирования художественного стиля (см. Примеры выше). С момента запуска приложения пользователи ChatGPT создали множество изображений в стиле известной анимационной студии Ghibli, включая вирусный трейлер "Властелина колец". OpenAI объясняет, что имена исполнителей по-прежнему блокируются в приглашениях, но студийные стили остаются разрешенными для творческой работы фанатов. Интересно, что ChatGPT иногда блокирует запросы на контент Ghibli, ссылаясь на проблемы с авторскими правами, хотя это, похоже, противоречит предполагаемой модели поведения OpenAI. Джанг не прокомментировала авторские права в своем посте.
Как генерировать картинки нейросетью Dall-e от OpenAI в России ?
В России создавать картинки можно с помощью сервиса KolerskyAI в телеграм. Они генерируются по простому текстовому запросу. Можно выбрать разрешение и пропорции.
Краткие сведения
- OpenAI внедрил генерацию изображений в ChatGPT с использованием GPT-4o, сделав выбор в пользу более детальной модерации контента вместо широких запретов.
- Джоанн Джанг, руководитель отдела Model Behavior, подробно описала изменения в статье подзаголовка, подняв вопросы о балансе между свободой пользователей и ответственным внедрением искусственного интеллекта.
- Новый подход OpenAI основан на том, что конкуренты, такие как xAI, накладывают меньше ограничений на генерацию изображений, что потенциально вынуждает компанию идти в ногу со временем.