После появления новой версии генератора изображений в ChatGPT-4o, способного воспроизводить текст с высокой степенью реалистичности, в интернете начали активно распространяться изображения поддельных ресторанных чеков.
В соцсетях появились фотки фальшивых квитанций с проработанными деталями — в том числе с искусственно добавленными следами от еды и напитков. Эксперты предполагают, что такой инструмент можно использовать в сомнительных целях. В самой OpenAI уверяют, что все визуальные материалы, созданные с помощью платформы, снабжаются специальными цифровыми метками.
Венчурный инвестор и автор блога Диди Дас опубликовал в X изображение чека, который якобы был «распечатан» виртуальным инструментом из ChatGPT-4o. По его словам, квитанция принадлежала реальному стейк-хаусу, расположенному в Сан-Франциско.
Судя по реакции пользователей, воспроизвести подобные изображения может практически любой. Некоторые пошли ещё дальше — дополнили изображения пятнами и складками, придавая им ещё большую правдоподобность. TechCrunch обнаружил особенно убедительный пример, появившийся во французском сегменте LinkedIn — пользователь разместил изображение «помятого» чека, относящегося к одной из сетей общественного питания.
Редакция TechCrunch решила лично проверить, на что способен генератор изображений в 4o. Журналисты сгенерировали фальшивку, стилизованную под чек из ресторана Applebee’s, расположенного в Сан-Франциско. Несмотря на общее качество изображения, подделку легко было раскрыть.
Прежде всего, в общей сумме вместо привычной точки использовалась запятая, а расчёты в нижней части квитанции не совпадали с указанными значениями. Как подчеркнули журналисты, это не удивительно — у языковых моделей по-прежнему возникают сложности с простыми арифметическими операциями.
Специалисты отмечают, что даже нестыковки в цифрах легко устранить, если воспользоваться графическим редактором или скорректировать запрос к нейросети. Простота, с которой пользователи создают реалистичные изображения фальшивых чеков, вызывает вопросы. Подобные визуальные материалы могут использоваться для того, чтобы получать возмещение за мнимые траты, не подтверждённые в реальности.
Представитель OpenAI Тайя Кристиансон прокомментировала ситуацию, подчеркнув, что каждое изображение, созданное в ChatGPT, содержит встроенные метаданные, указывающие на искусственное происхождение контента.
По словам Кристиансон, компания отслеживает соблюдение условий пользования сервисом и реагирует на инциденты, связанные с нарушениями. Также она добавила, что платформа находится в постоянном контакте с пользователями и анализирует, как используются её инструменты в реальной жизни.
Журналисты TechCrunch задали вопрос о соответствии подобного функционала политике компании, запрещающей любые мошеннические действия. В ответ Тайя Кристиансон заявила, что разработчики стремятся предоставить людям максимум творческой свободы. Она также отметила, что изображения фальшивых чеков могут находить применение в легальных сферах — для образовательных программ по финансовой грамотности, в рекламе или в рамках художественных проектов.
Ещё по теме: