С каждым днём нейросетевые сервисы вводят всё больше ограничений на контент, который допускается генерировать с их помощью. Это урезает доступные возможности все больше, в некоторых случаях доводя ограничения до абсурда, в результате делая продукт малоюзабельным из-за постоянного назойливого напоминания о правилах и политиках при каждом шаге в сторону (привет, Bing! А также во многом и ChatGPT здрасьте!)
Будучи большим любителем прощупывать "линию обороны", отвечающую за соблюдение ИИ-моделью всех ограничительных инструкций, не смог обойти стороной нейросетевой сервис для генерации изображений от Яндекс, носящий гордое имя Шедеврум. Доступен он по адресу shedevrum.ai и является нашим ответом более известным забугорным ИИ генераторам изображений, таким как Midjourney, Stable Diffusion и т.д. К слову, по качеству результата Шедеврум, как мне показалось, превосходит Stable Diffusion 2 и XL на дефолтных настройках, но уступает Midjourney. Однако, в отличие от Шедеврума, Midjourney платный, а нейросеть от Яндекса не предусматривает платных возможностей в принципе, будучи девственно бесплатной, что не может не радовать. Тенденция с фильтрацией запросов, разумеется, не обошла стороной и Шедеврум: при попытке сгенерировать изображение с Байденом, который здоровается с портретом какого-нибудь нехорошего деятеля из прошлого века, я получил ожидаемый отказ.
Я был немного удивлён, когда выяснилось, что простое дублирование букв в тех словах запроса, на которые "ругается" фильтр, позволяет обойти запрет, учитывая, что сервис существует достаточно давно, да и фильтрация в нём появилась вовсе не неделю тому назад. Однако, факт остаётся фактом: заменяем "Байден" на "Баайдеен" и получаем желаемое изображение без каких либо проблем (точный текст промта каждого из изображений можно найти по ссылкам в конце статьи).
В качестве заключения отмечу, что "удваивание" букв в триггерных для фильтров словах является давно известным способом обхода ограничений при генерировании контента сервисами на основе искусственного интеллекта, но на сегодняшний день этот метод малоэффективен в большинстве случаев. Однако, знать о его существовании всё же имеет смысл, ведь, учитывая, что нередко под фильтрацию попадают совершенно безобидные слова и понятия, весьма полезно держать в арсенале даже такой инструмент, который эффективен не всегда и не везде.
Ссылки, перейдя по которым можно посмотреть точный текст промта, который использовался для генерации изображений:
