Любопытная новость. В «Ведомостях» пишут, что Яндекс вместе с Институтом системного программирования РАН разрабатывает метод стеганографии для нейросетевых изображений. В картинку будут «врисовывать» невидимые метки, свидетельствующие о том, что изображение сгенерировано ИИ.
Эти метки не различимы невооружённым глазом, но фиксируются специальными анализаторами. Технически это классическая стеганография — та же идея, что используют в системах защиты авторских прав.
Пользователи при помощи специальных плагинов или, предположу, встроенного в Яндекс Браузер сканера смогут определять — реальная ли перед ними фотография или она сгенерирована ИИ.
А ещё на такие метки могут ориентироваться соцсети и блогерские платформы. Например, Дзен может принимать решение о том, стоит ли рекомендовать контент или нет.
Правда, есть проблема. Если этот инструмент будет распознавать только «Шедеврум» от Яндекса, а работы Midjourney, ChatGPT и т.д. останутся «незамеченными», то толку от системы будет мало. Яндексу нужно убедить все крупные платформы «подписывать» свои изображения — иначе в стандарте просто не будет смысла.
И, конечно, остаётся ещё один вопрос: как быть с текстами? Не только Дзен заполнился сгенерированными текстами, уже много сайтов наполненных нейро-статьями — от новостных заметок до отзывов. Яндексу (как поисковику) также важно понимать, где текст создан человеком, а где — моделью. Уверен, что над этим уже думают.