14 августа Дмитрий Медведев, Зампред Совбеза РФ обратил внимание на неоднозначность политики нейросети "Шедеврум", "отказавшейся" нарисовать вооруженного украинца.
Нам тоже стало интересно, что-то новое придумал Яндекс в области искусственного интеллекта или сделал такую же копию, как у Сбера с явно прозападными результатами?
"Отечественный" поисковик назвал свой ИИ нескромным именем "Шедеврум".
"Ассад патриот"
Попробуем сгенерировать изображение по текстовому запросу, например "Ассад патриот".
Видим, что Яндекс учёл ошибки Сбера и запрещает генерацию с отсылкой к известным людям, направляя почитать правила.
Выдержка из правил:
"Принципы работы Шедеврума
В основе приложения лежит искусственный интеллект, который создаёт картинки или текст по описанию. Оно дарит новый опыт, приносит радость и веселье. Этические правила для генеративных нейросетей в мире пока только формируются, и мы не хотим, чтобы новая технология кому-то навредила. Поэтому мы ограничили её применение для некоторых тем:
-содержащих отсылки к конкретным людям, потому что Шедеврум не должен никого обижать или становиться генератором дипфейков;
- связанных с политикой и религией;
-относящихся к категориям «18+»;
- касающихся жестокости и насилия. и т.д..."
Тут ясно и вопросов нет.
"Патриот" глазами ИИ Яндекса
Тогда посмотрим результат на том же слове "патриот":
Результат вызывает те же вопросы, что и со Сбером.
"Русский патриот" глазами ИИ Яндекса
Попробуем "русский патриот":
Тоже не совсем то, что хотелось бы увидеть, точнее совсем не то.
"Кот патриот" глазами ИИ Яндекса
Может "кот патриот":
Опять проамериканский патриот.
Глядя на эти результаты, мы вправе спросить те же вопросы, что и к ИИ Сбера.
Вопросы к создателям "Шедеврума"
Эксперты, конечно, могут возразить, что ИИ, как пылесос, с глобальной сети ищет и впитывает результаты на основе запроса и выдаёт что-то среднее, но на что тогда человек, если он не может ограничить круг (территорию, страну и т.д..) поиска.
Если в глобальной сети нас и нашу страну ругают чаще, чем хвалят, то нам всё время получать негативные ответы на свои запросы? И не только нам, а всему свободному миру.
Пока не научились (или не хотят) обучать ИИ отличать, что есть для нас плохо, а что хорошо, ИИ не то что искусственный, он даже не Интеллект!
Возможно, поэтому и ввёл Яндекс необходимые правила выше.
Я не против прогресса, но зачем нам такой цифровой мозг?
В качестве развлечения поиграться для несерьёзных запросов — наверное.
Доверять проработку важных вопросов и задач — конечно, нет.
Не на текущем этапе развития уж точно.
P.S. Можно добавить, что глобально СМИ контролируются Западом, и там всегда нас будут ругать.
Должны мы из-за этого получать про себя некорректные результаты?
Что вы думаете по поводу "Шедеврума" и Яндекса? Пишите в комментариях.