Относительно недавно прошёл анонс нейросети Сбербанка - Kandinsky 2.1. Не буду докапываться до написания названия английскими буквами, всё таки Сбер - компания с уже нет многочисленными филиалами за границей. Меня смутила интересная чувствительность этой сети к определённым словам, связанными c нашими небратьями.
Вводим запрос - Русская ведьма, студийное фото.
Ну ок! Ведьма так ведьма!
Вводим запрос - Украинская ведьма, студийное фото
Вот это сюрприз! Оказывается русские ведьмы есть, а украинских нет! Как же так? Все слова связанные с "Украиной" заблокированные?
Смотрим дальше, запрос Бандерштат, студийное фото
Извиняюсь за дальнейшие запросы, но это чисто эксперимент.
Вот такие дела, причём тема мёртвых не заблокирована. Следующий запрос - Русская ведьма с мертвым ребенком, студийное фото
Меняем в запросе русскую ведьму на украинскую и ... получаем вот такую прелесть.
Короче интересная получается ситуация! Нейросеть - Нейронные сети не программируются в привычном смысле этого слова, они обучаются.
Возможность обучения — одно из главных преимуществ нейронных сетей перед традиционными алгоритмами. Технически обучение заключается в нахождении коэффициентов связей между нейронами. В процессе обучения нейронная сеть способна выявлять сложные зависимости между входными данными и выходными, а также выполнять обобщение. Это значит, что в случае успешного обучения сеть сможет вернуть верный результат на основании данных, которые отсутствовали в обучающей выборке, а также неполных и/или «зашумленных», частично искажённых данных.
Понятно, что нужно блокировать темы связанные с убийствами, обнажёнкой, извращениями и другими темами неприемлемыми в нашем обществе, но причём тут название "страны", само существование которой в последнее время под вопросом!
Может в Сбере стоит проверить программистов, которые отвечают за стоп слова в нейросети? Может сидят там несколько Тарасов на удаленке и вертят что хотят?
Небольшая подсказка тем, кто хочет создавать образы в нейросети Кандинский 2.1 - если в запросе стоп слово, то на выходе вы получите или цветы или портрет симпатичной девушки.
Так блокируйте уже всё подряд - фамилии связанные с Украиной, название городов и посёлков! А то получается некрасиво! Вводим запрос - Зеленский кормит рыб в Крыму, студийное фото
P.S. Статья выражает только личное мнение автора, все суждения оценочные.
