Как ошибается нейросеть

К только я стала пользоваться нейросетью, я задалась вопросом: как она может сотворить чепуху и как это отследить?

Я с рисую с помощью нейросеть иллюстрации для этого канала.

Мне нравится результат, но получается с десятого раза.

Про то, что нейросеть может ошибаться с количеством ног и пальцев у людей, понятно. Ластиком, кстати, легко скорректировать.

Нейросеть может запросто разместить на крыше дерево, а стол на подоконнике. Хотя я ее не просила.

Минусы. 1. Мне больше не нравится то, что нейросеть иногда не понимает важные условия: мне для канала нужны рисунки, а она иногда делает иллюстрации в виде фотографий и упорно не хочет отказываться от своего. Или делает в виде рисунков, а потом внезапно переходит на фотографии.

2. Второе неудобство: нейросеть все делает в виде рисунка, как мне надо, но создаст рисунок, а дальше зайдет в свою любимую 'заезженную колею', будет буксовать и упорно не захочет переделывать созданное ею изображение. Или переделает незначительно. Или на мои запросы упорно будет создавать похожие рисунки. Приходится открывать новое 'окно' и закрыть старое.

3. Нейросеть не всегда понимает узкопрофильный запрос и, соответственно, нарисовать то, что не надо, не может.

А что с текстами от нейросети? Я попробовала использовать нейросеть для подготовки к экзамену, если бы я была бы школьницей. Неплохой планировщик. Я помощью нейросети расписала план подготовки к экзамену на 8 месяцев.

Нейросеть неплохой источник конкретной информации. Я с ее помощью попыталась изучить некоторые темы. Удобно и интересно. Мне нравится.

Минусы. 1. Нейросеть правильно подсказала, что готовиться к экзамену надо, ориентируясь на требования, опубликованные на официальном сайте. Но предоставить мне эти требования не смогла и, в результате, она самостоятельно она не смогла помочь мне готовиться в соответствии с требованиями.

Все потому, что на сайте госучреждения образцы экзаменационных тестов были выложены в виде файлов, которые надо было скачивать.

Были ещё эти же тесты на сайтах негосударственных учреждений, но там они доступны после регистрации.

Все это я быстро нашла при помощи обычного поисковика.

Нейросеть не увидела. Она справедливо предложила искать самим и предоставить ей, т. к. для подготовки к экзамену знать требования 'критически важно'.

Возможно, достаточно было иначе составить промт, чтобы нейросеть справилась. Или другая нейросеть осилила бы.

2. Я попросила нейросеть рассказать, как доехать до небольшого городка в Московской области. Нейросеть запросто рассказала про то, как добраться на электричке. Но я прекрасно знала, что железная дорога в город не проведена, сообщение автобусное. Я стала задавать сети наводящие вопросы: про железнодорожные станции по пути, про год подстройки железной дороги в город и про внешний вид железнодорожного вокзала в городе. Нейросеть, нисколько не сомневалась. Станции по пути перечислила, сделав кашу из двух направлений железной дороги, точный год постройки железной дороги в город откуда-то взяла и даже описала как выглядит железнодорожный вокзал в городе. Никакие мои наводящие вопросы нейросеть не смутили.

Хорошо, что я неплохо знала город и просто игралась с нейросетью. А если бы нет? Как скоро заподозрила бы я косяк?

Я вспомнила, как запросто нейросеть рисует дерево на крыше дома или на оконной раме, если ее об этом не просят. Ага, запросто, это мы сейчас. Как в мультфильме про Вовку в Тридевятом царстве где 'Двое из ларца, одинаковы с лица' выскакивали с радостью из ларца и все Вовке делали.

Я описала, с чем я столкнулась Вопрос, как проверить нейросеть, для меня сложный. А какие были случаи у вас?

Напоследок хочу сказать, что кроме перечисленного, вопрос безопасности всё-таки есть. Когда я рисовала картинки для канала, нейросеть иногда отказывалась рисовать, распознав безобидный запрос как неприличный. Фильтры на непотребные изображения на ней есть, и это хорошо. Но очень редко в ответ на мой запрос, опять же безобидный, нейросеть рисовала такую гадость... что я тотчас, не раздумывая, удаляла рисунок.