Почему нейросеть путается с количеством пальцев? 🧐
Главное, что нужно понять: модель не считает. Вообще.
Когда ты загружаешь картинку, она не видит «руку с пальцами». Она видит набор признаков: линии, контуры, тени, текстуры. Дальше модель ищет паттерн, который встречала чаще всего в обучающих данных.
Как это выглядит:
- Чёткие контуры, знакомая форма → «5 пальцев»
- Есть тень или изгиб, похожий на палец → «6 пальцев»
- Семь пальцев? Таких рук почти нет в реальных фото, поэтому вероятность близка к нулю
Модель работает на статистике. Она выдаёт то, что видела чаще всего. 5-6 пальцев встречаются в данных (включая старые AI-генерации с косяками). 7 — намного менее вероятно, что в нее загружали такие данные
Итог:
Нейросеть не понимает, что такое рука. Она угадывает на основе того, что запомнила из миллионов картинок. В простых случаях работает идеально. В неоднозначных — ошибается там, где человек даже не задумается.
(Картинка руки с канала «Нейромания»)
#edu_content
