Начну я сразу с опровержения – Кот Баюн является придуманным персонажем. Даже сложно говорить о его фольклорности. Если проанализировать сказки, песни и т.д. то его имя встречается крайне редко. Он не может входить в так называемый бестиарий (т.е. его образ не настолько известен и историчен как например кикимора или домовой). Также нет четкого определения, что же это за кот и какие у него «волшебные способности». В одним сказка он говорит, в других рассказывает сказки или напускает сон.
В некоторых же сказках кот выступает в роли чудовища, которое раздирает свою жертву острыми когтями или убаюкивает до смерти. Однако самый знакомый и привычный для нас – это пушкинский вариант кота – кот-ученый.
Пожалуй, впервые мы сталкиваемся с этим ученым котом в прологе к Руслану и Людмиле «У Лукоморья дуб зелёный, златая цепь на дубе том, и днём и ночью кот ученый все ходит по цепи кругом».
Скорее всего в народную сказку образ кота-рассказчика проник из восточного фольклора вследствие популярности преданий о чудесах баснословного «Индийского царства».
Однако образ кота в народной культуре очень важен.
Кот (не Баюн) упоминается во многих колыбельных, он приносит сон, охраняет спящее дитя, путешествует между мирами так как может приносить сон. Иногда его отдают нечисти, вместо ребенка.
Возможно, благодаря именно колыбельным и сформировался образ кота Баюна – волшебного убаюкивающего кота.
Слово «Баюн» имеет два значение – «баять» т.е. красноречиво говорить, красиво что-то рассказывать, но и нянчить, баюкать.
Образ кота встречался в сказках и колыбельных, однако до публикации сборника Афанасьева, образ кота как чудовища не был никому знаком.
Есть еще одно предположение, почему кот стал прототипом некоторого чудовища. Создатель образа Кота Баюна мог вдохновляться популярными представлениями о котах-помощниках у колдунов, ведьм, а также о способности самих ведьм превращаться в кошек.
Поэтому говорить о том, что у нас существовали верования в чудовищного Кота Баюна, который может в дремучем лесу забаюкать вас до смерти, а затем съесть - невозможно. Конечно к кошкам было некоторое предвзятое отношение, поверья о них были известны, да и к нечести их приписывали, но Кот Баюн это некоторый собранный и образ из многих многих элементов, не известный до публикации сказок Афанасьева.
Источник: «КОТ БАЮН И КВАЗИФОЛЬКЛОРНАЯ СОСТАВЛЯЮЩАЯ СОВРЕМЕННОЙ МАССОВОЙ КУЛЬТУРЫ Кирилл Михайлович Королев Историко-культурный центр «Патрия»
Также оставляю ссылку на подробное исследование о коте Баюне: https://anthropologie.kunstkamera.ru/files/pdf/039/korolev.pdf