Локальный AI - не очень Кароче - работает неплохо, но медленно. Если и запускать какие-то сервисы то это обойдется в копеечку. У меня 4060 RTX 8gb и 32 ОЗУ, но это медленно! Вообще идея сделать что-то интересное провалилась. Но благо есть агрегаторы через которых можно относительно не дорого что-то придумать.