Читать и писать он учился где придется, с юных лет помогал отцу у ткацкого станка, пас гусей. Трудно было бы рассчитывать ему на хорошее образование, если бы не помог случай: деревенский пастор заметил мальчика, отличавшегося прекрасной памятью и любовью к чтению, и стал регулярно с ним заниматься. Последовавшие за этим события похожи на сказочный сюжет. Богатый помещик из соседней деревни барон фон Мильтиц, гостя у своего друга в Рамменау, решил послушать проповедь пастора, но опоздал к службе. Тогда ему посоветовали позвать Иоганна, который на память знал все проповеди своего наставника. Прослушав юного проповедника, изумленный барон решил, что такому таланту нельзя пропасть в глуши. В 1774 г. он устроил 12-летнего Иоганна в училище в г. Шульпфорте – закрытое учебное заведение для дворянских детей. А спустя шесть лет Фихте стал студентом теологического факультета Йенского университета. К этому времени его покровитель умер, и хотя юноша и получал материальную поддержку от семейства Мильтицев, этой помощи было явно недостаточно. Нужда заставила его отказаться от карьеры сельского пастора, и с 1784 г. Фихте стал учительствовать в богатых семействах Саксонии.
К этому времени относится и серьезный конфликт Фихте с матерью, которая страстно желала видеть своего сына на церковной кафедре. Ее незаслуженные упреки и обвинения, а также постоянная нужда сделали жизнь молодого Фихте сущим адом. Спасение пришло в 1788 г.: один из друзей нашел Иоганну место домашнего учителя в Швейцарии. В сентябре молодой учитель прибыл в Цюрих, где стал воспитателем двоих детей владельца гостиницы.