Эти два слова изначально были антонимами, но со временем стали частичными синонимами. Да, так бывает.
Оба слова восходят к одному и тому же общеславянскому корню, к которому восходит и слово «истинный».
Исходное значение слова «истовый» — 'истинный, правильный, настоящий'.
Соответственно, «неистовый» значило 'неистинный, неправильный, ненастоящий'.
Казалось бы, всё просто. Но что-то пошло не так.
Ещё в древнерусском языке слово «неистовый» начинает использоваться не только в значениях 'обманный', 'недействительный', 'неправильный', но и в других — 'безумный, помешанный', 'лютый, свирепый'.
Постепенно за ним закрепляются значения 'безудержный' и 'необычайно сильный'.
А значение 'ненастоящий' было утрачено.
Значение слова «истовый» тоже несколько меняется. 'Истинный' сохраняется, но добавляются оттенки смысла: истинность каких-то качеств начинает пониматься как ревностное соблюдение канонов, характеризующееся крайним усердием и даже некоторой исступлённостью.
Вот здесь-то и встретились «истовый» и «неистовый».
Антонимия по значению истинности ушла, а синонимия по значению степени выраженности появилась.
В современном языке эти слова нельзя назвать абсолютными синонимами (см. словарные статьи).
Слово «истовый» сохранило связь с исходным значением 'истинный', поэтому используется, когда мы говорим о соответствии каким-то канонам, ревностном соблюдении правил и об усердном совершении чего-то.
А «неистовый» по смыслу соотносится со словами «несдержанный», «необузданный», «буйный», «бешеный».
С одними и теми же словами могут использоваться оба эти слова, но обратите внимание на то, как меняются оттенки смысла:
истовая вера — неистовая вера,
истовый борец за права — неистовый борец за права.
Слово «неистовый» не подразумевает соответствия каким-то ожиданиям, оно выражает крайнюю степень несдержанности или буйства. Это слово указывает на характер контакта с окружающей средой.
Неистовые волны
Неистовый крик
Неистовый оратор
А «истовый» подходит, когда есть некоторый эталонный образ, а мы говорим о крайней степени выраженности соответствия этому образу.
Истовая молитва
Истовый католик
Истовый трудяга
Вот такая вот история.