В конце правления халифа Османа в исламе начинают появляться различные течения, первым из которых стали хариджиты (656 г.) – наиболее радикальные мусульмане, полностью отрицавшие что-то, кроме Корана и призывавшие вернуться к раннему исламу Мухаммеда, к равенству всех мусульман (в том числе и в праве руководства общиной). Хариджитами был убит Осман и возведен на престол Али – двоюродный брат (или племянник) Мухаммеда и муж его дочери Фатимы. Однако Али казался хариджитами слишком умеренным, за что также был убит в 661 г. Сторонники халифа Али, получившие наименование шииты (шия-Али, партия Али) стали основоположниками самого серьезного раскола в исламе, их противники стали называться суннитами.
Шиитами в качестве священной книги признается только Коран, хадисы (которых в шиизме меньше, чем у суннитов) могут выполнять только вспомогательный характер и руководствоваться ими не стоит. Право на руководство мусульманской общиной признается только за потомками Мухаммеда (по линии Фатимы и Али), все халифы до Али считаются ложными. Сунниты помимо Корана считают священной книгой Сунну, согласно суннизму руководитель общины избирается из членов племени курейшитов (к которому принадлежал Мухаммед). Между шиитами и суннитами развернулась ожесточенная борьба за власть, большинство мусульман не поддержали Али и его преемников.
В дальнейшем в шиизме выделилось несколько течений, крупнейшим из которых являются имамиты, признающие одиннадцать законных имамов – потомков Али; двенадцатый имам в IX в. исчез, однако должен в конце времен объявиться как спаситель – махди. Более радикальным направлением стали исмаилиты, признающие неограниченную свободу воли и считающие, что в их имамах воплощается мировая душа. Из исмаилитов выделились секты ассасинов, сочетающая мистические идеи с фанатичной борьбой с неверными и карматов, сторонников утопических идей построения царства Аллаха на земле. Общее количество сект в современном шиизме составляет несколько десятков.
В суннизме также сложилось несколько направлений, первым из которых в VIII-IX в. стало мутазилитское, в рамках которого божественное происхождение Корана было подвергнуто критике, провозглашалась определенная свобода воли, и в целом господствовало рационалистическое представление о религии. В дальнейшем в рамках суннитского богословия сложилось четыре основных направления, существующих до настоящего времени: ханифитов, шафиитов, маликитов и ханбалитов (по имени их основателей). В рамках первых из них допускается более свободное толкование Корана, две другие настаивают на буквальном его понимании.
Особняком стоит зародившийся в то же время суфизм, являющийся мистической, полумонашеской школой, возникшей в шиизме, но распространившейся и среди суннитов. Суфизм испытал на себе влияние зороастризма, неоплатонизма, возможно, буддизма. В нем отходила на второй план обрядовая сторона ислама, вытесняясь богопознанием ради мистического слияния с Аллахом. Суфии придавали особое мистическое значение именам божьим, встречаемым в Коране, стремясь через них понять сущность Аллаха. Суфии объединялись в ордена странствующих монахов – дервишей.
В XVIII в. в Аравии зародилось течение ваххабизма, сторонники которого призывали отказаться от всех поздних наслоений в исламе, вернувшись к тому варианту, который существовал при Мухаммеде. Ваххабиты отказались от всякого европейского влияния, культа святых, который к тому времени широко распространился среди мусульман. В настоящее время среди мусульман основными направлениями продолжают оставаться хариджизм (сторонников которого меньше всего), шиизм и суннизм, противоречия между которыми до сих пор не преодолены.