Эта малоизвестная история, достаточно подробно описана в достоверных исторических трудах. Произошло это событие в X веке, когда на Ближнем востоке стали набирать силу карматы – крупное шиитское течение исмаилитов. Они создали своё государство и промышляли преимущественно грабежами паломников, направляющимися в Мекку.
Предводителем этой секты был Абу Тахир аль-Джаннаби. Будучи ярым противником суннизма, он предрекал конец эры ислама и наступление эры «последней религии», которая, по его мнению, должна была совпасть с совпадением Сатурна и Юпитера в 928 году. Воодушевлённые таким пророчеством карматы совершили ряд опустошительных набегов на Ирак, а в 930 году, в разгар месяца Зуль-Хиджа, в который мусульманам предписано совершать хадж, двинулись в сторону Мекки.
Дойдя до земель Харама карматы разграбили окрестности священного города. Мекканцы закрыли городские ворота и начали вооружаться. Тогда Абу Тахир прибег к хитрости. Он заявил, что прибыл в Мекку для, того, чтобы совершить обряды хаджа и поклялся, что не будет проливать кровь. «Вы не можете запретить мне посетить Дома Аллаха. Ведь я ваш брат в Исламе», – заявил он. Мекканцы, поверив его обещаниям, впустили карматов в город и сложили оружие. Войдя в Мекку, Абу Тахир дал приказ начать резню, которая, по сообщению известного арабского историка Абуль-Хасана Аль-Масуди продолжалась 80 дней. По его сообщениям «всё это время они каждое утро заходили в город, убивали людей и отбирали имущество, а вечером выходили». Затем карматы принялись грабить Каабу. Они сняли с неё золотые двери и жёлоб, вынесли из неё все золотые и серебряные принадлежности, забрали и разбили чёрный камень и сняли покрывало. По поводу убитых карматами имеются разные сведения. Согласно одним источников было убито 30 тысяч мусульман, согласно другим было убито больше, третьи источники говорят, что жертв было меньше.
Забрав с собой всё разграбленное, вместе с огромным количеством пленных карматы вернулись в свои владения. Долгое время чёрный камень находился у карматов. Одни источники называют цифру в 22 года, другие – 23. Правители мусульман неоднократно пытались вернуть его, но всё тщетно. Однажды они собрали 50 тысяч динаров и отправили их карматам в качестве выкупа за чёрный камень, однако ни деньги ни чёрный камень они обратно не получили.
Фатимидский халиф и имам исмаилитов Убайдаллах Аль-Махди, узнав обо всём этом, отправил Абу Тахиру письмо следующего содержания:
«Ты провалил всё, что мы до сих пор создавали, и ты этим своим поступком уподобил наше государство неверным и еретикам. Пока ты не вернёшь всё, что отобрал у жителей Мекки, не поставишь Хаджар Аль-Асвад на своё место и не вернёшь кисву (покрывало) Каабе, я не буду иметь к тебе никакого отношения ни в этом, ни в последующем мире».
После того как Абу Тахир получил это письмо он вернул чёрный камень обратно в Мекку.