632年6月,先知穆罕默德在麦地那病逝后，逊尼派认定先知的岳父艾布·司迪齐（阿布·伯克尔）作为“忠实的指挥官”，是穆罕默德的继承人也是四大哈里发之首。相反，什叶派认为，先知的女婿及堂弟阿里才是穆罕默德选定的精神和现世继承人。一场持续至今的分裂由此产生。
第一次伊斯兰内战爆发于阿里、穆阿维叶和哈里哲派三派之间。661年，阿里在哈里哲派精心策划杀死所有伊斯兰领导人的阴谋中被暗杀。然而，哈里哲派未能击败穆阿维叶。穆阿维叶与阿里幸存的儿子达成协议后，获得了哈里发统治的领土，创立了倭马亚王朝并歼灭了哈里哲派。
740—743年的柏柏尔叛乱削弱了倭马亚王朝的实力。最终，哈西姆派（什叶派分支），于747年在阿拔斯部落的带领下采取行动反对哈里发。750年1月，阿拔斯王朝取代倭马亚王朝，定都巴格达。倭马亚王朝最后一个哈里发于8月死于埃及。王朝的幸存者穿过北非逃至伊比利亚半岛，建立了科尔多瓦哈里发国（延续到1031年）。
从1096年那场倒霉的人民十字军开始，到取得胜利的第一次十字军东征（占据了耶路撒冷，这是所有动乱的根本目的），这给黎凡特带来了一场持续数代的大规模屠杀。基督徒和穆斯林之间的斗争决定了阿拔斯王朝的剩余时间。
驱逐异教徒的任务留给了萨拉丁。萨拉丁仅仅是塞尔柱王朝叙利亚长官努尔丁手下的一名指挥官，但他却被法蒂玛王朝的苏丹任命为埃及的维齐尔（伊斯兰教国家高官）。1174年，努尔丁去世后，萨拉丁以埃及苏丹的身份宣告阿尤布王朝的建立，并迅速占领了叙利亚，使伊斯兰教在新的阿拉伯哈里发统治下又重归统一。后来他夺回了耶路撒冷，并击溃了黎凡特的大部分十字军国家，并与狮心王理查在1192年6月签订了《拉姆拉条约》，规定伊斯兰教要保持耶路撒冷原貌不变，而且允许基督教徒来这座城市朝圣。
萨拉丁为帝国建立了一套“集体主权”系统，让每个阿尤布家族成员以一个“小型苏丹”的身份统治一块区域。这是一种会导致纷争的政治模式，还不到两代人的时间，阿尤布苏丹王朝就陷入了混乱。各地区开始造反，异教徒们出动了更多的十字军来“拯救基督王国”，马穆鲁克设法推翻了阿尤布王朝在埃及的统治。
随后蒙古人来了，经过几年的边界之争，蒙古大汗蒙哥命令他的弟弟旭烈兀将蒙古帝国的边境扩张到尼罗河畔。1258年，旭烈兀可汗占领了阿拔斯王朝的都城巴格达并屠杀居民，其中包括哈里发和他大部分家人。
虽然继任者的王朝幸存了下来，另一个新的伊斯兰帝国也会随之拔地而起，然而“阿拉伯哈里发王朝”却是一去不复返了。对这个有600多年辉煌历史的王朝来说，结局着实不太体面。
