Начиная с IX в. сепаратизм эмиров, не говоря уже о феодальных владетелях рангом поменьше и тем более вождях племен или сект, захватывавших силой определенную территорию и официально не признававшихся халифатом, ощущался все заметнее. Еще в конце VIII в. в Марокко возникло фактически независимое государство Идрисидов (788–905), которым управляли шииты из числа алидов. Затем полунезависимым стал Хорасан, где был создан эмират Тадиридов (821–873), после чего едва ли не все земли Средней Азии оказались под властью эмирата Саманидов (875–999), а Тунис и Алжир превратились в полунезависимый эмират Аглабидов (808–909). Наконец, в 868 г. захватил власть в Египте наместник халифа из числа тюрок-гулямов, основавший династию Тулунидов (868–905). На развалинах халифата обретали свою былую независимость и многие местные династии. Например, в 875 г. возродилось царство Багратидов в Армении.
Политический распад халифата в конце IX в. был усугублен восстаниями зинджей и карматов. Зинджи, чернокожие рабы из Занзибара, использовались на тяжелых работах в Южном Междуречье близ Басры, где десятки тысяч их, организованные в отряды, занимались строительством каналов и расчисткой солончаков. Бывшие собственностью халифата зинджи в 869 г. восстали и на протяжении 14 лет удерживали под своей властью район Басры и часть Хузистана, действуя при этом с большой жестокостью: перестав быть рабами, зинджи в основанном ими собственном халифате стали превращать в рабов едва ли не всех остальных, начиная с пленных арабов.
В восстании зинджей участвовала и группа шиитов из крайней шиитской секты исмаилитов, получившая наименование карматов. В конце IX в. карматы подняли еще одно восстание, распространившееся на Сирию, Ирак и Бахрейн. В Сирии и Ираке оно вскоре было подавлено, а в районе Бахрейна карматы закрепились надолго, создав здесь собственное государство сектантов. Это было весьма своеобразное государство, просуществовавшее, тем не менее, около полутора столетий. По некоторым описаниям, восходящим к середине XI в., оно управлялось выборной коллегией руководителей, население его вовсе не платило никаких налогов, а казна пополнялась за счет военной добычи, т.е. грабительских набегов на соседние земли. В счет такой добычи входили и пленники-рабы; кроме того, государство на награбленные средства покупало других рабов. Десятки тысяч рабов были слоем неполноправных работников, обрабатывавших часть земли, за счет доходов с которых в немалой степени существовало государство.
Обращает на себя внимание то, как восставшие зинджи и карматы относились к рабам и рабству. Ислам как религия рабство не поощрял; это, однако, не мешало существованию государственного рабства в халифате. Поэтому существенно не то, что рабы и рабство, несмотря на религиозный принцип социально-юридического равенства, все же были. Гораздо важнее, что социально неполноправные категории населения, испытавшие унижение в общегосударственном масштабе, быть может, именно вследствие своего столь специфического бытия иных форм эксплуатации чужого труда не желали знать: освободившиеся от рабства рабы предпочитали, став хозяевами жизни, жить за счет рабского труда других. Функционировавшие в рамках жесткой социально-религиозной структуры сектанты не видели ничего дурного в жестких способах эксплуатации чуждых им людей, в неравноправии рабов.
Восстания и сепаратистские устремления и акции эмиров привели в своей совокупности к тому, что на рубеже IX–Х вв. реальная власть халифа сильно уменьшилась. Практически возглавлявшееся им государство в начале Х в. контролировало лишь западную часть Ирана и небольшую прилегающую к ней территорию вместе со столицей Багдадом. Но и это продолжалось недолго. В 935 г. в западноиранских землях возникло государство Бундов, которые в 945 г. захватили Багдад и окончательно лишили халифа светской власти. Буиды присвоили себе титул «эмир эмиров» и стали управлять Ираком и Западным Ираном. Халиф же остался духовным главой правоверных, да и то лишь для ортодоксальных мусульман-суннитов. В этом состоянии он – а с ним и халифат как институт – просуществовал в Багдаде еще около трех веков. Впрочем, и это следует подчеркнуть, номинально халиф все-таки продолжал считаться верховным правителем всех правоверных, хотя функции его ограничивались вручением инвеституры очередному претенденту на власть в том или ином из эмиратов, позже также и султанатов.