Ежегодно совершались набеги на византийские владения в Малой Азии. Был построен большой военный флот, с помощью которого арабы стали теснить византийцев в восточной части Средиземного моря, блокируя их важнейшие гавани. В 672 г. арабы захватили о. Родос, а в следующем году высадились на Крите. Однако они не смогли развить этот успех, так как византийцам удалось сжечь большую часть мусульманского флота и навязать Муавии мирный договор, по которому тот должен был — согласно византийским источникам — платить императору ежегодную дань золотом и конями.
В правление Муавии изменился характер верховной власти. Эти изменения, с одной стороны, были следствием естественной эволюции, которую претерпело мусульманское государство, превратившееся в результате завоеваний из сравнительно небольшой общины единоверцев-мусульман в огромную империю с преобладанием иноверческого населения. С другой стороны, на внешние формы этих изменений повлияли государственные традиции завоеванных стран, прежде всего Сирии и Палестины, где долгое время жил Муавия.
Из первого среди равных в общине мусульман, какими были — при всей разнице между ними — «праведные халифы», халиф превратился в лицо, стоявшее над обществом, обособленное от рядовых мусульман. Муавия первым из халифов построил себе дворец, окружил себя многочисленными служителями, ограничил доступ в свои покои очень узким кругом лиц, сделал «хаджиба» («привратника») важной придворной фигурой. Постепенно сложился придворный церемониал.
По заключенному в 661 г. соглашению со старшим сыном Али Хасаном Муавия обязался не назначать преемника, но поручить его выбор совету мусульман; в случае же смерти Муавии власть по условиям договора переходила к Хасану. После кончины Хасана в 669 г. халиф посчитал себя свободным от этого обязательства и в 676 г. в Мекке заставил сыновей первых четырех халифов принести присягу своему сыну Иазиду. Таким образом, Муавия отменил прежний обычай избрания халифа и основал наследственный Халифат со столицей в сирийском городе Дамаске.
Со смертью Муавии I вновь выдвинулся на первый план вопрос о верховной власти, что привело ко второй гражданской войне в Халифате (680–692). Отказ второго сына Али, Хусейна, повиноваться новому халифу Йазиду I (680–683) побудил шиитов возобновить открытую борьбу за халифа из Алидов. Собравшиеся в Куфе вожди шиитов обратились с посланием к Хусейну, в котором просили его приехать в Куфу и возглавить борьбу, опираясь на их поддержку. Пока Хусейн собирался в путь, обмениваясь письмами с шиитами Куфы и Басры, куфийцы подняли восстание, но оно было тут же подавлено наместником Куфы Убайдаллахом ибн Зийадом. О подавлении выступления куфийцев Хусейн узнал, будучи уже в пути, но решил не поворачивать назад.
На подъезде к Куфе Хусейн, направлявшийся туда вместе со своими женами, детьми и другими родственниками, встретил отряд, охранявший подступы к городу. 10 октября 680 г. у Кербелы состоялся неравный бой между людьми Хусейна (их насчитывалось 80 чел.) и воинами наместника, имевшими по меньшей мере пятидесятикратный численный перевес. О гибели Хусейна в этом бою сохранилось множество рассказов у мусульманских историков. Поначалу никто из халифских воинов будто бы не решался поднять руку на внука Пророка, не желая брать на себя единоличную ответственность. Но затем они все вместе набросились на него и изрубили мечами. В бою погибли и ближайшие родственники Хусейна — сыновья, родные и двоюродные братья и племянники. Уцелели (как несовершеннолетние) — сын Хусейна Али ал-Асгар («Младший») и сыновья Хасана — Омар и Хасан; их, а также взятых в плен женщин доставили сначала в Куфу и Дамаск, а затем отвезли обратно в Медину.
Мученическая смерть Хусейна имела далеко идущие последствия для шиитского движения. Она еще больше сплотила шиитов, а образ имама-мученика придал этому поначалу политическому движению ярко выраженный религиозный характер.
Оставшийся в Мекке сторонник Хусейна Абдаллах Ибн аз-Зубайр — сын верного сподвижника Мухаммада и внук Абу Бакра по материнской линии — публично осудил убийство Хусейна и стал призывать к созыву совета для избрания нового халифа. Попытки Йазида мирно уладить конфликт ни к чему не привели, а распространившиеся слухи о том, что халиф готовит поход на Мекку, заставили сторонников Ибн аз-Зубайра прибыть к нему в Мекку. Они разбили отряд, посланный против мятежников наместником Медины, и этот успех еще больше укрепил авторитет Ибн аз-Зубайра в Хиджазе. Ибн аз-Зубайр подчинил Таиф, а также получил поддержку хариджитов Йамамы.
Весной 683 г. влиятельные мединцы прогнали наместинка Медины Османа ибн Мухаммада, двоюродного брата Йазида, и заявили о низложении халифа. Вместе с тем, они не стали поддерживать мятежного Ибн аз-Зубайра, поскольку считали, что халифа должен выбирать совет. В августе 683 г. к Медине подошла направленная Йазидом из Сирии армия. После упорного сражения воины халифа ворвались в город и предали его настоящему разгрому. По сообщениям мусульманских историков, среди убитых оказалось 306 курайшитов и ансаров. В сентябре того же года начались боевые действия у Мекки, где во дворе ал-Масджид ал-Харам стал лагерем Ибн аз-Зубайр, примкнувшие к нему хариджиты из Йамамы и оставшиеся в живых мединцы. На горе Абу Кубайс сирийцы установили катапульту, с помощью которой стали метать камни в мечеть. Одним из наиболее запоминающихся эпизодов этой кампании стал пожар Каабы, во время которого треснул и раскололся знаменитый Черный камень (31 октября 683 г.).
В конце 683 г. после гибели Йазида (разбившегося в результате падения с лошади на охоте) в Халифате вновь вспыхнули смуты, но на этот раз их причиной стало фактическое безвластие в самом Дамаске, где после гибели Йазида I его сыновья показали полную неспособность к управлению страной. Старший сын Йазида Муавия II (683–684) не имел никаких властных амбиций и фактически передоверил все функции управления государством Хассану ибн Малику ибн Бахдалу, предводителю арабского племени калб, двоюродному брату Йазида. Хассан имел авторитет в Сирии и Палестине, но не пользовался влиянием в других областях Халифата — Ираке, Египте и Аравии. К тому же спустя три месяца Муавия II объявил, что отрекается от власти. Халиф не сделал никаких распоряжений относительно своего наследника и вскоре скончался, заболев чумой. Его брат Халид также был неподходящим кандидатом на престол, поскольку науками — химией и греческой философией — интересовался больше, чем политикой. Других взрослых сыновей у Йазида не было, поэтому реальными претендентами на власть могли стать представители других ветвей рода Омейядов, но среди них самих не имелось единства на этот счет.
Положение в Сирии осложнялось еще и разгоревшимися волнениями арабских племенных объединений калб и кайс. Калбиты считались «старыми сирийскими арабами» — на них опирался еще Муавия, женатый на дочери их вождя и предоставивший калбитам ряд привилегий. Североарабские племена кайситы переселились в Сирию из Аравии во время мусульманского завоевания; они растеклись по всей Сирии, заняв пустующие земли, и периодически конфликтовали с местными племенами из-за пастбищ и водопоев.
Узнав о безвластии в Дамаске, Ибн аз-Зубайр в феврале 684 г. объявил себя халифом. Он сразу же лишился поддержки иракских хариджитов, которые, отстаивая идею выборности правителя, не признали его законным халифом, но по-прежнему пользовался влиянием в Аравии и имел немало сторонников в Египте, Ираке и Хорасане. К нему также примкнули вожди некоторых арабских племен Сирии и Палестины (как из калбитов, так и из кайситов). Не остались в стороне от борьбы за власть и вожди хариджитов — Нафи ибн ал-Азрак и Наджда ибн Амир ал-Ханафи. Поначалу они поддерживали Ибн аз-Зубайра в его противостоянии Йазиду I, но затем отмежевались от него и уехали из Мекки в Басру. Очень скоро между ними возникли разногласия.
Ибн ал-Азрак занимал непримиримую позицию по отношению к мусульманам-нехариджитам. Он считал их язычниками, с которыми нельзя идти ни на какие соглашения; даже те из хариджитов, которые не принимали участие в хариджитских восстаниях, рассматривались им как изменники. Последователи Ибн ал-Азрака впоследствии получили название «азракитов». Наджда ибн Амир придерживался более умеренных взглядов, допуская общение хариджитов с иноверующими мусульманами. Так и не договорившись с Ибн ал-Азраком, Наджда летом 684 г. ушел из Басры в Йамаму. Там он возглавил местных хариджитов и значительно укрепил свои позиции, захватил в 686–688 гг. Бахрейн, Оман и Йемен.
Несмотря на то, что сам Ибн ал-Азрак вскоре погиб в одной из стычек с басрийцами, азракитам удалось распространить свою власть на ал-Ахваз (Хузистан), Фарс и Керман. Своего вождя ал-Катари ибн ал-Фуджаа они провозгласили халифом. Азракиты нашли поддержку среди сельского населения этих областей Южного Ирана, но широкой социальной базы не имели, так как своим экстремизмом отталкивали от себя остальных мусульман.
