Купцы из Аравии уже давно посещали плодородные области в долине Иордана и районе Газы. Город Иерусалим был святым для мусульман городом. Сирия и Палестина были хорошо знакомы арабам из Мекки и Медины. Еще при жизни пророка Мухаммада началось движение мусульман на север, в Палестину.
Фактически арабское завоевание Палестины началось в 629 г., когда Мухаммад отправил небольшой отряд на византийскую территорию. Видимо, арабы хотели пограбить, воспользоваться беспорядком, возникшим в связи с уходом персов. Неподалеку от селения Мута мусульмане столкнулись с отрядом византийской армии, были разбиты византийцами и бежали. В числе тех мусульман, которым удалось спастись, находился Халид ибн аль-Валид, прозванный Мечом Аллаха.
После смерти Мухаммада в 632 г. первый арабский халиф Абу Бакр принял решение о завоевании Палестины. Вторжение в Палестину началось с того, что четыре мусульманских отряда были отправлены в район Мертвого моря и Иорданской долины. Одним из командиров стал Язид, сын богатого аравийца Абу Суфьяна, владевшего землями в долине Иордана. Язид взял с собой в поход брата Муавийю, который в 661 году стал основателем династии Омейядов.
Еще один отряд возглавил бывший купец из Газы Амр ибн аль-Аса. Он повел свой трехтысячный отряд сначала к заливу Акаба, затем в долину Арава, а затем через пустыню Негев к Газе.
Близ города ибн аль-Аса начал переговоры с византийским наместником. В начале 634 г. у селения Датхин произошла битва между отрядом мусульман и византийским ополчением, в результате которого византийцы были разбиты, а командующий византийским отрядом погиб.
Вскоре в Палестину прибыл Халид ибн аль-Валид, который ради этого пересек Сирийскую пустыню с отрядом всего в 50 воинов. Он собрал воедино и возглавил мусульманскую армию и в конце 634 г. вошел в сирийский город Бостру. Жители Бостры согласились выплачивать мусульманам ежегодный налог. Бостра стала первым большим городом, который был захвачен в ходе арабского завоевания Палестины и Сирии.
После этого армия под руководством Меча Аллаха двинулась на помощь Амру ибн аль-Асе. К юго-западу от Иерусалима были сосредоточены значительные силы византийцев. Армии мусульман соединились, и общая численность их достигла 20 тысяч человек. У местечка, которое арабы называют Аджнадайн, состоялось генеральное сражение с византийским войском. Византийцы потерпели поражение и отошли частью в Иерусалим, частью в другие города.
Затем византийцы были атакованы арабами в Пелле и снова были вынуждены отступать — на сей раз к Дамаску. Мусульмане шли по пятам византийцев, осадили и взяли Дамаск. Город не пострадал при взятии и не был разграблен и в дальнейшем превратился в столицу халифата. Император Ираклий собрал в районе Антиохии довольно большую армию и двинулся к Дамаску.
Арабы оставили Дамаск и отступили к юго-восточной границе Голан. Византийская и мусульманская армии, имевшие примерно равную численность, встретились на реке Ярмук — в месте, где каньон Ярмука соединяется с каньоном Вади аль-Руккад. Сейчас в этом месте сходятся границы Сирии, Иордании и Израиля. Битва при Ярмуке представляла собой несколько боев, которые длились в течение месяца и завершились большим сражением в конце августа 636 г. Войском мусульман руководил Меч Аллаха Халид ибн аль-Валид, византийцами — армянский полководец Басен.
В ходе битвы конница мусульман сумела отсечь тяжеловооруженную пехоту византийцев от византийской конницы. Мусульмане захватили старый римский мост через Вади аль-Руккад, отрезав противнику путь к отступлению. Императорская пехота почти вся полегла в сражении. Битва при Ярмуке стала катастрофой для Византийской империи.
Император Ираклий сказал: «Прощай, Сирия» — и под именем Анатолия постригся в монахи в одном из синайских монастырей.
В 637 г. арабы взяли Хомс, а затем осадили Иерусалим.
Иерусалим держался 4 месяца, после чего патриарх Софроний сдал город мусульманам. По одной версии, город был сдан халифу Омару, а по другой — Омар прибыл уже после сдачи города. Арабы пощадили Иерусалим. Все храмы остались в неприкосновенности. Большая же часть их драгоценной утвари еще до начала осады была вывезена в Константинополь.
