Византийцы имели в этом регионе еще две крупные войсковые группировки в Рамле и Иерусалиме. Амр дождался подкреплений и разделил их на две части. Одну часть он отправил на Рамлу, другую — на Иерусалим, чтобы не позволить византийским войскам получать подкрепления. После этого он окружил их и разгромил.
Завоевание Иерусалима
После подавления сопротивления византийских войск командующий Абу Убайда, оставив в Дамаске Саида ибн Зайда, двинулся на Иерусалим для того, чтобы вынудить город к сдаче. Однако жители города заявили о том, что сдадутся только лично халифу Умару. Абу Убайда сразу оповестил об этом Умара, и тот срочно собрал сподвижников Пророка на совет. Али ибн Абу Талиб порекомендовал ему выехать в Иерусалим, Усман же высказался против этого. Однако халиф Умар предпочел мнение Али и, оставив его вместо себя во главе Медины, выехал вместе с дядей Пророка Аббасом в Иерусалим. В Джабии их встретили Абу Убайда, Халид и Йазид ибн Абу Суфьян, и они вместе двинулись в сторону города. Умар договорился с жителями Иерусалима об условиях сдачи. Оставшиеся в городе византийские войска должны были покинуть его в течение трех дней. Войдя в Иерусалим, халиф Умар прибыл на место ночного вознесения Пророка Мухаммада в мечети аль-Акса и совершил там намаз. Затем он распорядился построить в Куббат ас-Сахре мечеть, ныне известную как мечеть Умара.
Завоевание Аль-Джазиры
Тем временем византийские войска при поддержке населения Аль-Джазиры окружили мусульман в Хомсе. Основные силы армии Халифата срочно выступили на помощь осажденным в городе мусульманам. Халиф Умар приказал Сааду ибн Абу Ваккасу отправить в Хомс отряд под командованием Кааки ибн Амра. Айаду ибн Ганаму он приказал выступить против Аль-Джазиры, которая поддерживала византийцев. Халиф Умар тоже выступил с войсками на помощь Абу Убайде из Медины.
Как только Аль-Джазирийцы услышали о приближении мусульманских армий, они покинули византийцев в Хомсе и вернулись в Аль-Джазиру. Византийцы же, узнав о том, что к ним приближается армия, которую возглавляет лично халиф Умар, пали духом. Почувствовав это, Халид ибн аль-Валид, который находился ближе всех к позициям византийских войск, нанес по ним удар. В разгоревшемся сражении враг был разгромлен. Умар узнал об этой победе, достигнув Джабии.
Одновременно с этим Айад ибн Ганам вошел в Аль-Джазиру, заключил договоры с населением Харрана, Рехи и Ракки. Затем он послал Абу Мусу аль-Ашари в Нусайбин, Амра ибн Саада ибн Абу Ваккаса — в Расул-Айн. А сам он двинулся на сирийскую провинцию Даруззур. Усман ибн Абуль-Ас был послан на завоевание Восточной Анатолии. Вначале он вступил в сражение с местным населением, а затем заключил с ними договор, согласно которому они обязались платить джизью.
Прибрежные районы Сирии были завоеваны Муавией ибн Абу Суфьяном, который привел к покорности Сур, Сайду, Бейрут, Арку и Триполи. Однако византийцы имели там некоторое преимущество еще на протяжении десяти лет, так как они обладали военным флотом, которого у мусульман еще не было.
Завоевание Египта
После полного завоевания Сирии Амр ибн аль-Ас, находящийся в Палестине, попросил у халифа Умара дозволения приступить к завоеванию Египта. Умар поддержал это предложение и послал на помощь Амру аз-Зубайра ибн аль-Аввама, Бишра ибн Артаа, Харису ибн Хузайфу и Умайра ибн Вахба.
На границе Египта начались переговоры мусульман с личными представителями наместника Византии Мукавкасом. Амр ибн аль-Ас потребовал, чтобы египтяне либо приняли Ислам, либо платили джизью, либо сразились с мусульманами. На обдумывание он дал им три дня. Египтяне попросили еще несколько дней, но Амр согласился еще только на один день. Но решить вопрос мирным путем не удалось, и стороны сошлись в сражении, в котором мусульмане потерпели неудачу и понесли большие потери. Однако впоследствии Амру удалось сломить сопротивление египтян и захватить стратегически важный населенный пункт Айн Шамс. После этого значительная часть Египта покорилась мусульманам, а население этих мест заключило с ними мирный договор.
