Одни половцы сражались на стороне Мономаха и даже несли в сражении его стяг, другие тем временем грабили Русь. Хан Боняк выжег в 1096 году окрестности Киева, хан Куря — пригороды Переяславля. Напал на Переяславль и тесть киевского князя Тугоркан, но этому не повезло: объединенное войско Мономаха и Святополка прижало орду к стенам города и истребило. Тело хана Тугоркана зять с честью похоронил близ Киева, куда вскоре едва не ворвался Боняк. В столь плачевном состоянии находилась Русь, что даже разорение волжскими болгарами Мурома осталось безнаказанным. Города всё чаще закрывали перед князьями ворота, говоря попросту: «Не ходи к нам». Князьям пора было браться за ум.
В 1097 году в захваченном у Владимира и принадлежавшем теперь Олегу Любечском замке состоялся княжеский съезд «для устроения мира». Первым вопросом было: «Зачем губим Русскую землю, сами на себя ссоры навлекая? А половцы землю нашу расхищают и радуются, что нас раздирают междоусобные войны». Князья договорились о разделе земель и наказании любого, кто преступит договор: «Да с этих пор объединимся чистосердечно и будем охранять Русскую землю».
Решение было благое. Но всего через несколько месяцев Святополк в сговоре с Давыдом Игоревичем предательски ослепил князя Василька Ростиславича. Мономах немедля воззвал к Давыду и Олегу Святославичам: «Бросили между нами нож; если это оставим так, то большее зло встанет, начнет убивать брат брата и погибнет земля Русская — враги наши половцы придут и возьмут ее!» Соединенные полки князей пошли к Киеву. Святополк порывался бежать, но горожане не отпустили его. «Если станете воевать друг с другом, — объявили киевляне, — то поганые обрадуются, возьмут землю Русскую, которую приобрели деды и отцы ваши». Князья не смогли пойти против города и помирились на том, что Святополк сам накажет Давыда Игоревича. Эта карательная мера вылилась в кровавую войну всех против всех в Западной Руси, где князья использовали поляков, венгров и половцев. Только в 1100 году княжеский съезд в Уветичах надолго закрепил мир. Мечта Мономаха об объединении Руси против половцев близилась к осуществлению.
В 1101 году Святополк, Владимир и трое Святославичей собрали воинство, но половцы упредили — предложили мир. Стороны обменялись заложниками. Весной 1103 года Мономах съехался со Святополком в Долобске и уговорил его двинуться в степь. Многие князья присоединились к ним и пошли, на конях и ладьях, вниз по Днепру до острова Хортица. Оттуда четыре дня шли степями, пока не нагрянули в самое сердце половецких кочевий. Двадцать ханов полегли в битве. Князья увели на Русь огромный полон, угнали скот и увезли имущество, прежде награбленное степными разбойниками. Но половцы были еще сильны.
В 1105 году хан Боняк разромил берендеев и торков. Через год русские воеводы едва отбили полон, угоняемый злодеями у Заречска. В 1107 году налетел Боняк, захватил лошадей у Переяславля, показал ханам, что открыт путь на Русь. Старый Шарукан и иные половецкие князья шли следом. На Дубне их встретили объединенные силы русских: гнали и рубили до Хорола, добыли обоз и четырех ханов, сам Шарукан едва удрал. Мономах, Олег и Давыд Святославичи взяли за своих сыновей дочерей тех ханов, что еще не были побеждены.
И вновь тщетно призывал Мономах добить половцев в их гнездовьях на Дону — князья не видели в этом смысла. Зимой 1109 года его воевода Дмитр Иворович дошел с боями до Дона. Весной в поход с Владимиром выступили Святополк и Давыд, но повернули вспять от крепости Воинь. Тогда Церковь поддержала Мономаха, пугая верующих небесным знамением и доказывая, что «ангел вложил Владимиру мысль поднять братию свою, русских князей, на иноплеменников». Только весной 1111 года объединенная русская рать выступила в поход.
На Дону город Шарукань открыл князьям ворота, Сугров пришлось сжечь, а половцев все не было. Мономах пошел дальше, к Кавказу. 24 марта половцы решились на битву, заполонив собою весь окоем. Князья, поцеловавшись, сказали: «Станем крепко, насмерть». Двинулась дружина и истребила половцев видимо-невидимо. Но еще не все враги собрались, еще сбегались воины со степей к молодому хану Шарукановичу. На третий день вновь обложили половцы полки русские. С громом столкнулись полки, головы летали и кровь заполняла овраги. Говорили потом, что ангелы реяли над русскими и секли врага сверкающим оружием. Остатки половцев бежали за Волгу и Кавказ. Слава об этой победе разлетелась по Греции, Венгрии, Польше, Чехии и до самого Рима.