Олег не думал исполнять договора и являться в Киев на княжеский съезд. Вместо того он явился в Смоленск, набрал там войско и, вышедши оттуда, пошел вниз по Оке, ударил на Муром, который достался в управление сыну Мономаха Изяславу. 6 сентября 1096 года Изяслав был убит в сече. Олег взял Муром и оковал там всех найденных ростовцев, белозерцев и суздальцев. Олег, отвоевавший Муром, взял Суздаль и поступил сурово с его жителями: одних взял в плен, других разослал по своим городам и отнял их имущество. Ростов сдался Олегу сам. Возгордившись успехами, Олег затевал подчинить своей власти и Новгород, где на княжении был другой сын Мономаха, Мистислав, молодой князь, очень любимый новгородцами. Новгородцы предупредили покушение Олега, и прежде чем он мог стать с войском на новгородской земле, сами отправились на него в ростовско-суздальскую землю. Олег убежал из Суздаля, приказавши в досаде сжечь за собою город, и остановился в Муроме. Мистислав удовлетворился тем, что выгнал Олега из ростовско-суздальской земли, которая никогда не была уделом ни Олега, ни его отца; предложил Олегу мир и предоставлял ему снестись со своим отцом. Мистислава располагало к уступчивости то, что Олег был его крестным отцом. Олег притворно согласился, а сам думал внезапно напасть на своего крестника; но новгородцы узнали об его намерении заблаговременно и, вместе с ростовцами и белозерцами, приготовились к бою. Враги встретились друг с другом на реке Колакше, в 1096 году. Олег увидел у противников распущенное знамя Владимира Мономаха, и подумал, что сам Владимир Мономах пришел со своею силою на помощь сыну, и убежал. Мистислав с новгородцами и ростовцами пошел по следам его, взял Муром и Рязань, мирно обошелся с их жителями, только освободил людей ростовско-суздальской области, которых Олег держал в городах пленниками; после того Мстислав писал к своему сопернику такое слово: «Не бегай более, пошли с мольбой к своей братии; они тебя не лишат русской земли». Олег обещался сделать так, как предлагал ему победитель.

Мономах дружелюбно обошелся со своим соперником, и памятником его тогдашних отношений к Олегу осталось современное письмо его к Олегу, очень любопытное не только по тому, что оно во многом объясняет личность князя Владимира Мономаха, но и потому что вообще оно составляет один из немногих образчиков тогдашнего способа выражения: «Меня, - пишет он, - принудил написать к тебе сын мой, которого ты крестил и который теперь недалеко от тебя: он прислал ко мне мужа своего и грамоту и говорит так: сладимся и примиримся, а братцу моему суд пришел; не будем ему мстителями; возложим все на Бога; пусть они станут перед Богом, мы же русской земли не погубим. Я послушал и написал; примешь ли ты мое письмо с добром или с поруганием, - покажет ответ твой. Отчего, когда убили мое и твое дитя перед тобою, увидевши кровь его, увянувшее подобно едва распустившемуся цветку, отчего, стоя над ним, не вник ты в помысл души своей и не сказал: зачем это я сделал? Зачем ради кривды этого мечтательного света причинил себе грех, а отцу и матери слезы? Тебе было бы тогда покаяться Богу, а ко мне написать утешительное письмо и прислать сноху мою ко мне… она тебе не сделала ни добра, ни зла; я бы с нею оплакал мужа ее и свадьбы их вместо свадебных песен. Я не видел прежде их радости, ни их венчания; отпусти ее как можно скорее, я поплачу с нею заодно и посажу на место как грустную горлицу на сухом дереве, а сам утешусь о Боге. Так было и при отцах наших. Суд пришел ему от Бога, а не от тебя! Если бы ты, взявши Муром, не трогал Ростова, а прислал бы ко мне, мы бы уладились; рассуди сам, тебе ли следовало послать ко мне или мне к тебе? Если пришлешь ко мне посла или попа и грамоту свою напишешь с правдою, то и волость свою возьмешь, и сердце наше обратится к тебе, и будем жить лучше, чем прежде; я тебе не враг, не мститель».

Тогда, наконец, состоялось то, что долго замышлялось и никак не могло придти к исполнению. В городе Любече съехались князья Святославичи – Олег, Давид и Ярослав, киевский Святополк, Владимир Мономах, Волынский князь Давид Игоревич и червонорусские князья Ростиславовичи: Володарь и Василько. С ними были их дружинники и люди их земель. Цель их совещания была – устроить и принять меры к охранению русских земель от половцев. Всем делом заправлял Мономах.

На этом съезде князья положили, чтобы все они владели своими волостями. Все целовали крест на том, что если кто-нибудь из князей нападет на другого, то все должны будут ополчиться на зачинщика междоусобия. «Да будет на того крест честный и вся земля русская». Такой приговор произнесли они в то время.

Намерение Мономаха соединить князей на единое дело против половцев не только не привело к желаемой цели, а напротив привело к многолетней войне между князьями. Для русской земли от этого умножилось горе. Однако в 1100 году Мономаху таки удалось опять устроить между князьями совещание. В самом деле, то, чем покончили князья свои междоусобия, мало представляло справедливости. Владимир не противоречил им во многом, потому что желал, как бы то ни было прекратить междоусобия, чтобы собрать силы русских земель против общих врагов – половцев.

С тех пор Владимир непрерывно обращал свою деятельность на ограждение русской земли от половцев. В 1101 году Владимир поднял князей против них, но половцы, услышав о сборах русских князей, одновременно от нескольких орд прислали просьбу о мире. Русские согласились на мир, готовые наказать половцев за первое вероломство. В 1103 году соглашение было нарушено половцами, и Мономах побудил русских князей предпринять первый наступательный поход на половецкую землю соединенными силами. В летописи этот поход описан с большим сочувствием и видно, что произвел на современников огромное впечатление.

Русские шли конные и пешие, последние на ладьях по Днепру до Хортицы. После четырехдневного пути степью от Хортицы, на урочище, называемом Сутень, русские 4 апреля встретили половцев и разбили их наголову. Половцы потеряли до двадцати князей. Один из князей Белдюзь попался в плен и предлагал за себя большой выкуп золотом, серебром, лошадьми и скотом, но Владимир сказал ему: «Много раз поставляли вы с нами договор, а потом ходили воевать на русскую землю; зачем ты не учил сынов своих и род свой не приступать договора и не проливать христианской крови?» Он приказал затем убить Белдюзя и рассечь по членам его тело. Русские набрали тогда много скота, верблюдов и невольников.

В 1110 году Владимир с князьями снова предпринял поход, который более всех других облекся славою в глазах современников. Предание связало с ним чудодейственные предзнаменования. Рассказывают, что 11 февраля ночью над печерским монастырем появился огненный столб: сначала он встал над каменною трапезою, перешел от туда на церковь, потом встал над гробом Феодосия, наконец, поднялся по направлению к востоку и исчез. Явление это сопровождалось молнией и громом. Грамотеи растолковали, что это был ангел, возвещавший русским победу над неверными. Весною Владимир со своими сыновьями, киевский князь Святополк со своим сыном, Ярослав и Давид с сыном, на второй неделе поста, отправились к Суле, перешли через Псел, Ворсклу и 23 марта пришли к Дону. 27-го в страстной понедельник разбили половцев на реке Стальнице и воротились обратно с множеством добычи и пленников. Тогда, говорит летописец, слова о подвигах русских прошла ко всем народам: грекам, ляхам, чехам и дошла даже до Рима. С тех пор половцы надолго перестали тревожить русскую землю.