Нелегко было заставить каждого из них приехать позировать. Собирались ли они когда-нибудь все вместе? Едва ли. В середине сентября Ренуар был вынужден снова обратиться к одной из своих моделей: «Приезжайте в Шату завтра в красивой летней шляпке. Туалет должен быть лёгким, но наденьте что-нибудь под него, так как становится прохладно. Сохранилась ли у Вас та большая шляпа, которая Вас так украшает? Если да, то я хотел бы, чтобы Вы надели именно её, серого цвета. Та шляпа, в которой Вы были в Аржантее».
Жорж Ривьер, очень внимательно относящийся к работе друга, мог сопоставить этот «Завтрак» только с «Балом в Мулен де ла Галетт», так как это две самые крупные картины, написанные Ренуаром. Ривьер отмечает, что их фактура очень различается: «Четыре года разделяют создание этих двух полотен. Этот срок достаточен для того, чтобы техника художника изменилась». Ренуар спешит завершить работу. Закончить такое полотно — возможно, означает закрыть некоторые темы, которым он был верен годами. Время популярных сцен, написанных на берегах Сены, как и на Монмартре, кажется, истекло.
В феврале 1881 года Ренуар решает не представлять «Завтрак гребцов» в Салоне. Впрочем, вероятно, картина была бы отвергнута жюри. Более того, он не собирается представить её и на шестой выставке «независимых», которая откроется в апреле. Среди импрессионистов нарастает всё большее напряжение. Кайботт с огорчением сообщает Писсарро, что Дега задал ему вопрос по поводу Ренуара и Моне: «И Вы принимаете у себя этих господ?» «Завтрак гребцов» купил Дюран-Рюэль. Он заплатил за картину значительную сумму, что позволило Ренуару отправиться в путешествие. Если прежде он покидал Париж, уезжая только в Нормандию или леса Фонтенбло, то теперь он решает посетить Алжир, где писал Делакруа. К тому же Лестрингез не перестаёт искушать его рассказами о красоте и необычном свете Алжира.
В марте из Алжира, где он пробыл уже две недели, Ренуар написал Теодору Дюре: «Я хотел увидеть, что такое страна солнца». Он в восторге. Однажды он заметил, что мужчина, шагающий с большим достоинством и опирающийся на палку, направляется к нему. Накидка из золота и пурпура делала его похожим на принца из «Тысячи и одной ночи». Мужчина приблизился. Оказалось, это был нищий. Ренуар объясняет: «Солнце, божественное солнце, заливая его своим светом, превратило грязное рубище в королевскую мантию». Если страна может превращать пальмы в золото, воду в бриллианты, а людей в волхвов, то очарование длится недолго. Но, став писать молодых женщин, пейзажи, например банановую плантацию или «Овраг дикарки», араба на верблюде, а также местный праздник, художник открыл для себя белый цвет: «Всё белое — бурнусы, стены, минареты, дороги».
В отсутствие Ренуара Шарль Эфрюсси подготовил его участие в Салоне, представив его работы. И снова Ренуар был вынужден оправдываться перед Дюран-Рюэлем, написав ему из Алжира: «Я попытаюсь объяснить Вам, почему я представляю работы в Салон. В Париже можно насчитать едва ли пятнадцать любителей, способных признать художника, не выставляющегося в Салоне. И примерно 80 тысяч тех, кто не купит ничего у художника, если он не допущен в Салон. Вот почему я отправляю каждый год два портрета, как бы мало это ни было. Более того, я не хочу поддаваться маниакальному убеждению, заставляющему считать, что та или иная картина плоха или хороша в зависимости от того места, где её выставили. Одним словом, я не хочу попусту терять время на борьбу с Салоном. Я даже не хочу, чтобы создавалось такое впечатление. Я считаю, что нужно стараться писать настолько хорошие картины, насколько это возможно, вот и всё. Ах, если бы меня обвиняли в пренебрежительном отношении к своему искусству или в глупых амбициях, заставляющих меня жертвовать своими убеждениями; в этом случае я мог бы понять критиков. Но так как об этом не может быть и речи, то им не в чем меня упрекать. Напротив, я занимаюсь в данный момент, как всегда, только тем, чтобы делать хорошие вещи. Я хочу создавать великолепные картины, какие Вы будете продавать очень дорого. Я добьюсь этого, надеюсь, довольно скоро. Я оставался вдали от всех художников, под ярким солнцем, чтобы всё обдумать».