Во время того долгого путешествия, в котором он сопровождал экстравагантного монарха, путешествующего под именем графа Дага, они пересекли итальянский полуостров. Путешествие представляло собой настоящий водоворот праздников, во время которых Ферзен покорил сердца многих молодых женщин. Больше всего ему запомнились две англичанки: «бедняжки» Эмили и Елизавет. Эмили, невестка лорда Купера, хотела бы продолжить их роман, начатый во Флоренции в январе 1784 года, однако Ферзен заявил, что «это просто невозможно». Он попросил лорда Купера «поговорить и поубедительнее». Бедняжка долго плакала и на прощание оставила ему свой портрет. В Неаполе он встретил леди Елизавет Фостер из свиты Чарльза Эдварда Стюарта. Он испытывал искреннюю симпатию к этой очаровательной даме, которая также слишком серьезно восприняла его ухаживания. Однако эту приятную связь также надо было прервать. В своем дневнике для переписки, где он вкратце описывал те письма, которые получал, и те, которые отправлял, Ферзен пометил очень коротко: «Все решено». Если мы и не знаем точного смысла этого высказывания, то, вероятно, Ферзен доверял леди Елизавет и уважал ее, именно поэтому он объяснил ей причину их разрыва. Между ними оставались лишь эпистолярные отношения, и в 1793 году, узнав о смерти королевы, он напишет ей проникновенное письмо. Но в 1784 году фортуна улыбалась Ферзену. Никто во время путешествия не мог подозревать, что этот молодой дворянин писал королеве Франции и она ему отвечала.
В знаменитом дневнике на самом деле можно часто встретить среди всех других женских имен имя Жозефина. Шведская исследовательница Альма Шодергельм в свое время занималась анализом архива Ферзена, и ее работы до сих пор являются для нас основным источником информации. Она первая открыла то, что под именем Жозефины скрывалась сама Мария-Антуанетта.
Переписка Ферзена с Жозефиной делится на несколько серий. Благодаря письмам Ферзена мы можем установить, что каждая новая серия совпадала с его отъездом из Версаля или Парижа. Содержание писем к Жозефине очень разнообразное, в одних он говорит о политике, в других о своей службе, остальных — о своей личной жизни. К сожалению, эти письма не были найдены. Франсуаза Кермина, которая довольно часто консультировалась в шведских исторических архивах, нашла несколько неизвестных писем. Но это были не они. «Из замечаний, которые появляются в дневнике, мы можем сделать вывод, что письма передавались специальному посреднику и очень часто переписывались кем-то, но не Ферзеном», — отмечает Альма Шодергельм. Тем не менее мы не сомневаемся, что ответы писала Жозефина, и в дневнике Ферзен ясно дает понять, что это была сама королева.
Без всяких сомнений, лето 1783 года было самым счастливым в жизни Марии-Антуанетты, несмотря на политические волнения, о которых она, разумеется, хотела бы забыть, если бы не Мерси и ее брат с их бесконечными нравоучениями. Наконец, она полностью отдалась своей мечте о личной жизни. Человек, которого она любила, приезжал к ней почти каждый день, и она к тому же умела создать для него что-то вроде идеальной жизни. Лето ознаменовалось еще и тем, что она вновь упростила Этикет. Теперь ее можно было видеть лишь в белых муслиновых платьях, без всяких украшений, их называли «детские платья». Мадам Лебрен вывесила в своем салоне портрет королевы, одетой в такое платье и в соломенной шляпке. Некоторые находили это совершенно неприемлемым, они считали, что королева одевалась как горничная. Ее больше не ругали о немыслимых париках, а, наоборот, упрекали в чрезмерной простоте. «Ее Величество прекрасно выглядит; у нее очень легкий и свободный вид и эта простота, которую она предпочитает скованности и Этикету, раздражает придворную знать. Кое-кто из критиков находят се чересчур худой: по их мнению, это некоторый недостаток в ее внешности. И наконец, свежесть лица, элегантность поведения, естественность в общении делают ее портрет еще более привлекательным», — это можно было прочитать в парижских газетах, описывающих салон мадам Лебрен. Однако большинство критиков проявили себя не в пример более строгими. Поговаривали также о том, что королева якобы вошла в сговор с императором и целью этого сговора было разрушение торговой промышленности в Лионе и обогащение фабрик в Брюсселе. В итоге, весь треп вылился в газетные заголовки: «Франция задыхается под гнетом Австрии и превращается в труху». Право, те, кто высказался по поводу портрета, были куда более корректны.