В перешедшей к мирному строительству Польше у Пилсудского было несколько возможностей обеспечить себе достаточно прочные позиции на будущее. Можно было попытаться создать собственную политическую партию, использовав для этого своих сторонников, многие из которых занимали видные посты в большинстве левых и в некоторых центристских партиях. То есть уйти в публичную политику. Но он, привыкший действовать исподволь или с помощью приказов, не испытывал к этому ни малейшей тяги. К тому же, учитывая состояние польской политической сцены, число игроков на которой постоянно возрастало, никто не мог гарантировать, что даже он, со своим имиджем отца-основателя государства, сможет обеспечить такой партии прочные позиции. К тому же, пока он был начальником государства, то есть до новых парламентских выборов, создание своей партии означало бы, что он перестал быть выразителем интересов всех граждан государства, независимо от их политических пристрастий.
Можно было попытаться добиться для будущего президента страны такой позиции, чтобы он мог реально влиять на внутреннюю и внешнюю политику государства, как это сделали, например, в соседней Чехословакии. Но для этого нужно было иметь абсолютное большинство сторонников уже в Учредительном сейме, а их у него не было.
Оставался единственный вариант – сделать своей опорой армию, то есть сохранить на нее свое определяющее влияние и в мирное время, когда он из ее реального главнокомандующего превратился в формального. Именно этой цели должен был служить его декрет от 7 января 1921 года об организации высших военных властей, определявший компетенции двух высших органов военной власти: Полного и Узкого военных советов. Первый из них, наделенный правами совещательного органа по важным военным вопросам, возглавлялся главой государства. Его заместителями были военный министр и генерал, предусмотренный на должность главнокомандующего во время войны. Второй совет, возглавляемый этим вторым заместителем, руководил всей работой, связанной с подготовкой к войне, разработкой оперативных планов и вопросами обороны. Решения Узкого совета были обязательными для военного министра и начальника Генерального штаба, функции которых сводились к руководству текущей работой в армии в мирное время. В его компетенцию входила также оценка высшего командного состава, начиная с командиров полков, имевшая обязывающий характер. Учитывая, что таким генералом в ближайшем обозримом будущем мог быть только Пилсудский (старший по званию, наличие соответствующего опыта, авторитет в армии и т. д.), было совершенно очевидно, что маршал и в дальнейшем планировал полностью контролировать армию, сам при этом оставаясь вне всякого контроля, в том числе и парламентского.
В феврале 1921 года состоялся первый зарубежный визит Пилсудского в качестве главы государства во Францию. Путешествие в Париж оставило у него двойственное впечатление: и тем, что его не вышел встречать на вокзал президент Александр Мильеран, и тем, что французские военные и политические круги не очень верили в то, что Польша сможет заменить Россию в их политике сдерживания Германии. Тем не менее по результатам визита были подписаны политический договор и военная конвенция, включавшие Польшу в монтировавшуюся Парижем систему военно-политических союзов в Восточной Европе.
17 марта 1921 года сейм наконец-то принял конституцию страны, определявшую ее общественно-политическое устройство. В Польше устанавливалась парламентская республика, основанная на принципе разделения властей. Двухпалатному парламенту были предоставлены законодательные и контрольные функции, право назначения правительства и избрания президента страны. Очень сложная процедура роспуска парламента делала его практически неподконтрольным органом, стоящим над двумя другими ветвями власти. Права президента, формально считавшегося главой исполнительной власти, были сведены к минимуму. Он также не мог быть главнокомандующим во время войны. Это было сделано по настоянию национальных демократов, небезосновательно опасавшихся, что президентом страны скорее всего будет избран Пилсудский. Правительство также было ограничено в своих полномочиях в пользу парламента.