Таким образом, справившись с восстанием Танкмара, Оттон, казалось, укрепил свои позиции. Однако фигура мятежника продолжала оставаться примером: очень скоро (в 939 году) последовал второй, гораздо более опасный мятеж, во главе которого встал младший брат Оттона, Генрих. «Vita Mathildis» («Житие Матильды») объясняет причину его выступления тем, что Генрих хотел захватить власть, поскольку был рожден «in aula regali» («в королевском дворце»). Подобно своему предшественнику Танкмару, он выступил против унаследования престола Оттоном, но с большими на то основаниями, будучи королевским сыном, отстраненным от власти. Истинной причиной мятежа определенно была реорганизация престолонаследия. Ведь хотя братья короля и были наделены собственными владениями, очевидно, что в их глазах это не являлось заменой того господства, участия в котором они требовали. Их поддерживала часть знати, и поскольку герцоги видели в энергичном молодом короле угрозу своему положению, они также были готовы примкнуть к мятежникам, тем более что не чувствовали себя обязанными лично Оттону. Таким образом, Генрих сразу нашел поддержку у Эберхарда Франконского, а кроме того и у честолюбивого Гизельберта Лотарингского, который все еще вынашивал свои собственные планы на западе. Поскольку Генрих не мог рассчитывать на полную поддержку в Саксонии, он направился к Гизельберту, чтобы начать восстание из Лотарингии. Оттон последовал за ним. Попав сначала в тяжелое положение при переправе своей армии через Рейн под Биртеном, южнее Ксантена, он все-таки сумел обратить в бегство превосходящие силы противника. После своей победы (в марте 939 года), которую его сторонники, по свидетельству Лиутпранда, приписали молитве короля и чудодейственной силе священного копья, Оттон смог захватить и саксонские бурги Генриха. В результате Саксония была потеряна повстанцами, но в Лотарингии они продолжали удерживать свои позиции, тем более что Гизельберт и Генрих получили теперь поддержку западнофранкского Каролинга Людовика IV. Учитывая сложившиеся обстоятельства, тот надеялся вернуть себе Лотарингию. Оттон парировал его вмешательство, вступив в связь с противниками Людовика внутри его собственной страны, прежде всего с герцогом Гуго Французским. Опасность с запада еще не была устранена, когда герцог Эберхард Франконский вторгся в южные области и, захватив бург Брейзах, начал грозить Эльзасу. Попытка прийти к мирному соглашению с Эберхардом при посредничестве архиепископа Фридриха Майнцского не удалась, после чего архиепископ и многие епископы встали на сторону мятежников. Положение короля становилось все более угрожающим: в то время как Оттон осаждал Брейзах, мятежники намеревались перенести военные действия через Рейн в Саксонию. В этих чрезвычайно трудных обстоятельствах короля спасла верность его сторонников из дома Конрадинов, швабского герцога Германа и графов Удо и Конрада Курцбольда, которые напали со своим войском на Эберхарда и Гизельберта под Андернахом (2 октября 939 года) и наголову разбили их. Эберхард пал в бою, Гизельберт, пытавшийся бежать, утонул в Рейне. Покорившийся Генрих был помилован. Сам Оттон — во многом благодаря собственной стойкости — благополучно вышел из тяжелейшей в своей жизни ситуации.
Победа при Андернахе возвратила Оттону свободу действий. Он сразу же сделал выводы из того противостояния, которое ему пришлось пережить. Поскольку Людовик IV был связан с заговорщиками, Оттон в 940 году первым предпринял поход во Францию, во время которого в Аттиньи позволил присягнуть себе на верность противникам Людовика под предводительством герцога Гуго Французского. Вступив в том же году с войсками в Бургундию и взяв под свою защиту юного наследника престола Конрада, он начал затем реорганизацию отношений между королевской властью и племенными герцогствами. Герцогство Франкония после смерти Эберхарда вообще не было передано никому в удел — оно было подчинено непосредственно короне и тем самым потеряло свою политическую самостоятельность. Саксонию король также удерживал в собственных руках. Таким образом, связав сначала два герцогства непосредственно с королевской властью, он усилил свое положение. Третье герцогство, Лотарингию, он вверил своему вновь вошедшему в милость брату Генриху. В Швабии и Баварии, герцоги которых выдержали испытание, он пока оставил прежнее правление, но между обоими герцогскими домами и членами королевской семьи были установлены родственные отношения. Сначала брат Оттона Генрих был уже в 938 году обвенчан с Юдифью, дочерью баварского герцога Арнульфа, затем сын короля Людольф в 940 году обручился с Идой, дочерью Германа Швабского. Вдова Гизельберта Герберга, старшая сестра Оттона, должна была, согласно его замыслу, в 939 году выйти замуж за нового баварского герцога Бертольда, однако сочеталась браком с королем Людовиком IV Западнофранкским. Как вскоре выяснилось, эти брачные связи подготовили приобретение племенных герцогств членами королевской семьи. Совершенно очевидно, что в последующие годы Оттон продолжал последовательно добиваться этой цели.