Многие вернулись домой, но большая часть войска верила в успех и осталась со своим вождём. Теперь у Ганнибала были только надёжные воины, которые добровольно остались с ним и были готовы пойти всюду, куда он их поведёт. Отпуская домой всех желающих, он избавился от трусливых и ненадёжных. Кроме того, когда Ганнибал без возражений отпустил часть своего войска, отправляясь в тяжёлый поход, это убедило всех, что он твёрдо уверен в победе и в своих силах. Уверенные в могуществе карфагенян иберийцы тоже не решались восставать.
Таким образом, к реке Роне, или, как её тогда называли, Родану, Ганнибал подошёл с 50 тыс. пехоты, 9 тыс. конницы и боевыми слонами.
В это время римляне продолжали свои военные приготовления. Один консул собирал в Сицилии армию и флот для вторжения в Африку, другой — Публий Корнелий Сципион — морем начал переправу в Испанию. На пути в Испанию римляне сделали остановку в устье реки Роны. Как раз в это время к Роне с запада подошли и войска Ганнибала. На другом берегу стоял отряд галлов — союзников римлян, готовых оказать сопротивление карфагенянам. Ганнибалу предстояло перейти широкую и стремительную реку на виду у неприятеля. А на расстоянии четырёх переходов от него к югу находился со своими войсками Сципион, направляющийся в город Массилию. Ганнибал вышел из трудного положения следующим образом. Значительный отряд его войск двинулся вверх по реке и переправился через неё без всяких затруднений много выше того места, где стоял с главными силами Ганнибал. Этот отряд, оставаясь незамеченным, зашёл в тыл галлам. Когда на горизонте появились условные дымы сигналов, Ганнибал начал переправу основной массы своих войск на наскоро сколоченных плотах. Галлы пытались воспрепятствовать этому. Вдруг у них за спиной запылал их собственный лагерь, подожжённый зашедшим в тыл отрядом Ганнибала, который переправился раньше. В паническом ужасе галлы обратились в бегство. Переправа войска Ганнибала прошла благополучно.
Для Сципиона эта переправа явилась полной неожиданностью. Он узнал о близости врага лишь в Массилии. Следовало преградить дорогу врагу. Он бросил навстречу Ганнибалу конницу, которая, одержав верх в короткой стычке с неприятелем, пробилась к вражескому лагерю. Но сам Сципион опоздал. Когда он с главным отрядом подошёл к месту переправы, ещё не успел остыть пепел на кострах, у которых грелись воины Ганнибала. Лагерь был пуст. Ганнибал уже перешёл на другую сторону Роны. Армия Ганнибала ускользнула от римлян и вступила в предгорья Альп. Только теперь поняли римляне, какая опасность грозит Италии. Консул со своим войском немедленно погрузился на корабли и возвратился в Италию. Спешно был отозван и другой консул, находившийся в Сицилии. Римляне, отбросив мысль о вторжении в Африку и Испанию, стягивали силы для защиты родной страны. Поход Ганнибала сорвал все их первоначальные планы.
А в это время карфагенская армия уже переходила Альпы. Это был тяжёлый переход. Люди замерзали на снежных вершинах, срывались с обледенелых круч в пропасти. Множество вьючных животных погибло. Трудности увеличивались тем, что местное население оказывало сильное сопротивление. Не раз казалось, что все карфагеняне будут уничтожены. Но всё же Альпы были преодолены. Переход через Альпы занял 33 дня. За этот месяц Ганнибал потерял больше половины своей пехоты и треть конницы, которую он особенно берёг. Но Ганнибал достиг цели: перед карфагенянами лежала плодородная долина реки По. Население предальпийской Галлии, недавно покорённое римлянами, уже успело почувствовать всю тяжесть римской власти. На это и рассчитывал Ганнибал, Когда в сентябре 218 г. до н. э. войска стали спускаться с гор, к ним стали присоединяться племена галлов. Усталая после труднейшего перехода армия получила возможность отдохнуть и пополниться воинами и запастись провиантом. Римляне не ожидали, что Ганнибал так скоро появится в Италии. Прошло не меньше месяца, прежде чем они оказались в состоянии начать против Ганнибала военные действия.