Во время войны Севера и Юга Эндрю переехал в Вашингтон, став помощником Скотта в департаменте «военной железнодорожной и телеграфной службы». Ему приходилось работать буквально день и ночь, чтобы поддерживать постоянное железнодорожное сообщение столицы с армией. Гражданская война нанесла немалый урон железной дороге. Особенно сказалось на ее деятельности отсутствие железа, цена на которое значительно поднялась. Недостаток в новых рельсах был такой большой, что в Америке ездить по железным дорогам стало едва ли не опасным. Эта ситуация навела Карнеги на мысль о целесообразности основания общества для производства железнодорожных рельсов. Таким образом, в Питтсбурге возник «Первый рельсовый завод».
Кроме того, для постройки металлических мостов, которые были более безопасными для железнодорожного сообщения по сравнению с деревянными, Карнеги также учредил специальное общество. Оно было основано на паях, и каждому из пяти учредителей пришлось внести пятую часть, что составляло 1250 долларов. Эндрю и на этот раз взял заем в банке, чтобы внести свою долю. Так, в 1862 г. возникла фирма «Пипер и Шифлер», переименованная через год в «Кистонское общество для постройки мостов». Начиная с этого времени, железные мосты получили всеобщее распространение в Америке, а потом и во всем мире.
Кистонские заводы всегда пользовались особенной любовью Карнеги, потому что им были обязаны своим происхождением все остальные его предприятия… Вот как он сам пояснял это: «Очень скоро после их открытия обнаружилось с очевидностью, что кованое железо имеет несомненные преимущества перед чугуном. Поэтому мы решили заняться также и производством кованого железа, чтобы обеспечить себе определенное количество этого материала и чтобы быть в состоянии изготовлять некоторые модели, которые мы тогда получить не могли». Для этого Эндрю вместе с младшим братом Томом и другими компаньонами открыли небольшой железоделательный завод. В 1864 г. теперь уже совместно с Миллером он открыл новое предприятие — «Циклопический завод». Дело пошло хорошо, и скоро появилась возможность слить старый и новый заводы в общее предприятие, которое и было основано через три года под названием «Союзные металлургические заводы».
В 1862 г. в Америке впервые обратили внимание на богатые источники нефти в Пенсильвании. Самые знаменитые нефтяные источники в Америке находились на Сторифарм. Карнеги получил предложение приобрести их за 40 тыс. долларов и, подумав, согласился. В 1864 г. Эндрю отправился в новую нефтяную область в Огайо, где бурением удалось обнаружить мощный источник, дававший особый сорт нефти, очень подходящий для получения машинного масла. Карнеги купил и его.
Новые предприятия в такой степени требовали теперь всего его внимания, что он решил отказаться от железнодорожной службы и посвятить все свое время исключительно собственным делам, и в 1865 г. вышел в отставку. С тех пор он уже нигде не состоял на службе, считая, что «тот, кто находится в зависимости от других, далеко не пойдет. Даже если он доберется до председательского поста в каком-нибудь обществе, он все-таки не может чувствовать себя хозяином дела, если только в его руках нет большинства акций. Даже самый дельный председатель сплошь да рядом стеснен в своей деятельности остальными акционерами, не всегда разбирающимися в делах». Оказавшись «на свободе», бизнесмен совершил путешествие в Европу. Здесь он получил много новых впечатлений, в том числе и в области деловой жизни.
В 1866 г. Карнеги совместно с Томасом Миллером открыл «Питтсбургскую паровозную фабрику», которая работала очень успешно и приобрела такую репутацию, что изготовленные на ней паровозы получили широкое распространение по всей Северной Америке. Ее акции, с номинальной стоимостью в 100 долларов спустя 40 лет продавались в 30 раз дороже своей первоначальной стоимости. Общество выплачивало ежегодно значительные дивиденды и достигло блестящих результатов.
В эти годы Карнеги серьезно изучал литературу по металлургии, опыт работы конкурентов и пришел к заключению: «Чем больше я знакомился с производством железа, тем более меня поражало, что стоимость различных способов производства остается совершенно невыясненной. Я обратился с запросом к другим питтсбургским фабрикантам и убедился, что мои предположения совершенно правильны. Производство велось наугад. Такое положение вещей казалось мне совершенно недопустимым, и я самым решительным образом стал высказываться за введение системы взвешивания и научных подсчетов во всех отраслях нашего производства. Только такая система могла дать нам возможность определить стоимость каждого отдельного производства и контролировать работу каждого человека, занятого в производстве. Мы должны были иметь возможность установить, кто обращается с материалом экономно, кто тратит его нерасчетливо и кто достигает наилучших результатов».
