Карл Федорович (Карл Отто Георг) фон Мекк родился в 1821 году. Он происходил из старинной остзейской дворянской семьи, предки которой переселились в Лифляндию из Силезии на исходе ХVI века.
Родоначальником династии считается силезский канцлер Фридрих фон Мекк, родившийся в 1493 году. Многие представители династии фон Мекк находились на военной службе, вначале в шведской, а затем в российской армии. Отец Карла Федоровича, также вначале избравший военную карьеру, позднее перешел на службу в Министерство финансов, чиновником таможенного округа. Умер он от холеры, не дослужив до пенсии и оставив вдову с малолетними детьми без всяких средств к существованию.
В девятнадцать лет Карл фон Мекк стал студентом Петербургского института путей сообщения и в 1844 году успешно окончил его. Затем он поступил на службу в чине поручика в ведомство путей сообщения. Молодой инженер вскоре получил место начальника дистанции Московско-Варшавского шоссе. Дальнейшая его служба в государственном ведомстве была связана с работой в качестве инженера и инспектора по строительству стратегических дорог в западной части России.
14 января 1848 года в его жизни произошло важное событие: он вступил в брак с совсем юной семнадцатилетней дочерью помещика Смоленской губернии Надеждой Филаретовной Фраловской, которая стала ему верной опорой и поддержкой на всем их совместном жизненном пути. Брак этот был счастливым; свидетельством тому стали и их одиннадцать детей, воспитанию которых Надежда Филаретовна отдавала все свои душевные силы и энергию.
Продвижение Карла Федоровича по службе шло медленно. Работа в казенном ведомстве, буквально сковывавшая чиновничьей рутиной по рукам и ногам любую инициативу, мало удовлетворяла энергичного инженера. Однако он вряд ли бы самостоятельно решился порвать с казенной службой, опасаясь поставить семью в трудное положение, если бы его жена решительно не настояла на его уходе.
В 1860 году фон Мекк по настоянию жены оставил государственную службу, чтобы заняться предпринимательской деятельностью. Это был смелый и во многом рискованный шаг, сыгравший, впрочем, решающую роль в дальнейшей судьбе их семьи.
Уход Карла Федоровича со службы совпал с началом развертывания в стране широкого железнодорожного строительства.
Попытки постройки первых казенных железных дорог в России в 30–40-е годы ХIХ века не увенчались успехом. Строительство шло крайне медленно, увязая в чиновничьей рутине. И тогда, чтобы провести в жизнь программу широкого железнодорожного строительства, в стране было принято решение опереться на частную инициативу. Решающими в судьбе железнодорожного предпринимательства явились Указ императора Александра II от 27 января 1857 года о создании в России сети железных дорог и утвержденные осенью 1857 года договоры о передаче казенной Варшавско-Венской железной дороги и прав на строительство связанных с ней ветвей и новых железных дорог в руки частной компании.
Начало предпринимательской деятельности К.Ф. фон Мекка было связано со строительством линии Москва – Коломна Обществом Саратовской железной дороги. Это было одно из первых обществ с широким участием представителей отечественного капитала. Образовано оно было в 1856 году. Инициатором создания общества стал генерал-адъютант С.А. Юрьевич. Акционерами общества были Великие князья Александр, Владимир и Алексей и даже наследник-цесаревич Николай Александрович, а также многие придворные лица. Проект железной дороги оказался настолько привлекательным, что вызвал интерес и за рубежом. В состав учредителей вошел вице-президент Совета бельгийских железных дорог, почт и телеграфа Брауэр де Гогендорп. Уже после утверждения 17 июля 1859 года устава общества в число его учредителей были приглашены также московские коммерсанты К.Т. Солдатенков, Ф.М. Вогау, Г.А. Марк и представители фирмы «Братья Сапожниковы».
Главным директором был избран бельгиец Брауэр де Гогендорп, главным секретарем – Павел Григорьевич фон Дервиз. Правление общества «помещалось в Москве, в Кривом переулке, в доме Мейера». Финансовую основу общества составил гарантированный правительством акционерный капитал в 45 миллионов рублей серебром, и оно взяло на себя обязательство построить в течение шести лет одноколейную дорогу от Москвы до Саратова через Коломну, Рязань, Моршанск длиной в 725 верст.
