Во время продувок в аэродинамической трубе обнаружилась проблема изгибно-крутильного флаттера тонкого крыла. Для выбора необходимых параметров жесткости крыла Джонсон решил провести серию натурных экспериментов. Идеальным вариантом была бы серия полетов с разными крыльями экспериментального Х-7, но это оказалось невозможно, потому что военные активно использовали самолет в программе разработки беспилотного перехватчика Bomarc. Тогда Джонсон придумал другой оригинальный и дешевый способ. Он распорядился изготовить несколько масштабных моделей XF-104 с разными конфигурациями аэродинамических поверхностей, а для их запуска использовать авиационные 127-мм неуправляемые ракеты HVAR. Но частным компаниям боевые ракеты не продавали.
Тогда Джонсон обратился за помощью к командованию ВВС, и военные передали «Локхид» 400 ракет, предназначенных для отправки на войну в Корею. Решение было не однозначным, и в ответ на критику один из генералов сказал: «Ничего не случится, если одно утро наши летчики не постреляют ракетами».
Модели оснащались датчиками, а их поведение в полете фиксировалось кинокамерами, установленными в головной части ракет. Пуски позволили с высокой степенью достоверности исследовать практически весь спектр нагрузок в различных полетных режимах. В конечном итоге, флаттер был побежден. Большую роль в борьбе с этим явлением играли концевые топливные баки, масса и форма которых препятствовала развитию колебаний крыла. Именно поэтому на боевых F-104 наличие баков или ракет на концах крыла во время полетов стало почти обязательным условием.
Конструкторы решили применить Т-образное хвостовое оперение. В этом случае стабилизатор работал как концевая шайба, что позволило уменьшить площадь киля.
Все оборудование и топливные баки размещались в фюзеляже. В носовой части установили РЛС, далее находилась кабина летчика, за ней — отсек с оборудованием. Все свободное пространство фюзеляжа занимали топливные баки и встроенное пушечное вооружение. Внутренний запас топлива составлял около 2720 л. В подвесных баках находилось еще 1280 л. При этом расчетная дальность полета доходила до 1800 км.
Самолет рассчитывался под двигатель General Electric J79, который разрабатывался для сверхзвукового бомбардировщика В-58. Он должен был развивать тягу на форсаже около 6800 кгс, но готовых экземпляров такого ТРД еще не было, и в качестве временной меры конструкторы решили использовать менее мощный Wright J65 — лицензионную копию английского Armstrong Siddeley Saphire. С таким двигателем XF-104 не мог достигнуть сверхзвуковой скорости, но для проведения первой фазы летных испытаний он вполне годился.
Воздух поступал к двигателю через полукруглые боковые воздухозаборники с регулированием при помощи подвижных полуконусов. По расчетам при скорости полета 2М скорость воздуха на входе в двигатель должна была составлять 0,7М.
Шасси самолета убиралось в фюзеляж. Шарнирные узлы основных стоек закреплялись на силовом шпангоуте, несущем двигатель. В выпущенном положении эти стойки имели большую длину и сравнительно короткий ход амортизации, что было связано с необходимостью обеспечить достаточный зазор между поверхностью аэродрома и ядерной бомбой, возможность подвески которой требовали военные.
Высокая посадочная скорость (около 280 км/ч) предъявляла особенные требования к конструкции шасси и материалу пневматиков. Испытания и доводка шасси заняли достаточно много времени. Для этого на фирме построили специальный стенд, на котором проверяли работу шасси под нагрузкой.
У конструкторов возникло опасение, что при катапультировании на высокой скорости выстреливаемое вверх кресло не успеет перелететь через киль. Поэтому на самолет решили установить кресло, которое выстреливалось вниз. Для летчика разработали инструкцию по катапультированию. Так, при аварийном покидании ему сначала следовало сбросить давление в кабине, отклонить ручку управления вперед, чтобы та не мешала вылету кресла, запереть плечевые ремни и поставить ноги на специальные опоры, а уж потом тянуть ручки катапультирования. Перед вылетом кресла ноги летчика фиксировались металлическими скобами.