Для проведения заводских испытаний создали бригаду во главе с Д.Кантором, ведущим инженером по испытаниям стал B. Карпинский, летный экипаж назначили в составе летчика-испытателя М.В.Козлова и штурмана-испытателя К.И.Малхасяна. Кроме того, к полетам на опытном перехватчике "128" готовились лучшие пилоты и штурманы летно-испытательной базы: C.Т.Агапов, А.Д.Бессонов, В.П.Борисов, В.Молчанов, А.Н.Николаев, В.Баженов, В.Колосов. В ходе подготовки проводились тренировочные полеты на перехватчиках Су-9, Як-27 и других самолетах, близких по назначению к "128". В состав бригады испытателей машины включили и экипаж Ту-104/1 Л, на котором отрабатывались важнейшие элементы комплекса, во главе с ведущим инженером по летным испытаниям ОКБ-156 А.Гороховым. Впоследствии это помогло решить многие проблемы, связанные с работой РЛС и комплекса в целом. Устранением выявленных недостатков и отказов занималась бригада, руководимая ведущим инженером по производству А.Залесским.
Опытный перехватчик "128" передали на заводские испытания 23 января 1961 г. 27 февраля начались рулежки. Всю первую половину марта прототип накатывал сотни километров по аэродрому ЛИИ. 18 марта М.Козлов и К.Малхасян подняли машину в первый полет, продолжавшийся 30 минут. 21 марта после второго полета заменили один из двигателей. На седьмом полете к испытаниям подключился летчик-испытатель А.Бессонов. На опытной машине проверялись поведение перехватчика в воздухе, его взлетно-посадочные свойства. 20 апреля на восьмом полете самолет на высоте 11000 м вышел на скорость, соответствующую числу М=0,98.24 апреля опытный "128" достиг скорости М=1,06.
23 июня на 20 полете начались тренировки перед традиционным парадом в Тушино. Демонстрация машины с двумя макетами ракет К-80 во время авиационного праздника прошла успешно. Это был 31-й полет опытного перехватчика. В советских газетах самолет назвали "сверхзвуковым и многоцелевым". Западные комментаторы и специалисты дружно приняли обтекатель КЗА за многофункциональную РЛС. Однако внешний вид подвешенных снарядов не позволял сомневаться в их предназначении, и в НАТО машина получила "истребительное" обозначение "Fiddler" ("Скрипач").
После окончания заводских опытный экземпляр участвовал в государственных испытаниях. С него сняли обтекатель КЗА и подфюзеляжные гребни, установили внешние подкрыльевые пилоны. В 1967 г. опытный перехватчик испытывали на грунтовой полосе ЛИИ. Кроме того, на самолете исследовался режим посадки с невыпущенными закрылками, а также испытывались высотное оборудование и спасательный костюм-скафандр ВМСК-2. В настоящее время эта машина выставлена в музее ВВС в Монино.
С конца 1959 г. параллельно с постройкой опытного самолета, не ожидая результатов летных испытаний, началось строительство серийных перехватчиков (изделие "И") на Воронежском авиационном заводе (ВАЗ) №64. В производство запустили сразу четыре самолета. Постройку первой серийной машины (№0101) завершили в начале 1961 г. В конце апреля начались рулежки, а 13 мая летчик-испытатель Вобликов совершил на ней первый 30-минутный полет. 10 июня на шестом полете самолет перегнали в Жуковский, где с 17 июня М.В.Козлов, А.Д.Бессонов и другие пилоты стали выполнять на нем регулярные испытательные полеты. С начала июля для подстраховки его также начали готовить к параду. Серийный перехватчик на тренировках постоянно сопровождал прототип. На параде, однако, показали только опытную машину, хотя серийная также находилась в воздухе.
В процессе заводских испытаний задания усложнялись, и не все полеты проходили нормально. Так, из-за плохой работы тормозов колес основного шасси имелись случаи разрушения тормозных тяг. Происходили также складывания ног шасси на пробеге, причину чего нашли не сразу. Лишь при повторных случаях складывания установили, что оно происходило из-за дефекта в цанговом замке подкоса. После доработок шасси стало функционировать нормально. В ходе полетов, выявился и недобор скорости. Ее значительно увеличили, заменив носки крыла на более острые. С целью повышения устойчивости перехватчика изменили зализы между крылом и фюзеляжем, а также провели ряд других, более мелких доработок. Внесение этих изменений вызывало большие перерывы в полетах и требовало их повторного проведения, что сказалось на темпах заводских испытаний, которые продолжались в течение всего 1961 г.