Тончайшие и остроумнейшие эксперименты Капицы, с помощью которых он измерял вязкость гелия-II, хорошо известны физикам. По осуществленным Капицей измерениям вязкость гелия-II оказалась почти в 10 тысяч раз меньше, чем вязкость наиболее подвижного из известных веществ — жидкого водорода. Вода же обладала в миллиард раз большей вязкостью, чем жидкий гелий.
Капица сделал весьма смелое заключение из своих опытов: гелий-II течет как жидкость, вообще не имеющая вязкости. Он предложил назвать открытое им свойство гелия-II сверхтекучестью. В последующие годы Капица продолжал изучать сверхтекучесть и открыл некоторые поразительные свойства гелия-II. Один из замечательных экспериментов Капицы заключался в том, что перед отверстием сосуда, наполненного жидким гелием (и погруженного в жидкий гелий), подвешивалось легкое крылышко. При нагревании гелия в сосуде крылышко отклонялось.
Тем самым было доказано, что процесс теплопередачи в гелии был связан с возникновением движения в нем. Но это движение носило поразительный и совершенно парадоксальный характер. Из отверстия вырывается струя жидкости, отклоняющая крылышко, но в то же время количество жидкости в сосуде не меняется; сосуд продолжает оставаться полным.
Изучая открытое им явление сверхтекучести, Капица весьма убедительно показал, что в области температур ниже 2,2° Кельвина жидкий гелий состоит из двух компонентов — сверхтекучего и нормального. Сверхтекучий компонент имеет нулевую энтропию, т.е. в определенном отношении представляет собой жидкость, находящуюся при абсолютном нуле.
Явление сверхтекучести привлекло внимание многих советских и иностранных физиков — теоретиков и экспериментаторов. Открытие Капицы стало фундаментом новых открытий.
Сотрудник Капицы выдающийся теоретик академик Л.Д. Ландау (1908...1968) теоретически объяснил сверхтекучесть на основе квантовых представлений и показал, что жидкий гелий — это первая из известных квантовых жидкостей.
Ландау изучал многие явления, связанные со сверхтекучестью, в результате чего он дал полную картину всех известных тогда свойств гелия-II и предсказал некоторые совершенно новые явления, позднее обнаруженные экспериментаторами и подтвердившие правильность идей Ландау. Приведем в качестве примера вывод, сделанный Ландау о существовании в гелии-II, помимо обычного звука, колебаний другого типа, названных им «вторым звуком». Ландау показал, что в противоположность обычному (первому) звуку, представляющему собой в основном колебания давления, во втором звуке основными являются колебания температуры. Ученик Капицы В.П. Пешков позднее экспериментально открыл второй звук в полном количественном согласии с теорией Ландау.
До сих пор явления, связанные со сверхтекучестью гелия, продолжают быть объектом исследования во многих странах. Некоторые наблюдавшиеся Капицей и его сотрудниками эффекты были объяснены лишь через много лет. Примером этому может служить получение новой квантовой жидкости — жидкого изотопа гелия >3He (природный гелий состоит из двух изотопов: >4He и >3He). С теоретической точки зрения квантовая жидкость >3He представляет большой интерес. Теория ее была разработана Л.Д. Ландау в 1956...1957 годах. Это и другие открытия, связанные с жидким гелием, рассматривались Нобелевским комитетом, и в результате Л.Д. Ландау была присуждена Нобелевская премия по физике 1962 года за его «исследования по теории конденсированных сред, особенно жидкого гелия».
В 1969 году по просьбе Королевского общества Капица написал биографический очерк о Ландау — своем близком сотруднике, с которым работал вместе с 1937 года. Он писал о Ландау: «Основная его сила как ученого была в четком и конкретно логическом мышлении, опирающемся на очень широкую эрудицию. Но такой строгий научный подход не мешал ему видеть в научной работе и эстетическую сторону, что приводило Ландау к эмоциональному подходу не только в оценках научных достижений, но и в оценке самих ученых. Рассказывая о научной работе или об ученых, Ландау всегда готов был дать свою оценку, которая обычно бывала остроумной и четко сформулированной. В особенности остроумным Ландау был в своих отрицательных оценках. Такие оценки быстро распространялись и, наконец, доходили до объекта оценки. Конечно, это усложняло для Ландау его взаимоотношения с людьми, в особенности, когда объект критики занимал ответственное положение в академической среде».