После получения в 1875 г. степени кандидата естественных наук Павлов поступил на третий курс Медико-хирургической академии в Петербурге (преобразованной впоследствии в Военно-медицинскую). Здесь он надеялся стать ассистентом Циона, который незадолго до этого был назначен ординарным профессором кафедры физиологии. Однако это назначение вскоре было отменено, ибо противоречило государственному установлению, согласно которому к подобным должностям не допускались лица еврейского происхождения. Оскорбленный Цион покинул Россию. Это событие навсегда сохранилось в памяти Павлова, и впоследствии он буквально приходил в бешенство при малейшем намеке на антисемитизм. Отказавшись работать с преемником Циона, Павлов стал ассистентом в Ветеринарном институте, где в течение двух лет изучал пищеварение и кровообращение. Летом 1877 г. он работал в городе Бреслау, в Германии (ныне Вроцлав, Польша) с Рудольфом Гейденгайном, специалистом в области пищеварения. Гейденгайн занимался изучением пищеварения у собак, используя выведенные наружу части желудка. Павлов усовершенствовал эту методику, решив проблему сохранения нервного управления выведенной частью желудка. В следующем году по приглашению С.П. Боткина Павлов начал работать в физиологической лаборатории при его клинике в Бреслау, еще не имея медицинской степени, которую он получил в 1879 г. В лаборатории Боткина Павлов фактически руководил всеми фармакологическими и физиологическими исследованиями.
После длительной борьбы с администрацией Военно-медицинской академии (отношения с которой стали натянутыми после его реакции на увольнение Циона) Павлов в 1883 г. защитил диссертацию на соискание степени доктора медицины, посвященную описанию нервов, контролирующих функции сердца. Он был назначен приват-доцентом в академию, но вынужден был отказаться от этого назначения в связи с дополнительной работой в Лейпциге с Гейденгайном и Карлом Людвигом, двумя наиболее выдающимися физиологами того времени. Через два года Павлов вернулся в Россию.
Многие исследования Павлова в 1880-х годах касались системы кровообращения. Наибольшего расцвета творчество Павлова достигло к 1879 г., когда он вплотную занялся исследованиями физиологии пищеварения, которые продолжались свыше 20 лет. В своей книге «Лекции о работе главных пищеварительных желез» Павлов рассказал о своих опытах и наблюдениях, о приемах работы. За этот труд он и получил в 1904 г. Нобелевскую премию.
Будучи от рождения левшой, как и его отец, Павлов постоянно тренировал правую руку и в результате настолько хорошо владел обеими руками, что, по воспоминаниям коллег, ассистировать ему во время операций было очень трудной задачей: никогда не было известно, какой рукой он будет действовать в следующий момент.
Преданность Павлова экспериментальной науке была всецелой. Его совершенно не интересовали бытовые условия жизни. В 1881 г. он женился, и его жене, Серафиме Васильевне, пришлось полностью взять на себя решение всех текущих проблем. Таково было взаимное соглашение, заключенное в самом начале супружества. Со своей стороны Павлов обязался никогда не пить, не играть в карты и ходить в гости или принимать гостей только в выходные дни. Его бескорыстная одержимость работой доходила до такой степени, что жене иной раз приходилось напоминать ему о получении жалования. Впрочем, жалование ученых в нашем отечестве никогда не было высоким. Долгие годы семья Павловых жила крайне стесненно. В 1884 году, когда Павлов работал над докторской диссертацией, родился первый ребенок. Хрупкий и болезненный младенец не сможет выжить, говорили врачи, если мать и ребенок не смогут отдохнуть за городом, в благоприятных условиях. Деньги на поездку пришлось занимать, однако было уже поздно: ребенок умер. Некоторое время Павлов вынужден был ночевать на койке в своей лаборатории, а жена и второй ребенок жили у родственников, ибо собственное жилье было не по карману. Группа студентов Павлова, зная о его финансовых затруднениях, передала ему деньги под предлогом покрытия расходов на демонстрации опытов. Из этой суммы ученый не взял себе ни копейки, все потратил на своих лабораторных собак.