С 1884 по 1886 годы работал в физиологических лабораториях Рудольфа Гейденгайна в Бреславле (где уже побывал ранее в 1877 году) и Карла Людвига в Лейпциге.
Более десяти лет (с 1878 по 1889) фактически руководил научной работой в экспериментальной лаборатории при клинике С. П. Боткина, направленной на изучение физиологии сердечно-сосудистой системы.
В 1890 году И. П. Павлов был избран профессором кафедры фармакологии, в 1895 году — кафедры физиологии ВМА.
С 1891 года по приглашению принца А. П. Ольденбургского (одновременно с работой в ВМА) возглавил физиологический отдел в только что основанном в Петербурге Институте экспериментальной медицины (ИЭМ), которым руководил до конца жизни (1936 г.). Здесь широко развернулись исследования по физиологии пищеварения, результаты которых были обобщены в «Лекциях о работе главных пищеварительных желез» (1897 г.).
За работы по физиологии пищеварения И. П. Павлов в 1904 году был удостоен Нобелевской премии — первым в России и первым среди физиологов мира. В 1907 году был избран действительным членом Академии наук и возглавил физиологическую лабораторию Академии. После преобразования лаборатории в 1925 году в Физиологический институт стал его директором.
С начала ХХ века и до конца жизни И. П. Павлов занимался исследованиями в новой, созданной им области физиологической науки — физиологии высшей нервной деятельности, изучая основы психики и поведения животных по методу условных рефлексов. Значительная часть этих работ была проведена в ИЭМе и созданной по инициативе И. П. Павлова в 1926 году Биологической станции в Колтушах, названной впоследствии «столицей условных рефлексов». Сейчас здесь расположена часть лабораторий Институт физиологии им. И. П. Павлова Российской Академии наук.
И. П. Павлов — создатель крупнейшей научной школы в физиологии, не имеющей себе равных в истории. Среди его учеников много выдающихся ученых, создавших собственные научные направления: Л. А. Орбели, К. М. Быков, П. К. Анохин, Б. П. Бабкин, А. Г. Иванов-Смоленский и мн. др.
Труды И. П. Павлова получили международное признание. Он был избран действительным и почетным членом более чем 120 академий, научных обществ и университетов мира.