По преданию, путешествуя по вверенной ему митрополии, святитель все чаще заезжал в Москву и в 1318 году на крутом берегу реки Неглинной, в небольшом селе Высокое, он основал монастырь. Сердцем обители стал деревянный храм во имя святых первоверховных апостолов Петра и Павла. Изначально обитель называлась Петропавловской, и лишь спустя более чем триста лет, после переосвящения главного храма в честь самого святителя Петра, монастырь переименовали в Высоко-Петровский.
В 1325 году митрополичья кафедра была окончательно перенесена из Владимира в Москву. По благословению митрополита Петра великий князь Иван Данилович Калита в августе 1326 году заложил первую в Москве каменную церковь во имя Успения Пресвятой Богородицы. Святитель Петр отошел ко Господу 21 декабря 1326 года. Тело его было погребено в Успенском соборе в каменном гробу, изготовленном им самим.
Почитание митрополита Петра началось практически со дня его кончины и быстро распространялось по всей Руси. Уже через 13 лет, в 1339 году, при святителе Феогносте, он был причтен к лику святых. У гроба святителя Петра князья целовали крест в знак верности великому князю Московскому. Как особо чтимого покровителя Москвы, святителя Петра призывали во свидетели при составлении государственных договоров. При его гробе нарекались и избирались Московские первосвятители.
В 1472 и 1479 годах совершалось перенесение мощей святителя Петра. В память этих событий установлены празднования 5 (18) октября и 24 августа (6 сентября).