Петр окончил духовное училище и духовную семинарию в Нижнем Новгороде и поступил в Казанскую духовную академию. Окончив ее в 1887 году со степенью кандидата богословия, он был определен секретарем недавно созданной Нижегородской губернской ученой архивной комиссии. По ее поручению молодой учёный исследовал историю пребывания А.С.Пушкина в Нижнем Новгороде в 1830-е годы, а итоги опубликовал в «Нижегородских губернских ведомостях».
Минул год с небольшим, и Петр Альбицкий вступил на новое жизненное поприще. Приказом обер-прокурора Святейшео Синода его назначили преподавать русский и церковно-славянский языки в Бугурусланское духовное училище. Учительствовал Петр Александрович недолго, и уже в 1891 году, будучи рукоположен во священника, стал служить сначала в Покровской, а затем Ильинской, Воскресенской церквях г. Самары.
В 1902 году, перебравшись с молодой женой в Нижний, батюшка был назначен настоятелем здешней кладбищенской церкви во имя апостолов Петра и Павла. У протоиерея Петра Альбицкого было пятеро детей: Вера, Аркадий, Нина, Сергий, Александр. Старшая дочь Вера вышла замуж за Дмитрия Смирнова, будущего знаменитого историка, знатока нижегородской старины. Не ограничившись пастырством, Петр Александрович активно включился в общественную жизнь, состоял членом разных комитетов и комиссий, прежде всего благотворительных. Не оставлял и занятий в ученой архивной комиссии.
В 1905 году, когда страну охватила революционная смута, он вошел в состав народно-патриотического Союза «Белое знамя». Белознаменцы из разных сословий, под руководством православных священнослужителей Н.В.Орловского, П.И.Ласточкина и Н.М.Фаминского, нотариуса И.В.Одинцова, представителей торгового сословия П.И.Троицкого и К.В.Тюрина, при почетном председательстве епископа Балахнинского Исидора, вели активную просветительскую работу, организовали общество за народную трезвость, в противовес революционной агитации устраивали крестные ходы, народные чтения в Доме трудолюбия, проводили музыкальные вечера и благотворительные ёлки для детей. Во всем этом участвовал и о. Петр Альбицкий.
Батюшка много печатался в губернских ведомостях и «Церковно-общественном вестнике». Из-под его пера вышло 3 книги и 11 брошюр. Одна из самых замечательных - «Крестовоздвиженский первоклассный женский монастырь в г. Н.Новгороде. Столетие его существования (1813–1913)».
Революция и связанные с ней духовные страдания и лишения, творимые на его глазах насилия в отношении православного духовенства подорвали силы батюшки. Он скончался 29 сентября 1922 года и был погребен в ограде Крестовоздвиженской обители.
Станислав Смирнов, журналист (Нижний Новгород)