В 1830 году он был посвящен в сан иеромонаха, еще через восемь лет митрополит Филарет постриг его в схиму. Многие годы Парфений провел в полузатворе, молился, читал, переписывал книги. В келье его ничего не было, кроме голых стен, распятия на небольшом столике, иконы Пресвятой Богородицы и деревянной скамьи без всякого покрова. Получив откровение свыше, Парфений стал принимать посетителей. Как и преподобный Серафим Саровский, он в течение всей жизни читал Евангелие ежедневно, этому же учил своих многочисленных духовных детей, приходивших в Глосеево.
Парфений любил этот уединенный монастырь. “Здесь носится дух преподобных отец наших Печерских, – говорил он. – И если есть на земле утешение и радость, то в этом пустынном безмолвии. Люди отлучают нас от Бога, а пустыня приближает нас к нему”.
Николай Лесков называет Парфения “неразгаданным человеком, тихая слава которого была равна его смирению, даже превосходившему смирение его владыки”.
А вот что пишет священник В.Зноско: “Иеросхимонах Парфений являл собой образ жития, подобного древним великим подвижникам. Путь своего духовного совершенствования проходил он почти на глазах владыки, который, усмотрев в нем пламенного ревнителя святоподвижничества, собственными руками облек его в схиму в пещерах преподобного Антония и наименовал Парфением. Впоследствии их духовный союз стал настолько крепок, что маститый архипастырь решил избрать Парфения духовным отцом…”
Автор жития старца Парфения так изобразил его духовные отношения со святым Филаретом: “Велика была любовь святителя к старцу, но беспредельна и преданность старца к святителю. И этот духовный союз составлял для обоих утешение в их подвижническом странствии в этой жизни. Душа архипастыря, утомлявшаяся нередко многотрудными обязанностями, возлагаемыми его саном, отдыхала в беседе просвещенного духом старца. А душа старца с безусловным доверием опиралась на мудрость архипастыря”.
Вот с какими людьми предстояло жить теперь старцу-“проказнику”!