Ипполит Рыльский появился на свет в 1928 году, в небольшом селении Курска (Субботино). Родители его были бедными крестьянами. В юношеском возрасте парень отправился в Глинскую пустынь и принял монашеский постриг. В 60-х годах пустынь была закрыта, свои монашеский путь святой Ипполит продолжил в Псково-Печерской монастырской обители. В то же время возникла опасность того, что русское монашество исчезнет полностью, поэтому Ипполит совместно с остальными старцами отправился на Святую Гору и стал монахом в Свято-Пантелеймонской монастырской обители, где служил более 17 лет.
По возвращению в Россию, священнослужитель был назначен настоятелем Рыльского Свято-Николаевского монастыря (Курск). Именно он привел к расцвету и посвятил свои последние годы ее восстановлению. Скончался преподобный в 2002 году, а дата почтения памяти святого приходится на 17 декабря.