Sanktuarium Matki Bożej Ostrobramskiej powstało dzięki bp. Edwardowi Materskiemu, pierwszemu ordynariuszowi diecezji radomskiej, wilnianinowi z pochodzenia. – Ksiądz biskup w dzieciństwie chodził z rodzicami do Ostrej Bramy,  modlił się przed wizerunkiem Matki Bożej. Po II wojnie światowej, wiedząc, że na Litwie granice są zamknięte, kościoły zamieniane na muzea czy magazyny, bał się, by z Ostrą Bramą nie stało się podobnie.