Questo luogo di straordinaria bellezza e pace, è stato fondato nel secolo XIII (1244) dall'abate San Silvestro Guzzolini da Osimo, il quale creò qui una comunità per i suoi monaci. Chiesa e monastero ad essa annesso acquisirono negli anni sempre più prestigio, furono più volte ampliati e riedificati. L'edificio ecclesiastico che vediamo oggi risale all'ultimo rifacimento di fine 1500 e presenta solo poche tracce dell'originario duecentesco. Molto presenti e caratterizzanti all'interno del luogo di culto sono gli stucchi gli ori e i dipinti in maggioranza eseguiti in stile barocco fra il 1500 e 1600.
Pregevoli sono i nove affreschi del Coro attribuiti a Simone De Magistris con i fatti della "Vita di San Silvestro" legati alla conversione e alla scelta eremitica. E' al Cardinale Gallo, vescovo di Osimo (1591-1620), che si deve la commissione degli affreschi, eseguiti in occasione dell'Anno Santo del 1600.
Le dieci cappelle votive laterali dimostrano la devozione della popolazione e delle corporazioni fabrianesi: tre di patronato di famiglie nobili (Alberti-Marcellini, Ambrosi-Stelluti, Scala-Fabri, Ferretti-Corradini), tre di Corporazioni delle Arti (lana, sarti, falegnami, muratori), quattro di Confraternite (di San Carlo Borromeo, del Gonfalone, di S.Maria del Mercato, dei Trinitari) sono decorate da tele di artisti tra i quali il Gentileschi, il Rossi, il Vanni e il concittadino Domiziani.
Di particolare rilievo è il Coro in legno del 1400 realizzato da maestri ebanisti , impregnato dalla storia delle famiglie nobili fabrianesi, tra le quali spicca quella dei Chiavelli.Il Coro proverrebbe dalla Cattedrale di S.Venanzio e i Silvestrini l'avrebbero acquistato adattandolo alla loro Chiesa (il rudimentale innesto degli angoli ne è una riprova).Su questi stalli, dunque, sarebbe avvenuto il tragico eccidio del 26 maggio 1435, dei signori di Fabriano, come da testimonianza di una piccola memoria storica posta nel 1935, centenario dell'avvenimento.
Mistica e carica di significato è invece la cripta sottostante dedicata al Beato Giovanni dal Bastone, monaco Silvestrino e seguace di San Silvestro (nato all’inizio del secolo XIII e morto il 24 marzo 1290).
Nonostante i numerosi rifacimenti e peripezie la Chiesa è arrivata quasi incolume ai giorni nostri , custodita e curata dalle preziose mani dei monaci Silvestrini che da sette secoli la conservano.
Salvare gli affreschi del De Magistris e il Coro Ligneo, lo chiedono turisti e i residenti che vogliono riappropriarsi di uno dei luoghi più belli e ricchi d'arte della città di Fabriano.