L'attuale edificio sorge sull'area in precedenza occupata da una chiesa più antica che, per alcuni secoli, svolse la funzione di parrocchiale prima sotto il titolo di Sant'Alessandro associato poi a San Gaudenzio, patrono del borgo, il quale, secondo la tradizione (non corroborata da evidenze storiche) qui venne martirizzato nel 830 e il cui corpo venne miracolosamente ritrovato dietro un altare nel XVI° secolo. Nonostante la chiesa sia comunemente nota con l'appellativo di “Pieve”, non c'è la certezza che si tratti effettivamente della prima sede parrocchiale. Nel 1522 venne affidata ai frati dell'ordine di San Gerolamo da Fiesole i quali, sul fianco destro, vi edificarono un convento. Nel 1674 venne affidata ai frati Francescani in seguito alla soppressione, con bolla pontificia, dell’ordine di Fiesole. L’aspetto attuale, caratterizzato dall’elegante facciata con pronao e finestra serliana, è frutto di una ricostruzione ordinata e supervisionata nel 1580 da Vespasiano Gonzaga Colonna, duca di Sabbioneta e Marchese di Ostiano. Chiuso nel 1810 durante la dominazione napoleonica, l’edificio divenne “Bene Nazionale” e successivamente venduto mediante pubblica asta. Acquirente fu il farmacista ostianese Domenico Viani il quale ne iniziò la demolizione per recuperarne mattoni e materiali da costruzione. L'intervento del nobile Giovanni Piovani, al tempo sindaco di Ostiano, scongiurò la demolizione della chiesa la quale venne acquisita dal Comune che, rispondendo ai nuovi regolamenti napoleonici, adibì l'antico luogo di sepoltura dei frati, a cimitero comunale. La chiese passò successivamente alla diocesi di Mantova, alla quale appartiene tutt’ora. L’interno è particolarmente interessante per le numerose sepolture ornate da importanti lapidi recanti gli stemmi gentilizzi delle principali famiglie di Ostiano, così come interessante è la lapide che ricorda la transazione dei resti di San Gaudenzio, che ebbero luogo alla presenza dello stesso duca di Sabbioneta. La chiesa divenne funzionale al vicino cimitero comunale, attivo per tutto il XIX° secolo e poi sconsacrato nei primi anni del XX°. Di questa funzione restano numerose lapidi istoriate, poi affisse sotto il pronao e sul lato nord della chiesa, particolarmente interessanti perchè recanti brevi biografie utili a ricostruire le vite e le circostanze di decesso di vari cittadini di Ostiano che qui vennero sepolti. La chiesa, tuttora consacrata, è chiusa al pubblico ormai da decenni, stante le precarie condizioni statiche che la rendono pericolante, così come pericolante è ormai la bella torre campanaria. L’edifico sorge fuori dall’abitato di Ostiano (Cr), fra un blocco di edilizia rurale, che un tempo fu un convento dei frati dell’ordine di S. Gerolamo da Fiesole, e il recinto dell’ex cimitero, detto Napoleonico, ora dismesso.