La Chiesa dei SS. Pietro e Paolo, nota come Chiesa di S. Pietro Caveoso, conclude la spazialità visiva del Sasso omonimo dominando il canyon del torrente Gravina. Fu edificata nel XIII secolo. La costruzione iniziale risale al 1218. L'edificio ha subito interventi nel corso dei secoli, con la perdita di molti elementi costruttivi originali. Nel XVII secolo fu ristrutturata totalmente con l'aggiunta dell'attuale facciata e la costruzione del campanile, mentre l'interno fu ingrandito con l'aggiunta di cappelle laterali e sostituendo l'originario soffitto ligneo a capriate con un tetto di tufo. L'ultima cappella, dedicata attualmente al Sacro Cuore di Gesù, ospita il fonte battesimale del XIII secolo, decorato con bassorilievi, rivelati dai restauri che lo hanno liberato dallo strato di stucco aggiunto nel corso dei secoli. Nel 1706 la chiesa fu riconsacrata come indicato su una lapide e ancora modificata aggiungendo la cuspide sul campanile e stucchi e decorazioni all’interno.