La chiesa ha origini molto antiche. Fu costruita tra il IV ed il V secolo su preesistenze di epoca romana, probabilmente di carattere civile. Essa fu poi restaurata all'epoca di papa Leone III, quando vi furono traslate le reliquie del santo titolare, sant'Agapito di Palestrina, giovane martire prenestino, decapitato all'epoca dell'imperatore Aureliano (274). L'edificio fu poi ristrutturato ed ampliato in forme romaniche nel XII secolo e solennemente consacrato nel 1117 da papa Pasquale II: in questa occasione furono ricostruite le navate, l'abside, parte della facciata e fu innalzato il campanile. Dell'edificio romanico oggi rimangono tracce solo nella facciata, nel campanile e nella cripta; infatti la cattedrale fu quasi completamente distrutta nel 1437 nelle lotte intestine allo Stato pontificio sotto il pontificato di papa Eugenio IV. In seguito fu ricostruita e rimaneggiata più volte nei secoli successivi (soprattutto nel XVIII e XIX secolo).