Il borgo di Oliva Gessi sorge a 275 metri circa sulla prima collina dell'Oltrepò Pavese, tra la valle formata dal Rile San Zeno e quella del Verzate ed è circondata da campi agricoli e vigneti che lambiscono i comuni di Corvino San Quirico, Calvignano, Montalto Pavese, Mornico Losana e Torricella Verzate. L'abitato è costituito dal centro storico con castello, cascine, stalle e la grande casa dei massari; più in basso si trova la chiesa di San Martino, il circolo parrocchiale con il teatro, e il municipio. Da segnalare anche la frazione “Gessi” arroccata su roccia calcarea gessosa, con le antiche cave.
Di origine romana, quando già si praticava la viticoltura, le prime notizie del borgo di Oliva Gessi risalgono al 998 d.C. All'inizio del XII secolo il feudo che aveva per centro Montalto, passa in mano alla famiglia pavese dei Belcredi fino alla fine del feudalesimo. Saranno i successivi proprietari, i marchesi Isimbardi, a plasmare l'attuale abitato, sostituendo nel XIX secolo le casupole medioevali con complessi abitativi secondo il modello della grande cascina lombarda di pianura, con le grandi corti. In uno di questi edifici nasceva nel 1873 san Lugi Versiglia, salesiano, missionario e vescovo, martirizzato in Cina nel 1930 e canonizzato nel 2000.
Attorno al castello, il centro abitato fu riedificato nel XIX secolo con criteri che oggi definiremmo razionali: alle precedenti casupole di origine medievale si vollero sostituire gli attuali complessi "Cà dal ‘32" (Casa natale di Mons. Versiglia), "Palazzetta", “Fabrichetta”, "Co dad là". Intorno ad ampie corti si sviluppano i portici, le stalle, le cascine, la grande casa dei massari a due piani con ampie stanze illuminate, grandi finestre, sottotetto con ballatoio, ampie logge coperte, secondo il modello della grande cascina lombarda di pianura. L'esempio migliore è riscontrabile nella corte del "Co dad là" con la bella facciata dalle grandi arcate, le finte finestre che ne ricamano il lato occidentale, e le slanciate monofore neogotiche delle cascine. Sempre nella medesima epoca veniva realizzato quello che rimane ad oggi il simbolo di Oliva, il Vultò, arco a tutto sesto con funzione di sostegno al grande muraglione che imbriglia il terrapieno su cui si apre il giardino all'italiana del Castello e, accanto ad esso, l'antico forno a servizio dell'intera comunità.