Costruito nella prima metà del ‘400, quando il territorio apparteneva al principe di Taranto Giannantonio Orsini del Balzo, come avamposto di controllo e difesa in una zona di grande traffico ed in un periodo storico estremamente complesso dal punto di vista politico. Degli apprestamenti difensivi oggi restano solo poche tracce sul lato sud rimasto praticamente intatto. Di pianta quadrangolare, ha quattro bastioni d’angolo, nove ambienti a piano terra ed altrettanti al primo piano. Quelli a secondo piano derivano da una ristrutturazione successiva per adattare la struttura a diverse trasformazioni d’uso nel corso dei secoli.
Appartenuto alla famiglia genovese dei Centurione, agli inizi del XVI sec., diventa poi proprietà della famiglia Vaaz, nel XVII. Il capostipite Michele Vaaz, di origine portoghese, è colui che decise di dar vita all’attuale abitato di Sammichele. Dai Vaaz passa, quindi, alla famiglia De Ponte. Tale famiglia sottopone la struttura al primo restauro, di cui si ha notizia certa, nel 1675, perché quasi cadente. Dopo questo intervento, che trasforma l’edificio in casa agricola, il primo piano resta completamento separato dal piano terra e per l’acceso al piano “nobile” viene realizzata una scala esterna. Sul terrazzo è ricavato un sottotetto da adibire a magazzino per derrate alimentari. Passato, alla fine del XVIII secolo, alla famiglia Caracciolo di Vietri, viene sottoposto intorno al 1860 ad ulteriori lavori su progetto dell’arch. Ascanio Amenduni di Casamassima, che ne stravolgono l’aspetto e lo trasformano in palazzo per villeggiare dalle linee medievali. A questo intervento, sono da attribuire la costruzione delle torri merlate, il rifacimento della facciata di prospetto, in quella che vediamo oggi, con i tre portoni di accesso, le finestre bifore a primo piano, il bugnato di rivestimento e lo scalone interno centrale. Nel secondo dopoguerra alcuni ambienti sono presi in fitto dall’Amministrazione Comunale, per essere adibiti prima a Municipio e poi a scuola. Nel 1971 è acquistato dal Comune di Sammichele per essere destinato a Museo della Civiltà Contadina.