Costituiscono uno dei primi esempi ottocenteschi di parco pubblico in Italia.
Vengono realizzati tra il 1827 e il 1830 su iniziativa e finanziamento del conte pesarese e celebre latinista Francesco Cassi, in onore del cugino Giulio Perticari - illustre letterato morto nel 1822 - e per questo denominati Orti Giulii. Il cenacolo culturale-politico creato a Pesaro da Perticari e Cassi è la fucina che diffonde in città le nuove idee liberali che contribuiscono al Risorgimento.
In ricordo di Perticari, Cassi trasforma in giardino pubblico l'interno dell'antico bastione delle mura roveresche, detto del Carmine, a lato di Porta Rimini, accesso settentrionale della città. Nelle cinte murarie antiche, i bastioni o baluardi erano terrapieni rinforzati da grosse mura, posti agli angoli delle cortine per difenderle.
Il progetto viene affidato all'ingegnere ferrarese Pompeo Mancini (autore anche della Pescheria), che realizza un parco alberato e un orto botanico, di notevole interesse anche dal punto di vista naturalistico. Destinato a luogo di ritrovo per i cittadini, il giardino arcadico rispetta il gusto neoclassico imperante ed era ornato con boschetti, sentieri di verzure, statue, busti e lapidi romane.