Le tracce di insediamenti di popolazioni liguri nella valle dell'Orba e in particolare nel comune di Rocca Grimalda si perdono nel passato: l'esistenza della città romana di Rondinaria, attestata da numerosi documenti e dal ritrovamento di una necropoli celtica in corrispondenza della piana di Silvano, ai piedi dello sperone roccioso su cui sorge il paese, fa presumere l'esistenza di fortificazioni e insediamenti già in epoca preromana anche al di sopra dell'altura. Nel territorio comunale, in prossimità del confine con il comune di Carpeneto, in località Trionzo, il ritrovamento dei resti di un castello di epoca longobarda, costruito con terrapieni e palizzate, ha confermato l'importanza del luogo che era stato nei secoli avvolto da leggende di streghe e sabba sfrenati. Il paese venne citato in documenti del X secolo, come territorio della marca aleramica, fu tra i beni donati per la fondazione del monastero di San Quintino a Spigno Monferrato. Nel 1164 fu ceduto ai marchesi del Monferrato, nel XIII secolo passò ai marchesi di Gavi, in forma di pegno. Conteso dagli alessandrini e dal marchesato di Monferrato, fu conquistato poi dai genovesi che la infeudarono ai Malaspina. Per la sua conformazione di fortezza naturale a strapiombo sulla valle dell'Orba venne a lungo contesa dalla Repubblica di Genova, dai marchesi del Monferrato e dal Ducato di Milano. Nel 1355, fu nuovamente concessa ai marchesi del Monferrato. Occupata da Filippo Maria Visconti, nel1444 fu ceduta a Galeazzo Trotti. Nella sua storia Rocca Grimalda assunse nomi diversi, da "Rocca Val d'Orba" a "Rocca De Trotti". Le colline del feudo di Rocca Grimalda rimasero fino al XVIII secolo per lo più coperte da fitte foreste dove prosperava il brigantaggio. Dopo alterne vicende, i Trotti vendettero il feudo alla famiglia genovese dei Grimaldi, che ne mantenne il possesso fino al XIX secolo e che diedero al paese il suo nome definitivo. I Grimaldi portarono dalla Repubblica di Genova il culto di santa Limbania e la coltivazione della vite che stravolse il paesaggio delle colline circostanti ove il bosco venne gradualmente rimpiazzato dalla vite. Dell'estesa foresta della valle Orba, citata da Alessandro Manzoni, rimasero solamente piccoli ritagli come il Parco della Villa Savoia in località San Giacomo (un tempo detto San Giacomo dei boschi). Dal 1736 Rocca Grimalda entrò nell'orbita del Regno di Sardegna e seguì da allora le sorti del Piemonte sotto il dominio dei Savoia. Durante la seconda guerra mondiale Rocca Grimalda pagò un pesante tributo di vittime, e molti rocchesi si unirono alle file della guerra partigiana che imperversò sull'Appennino Ligure fino alla Liberazione, che avvenne in queste zone proprio ad opera dei partigiani, ben prima dell'arrivo delle truppe alleate. Dalla fine della guerra il paese visse un periodo segnato da emigrazione verso le grandi città e abbandono delle campagne. Dagli anni novanta Rocca Grimalda, come molti centri limitrofi, vive un periodo di rinascita economica e sociale basato sulla promozione degli ottimi vini locali, tra cui il Dolcetto di Ovada e il Barbera del Monferrato, dei prodotti gastronomici e sul turismo.