Nel corso del 1844 Cesare Costa ricevette l'incarico di progettare un edificio da erigersi a Modena a spese del Ministero di Pubblica Economia ed Istruzione: edificio da situarsi lungo la passeggiata delle mura nella zona tra il bastione di S. Pietro e Porta Bologna.
Francesco IV desiderava che il "salotto cittadino" sulle mura si arricchisse di un caffè elegante, in grado di portare Modena all'lateza di altre città italiane dotate di consimili ritrovi alla moda.I lavori di costruzione, sull'area già sgombra dai precedenti edifici, iniziarono nel luglio dello stesso anno.
Nell'aprile del 1846 il nuovo duca Francesco V comunicava a Costa che era stata cambiata la destinazione del secondo piano del fabbricato del caffè: esso non avrebbe più ospitato abitazioni civili, ma le sedi delle più importanti istituzioni culturali modenesi.
Nell'edificio dovevano trovare posto la sede e la biblioteca dell'Accademia di Scienze, Lettere ed Arti, la biblioteca universitaria, quella del Gabinetto Letterario e quella della Società Italiana delle Scienze, oltre alla sede della Società di Incoraggiamento delle Arti.
Dopo l'Unità d'Italia venne destinato a sede della Prefettura, destinazione che mantiene tuttora.
Costruito attorno alla metà del Seicento sulla base di un edificio cinquecentesco più complesso a due corti collegate, appartenne ai Fogliani, passò ai Rangoni nel 1481 e quindi a vari membri della famiglia etense (Luigi, fratello di Alfonso III e i nipoti Cesare Ignazio e Foresto, figli di Borso, fratello di Alfonso e figlio di Cesare);dall'ultimo di questi, il principe Foresto, prese il nome del palazzo.
L'edificio era Sede di una piccola corte parallela a quella principale, a Palazzo Ducale. Passò poi al duca Rinaldo e a Francesco III.
In esso furono ospitati illustri personaggi come il futuro papa Leone X, Francesco I re di Francia, Lorenzo dè Medici, Vittorio Emanuele II, Re d'Italia.
Con Francesco IV diventò sede del Ministero Estense delle Finanze.
Il lungo porticato della facciata del palazzo sul Canalgrande venne abbattuto nel 1773-5 all'epoca delle riforme edilizie di Francesco III. L'edificio fu riprogettato da Pietro Termanini e, nell'occasione, fu chiusa la Via degli Esecutori, forse prolungamento di Vicolo del Cane, che dal Canalgrande andava verso est fino alle mura.
All'epoca l'edificio aveva 271 vani. Fu chiamato anche il Palazzo della Ferma, perchè, appartenendo al Rangoni, questi avevano l'appalto delle imposte indirette e della posta.
Il prospetto attuale del palazzo presenta una facciata a tre piani e ammezzato.
