Il primo nucleo di una comunità di padri carmelitani si insedia in città nel 1636, pochi mesi prima dell’invasione francese che avviene nel mese di febbraio dell’anno successivo. Tale avvenimento crea grosse difficoltà ai religiosi che si trovano in mancanza dei più necessari mezzi di sostentamento. Questa notizia conferma pertanto l’esistenza di una chiesa seicentesca nel luogo ove sorge il complesso del Carmine che oggi conosciamo. Un ulteriore conferma dell’origine seicentesca deriva dalla notizia del trasferimento del Gremio dei Sarti dalla cappella dei SS. Cosma e Damiano al San Francesco nella nuova sede del Carmine. Dell’attività conventuale si possiede nuovamente un’attestazione nel 1736, mentre i Padri Carmelitani che reggeranno l’istituzione con continuità compaiono sicuramente dal 1760.
I progetti della chiesa e del convento attuali sono del 1776, disegnati dal Giuseppe Viana che ottiene grazie a questi la Patente Regia di architetto. La ricostruzione della chiesa e del convento si devono alla munificenza di Don Damiano Nurra marchese d’Arcais, che li affida alle cure dei Carmelitani, come testimonia la bella tela dipinta nel 1782 e oggi conservata in una nicchia del presbiterio. I lavori si svolgono in tempi rapidissimi per quell’epoca: infatti vengono iniziati e ultimati tra il 1783 e il 1785. Questo dato qualifica ulteriormente il complesso del Carmine come un gioiello architettonico e storico-artistico perfettamente al passo con i tempi, proprio in una regione dove le novità giungono con notevole ritardo.

La chiesa del Carmine viene progettata unitamente allo spazio conventuale, prova ne sia che il chiostro e l’aula ripetono esattamente lo stesso schema planimetrico. Tutti gli ambienti, nonostante il complesso possa apparire ristretto dall’assetto urbanistico, ricevono invece luce in quantità grazie all’accentuato verticalismo delle strutture. La chiesa di dimensioni ridotte, concede l’impressione di un ambiente ampio: quattro cappelle fanno da cornice all’aula, il presbiterio riceve luce da un cupolino che illumina l’altar maggiore in marmi policromi opera dello Spazzi (1782), al quale viene attribuito anche il simulacro marmoreo della Vergine del Carmine.
La chiesa custodisce numerose altre opere d’arte, in particolare le statue lignee policrome tutte sostanzialmente coeve alla chiesa. Tra queste spicca la Pietà firmata Paolo Sannolo, datata 1763.
All’interno della chiesa sono presenti diverse sepolture, testimoniate dalle relative lapidi sepolcrali. Oltre al marchese d’Arcais e alla sua famiglia, sono tumulati altri personaggi di grandi rilievo come il canonico Pipia (+1783). Curiosa è l’ultima volontà di Damiano Nurra, che prevede la tumulazione in piedi, sorretta da un sistema di travetti lignei, secondo una pratica prevista per i nobili dell’Italia del Settecento. Lo stemma del marchese in stucchi sovrasta ancor oggi il coro.
Il Convento viene soppresso nel 1832 per decreto di Monsignor Bua. Nel 1866 passa al Demanio, che vi stabilisce la caserma dei Reali Carabinieri. Nel Novecento la chiesa, considerata una rettoria della Cattedrale e tuttora da questa dipendente, versava in un precario stato di conservazione. Grazie agli sforzi del Comitato della Festa della Madonna del Carmine e di molti solerti cittadini, la chiesa viene interamente restaurata tra gli anni 80 e 90.
In passato la chiesa fu sede di una Congregazione Mariana e di alcune confraternite, tra cui quella del Carmine o delle Anime Purganti, di recente ri-istituita per decreto dell’arcivescovo Monsignor Ignazio Sanna. Oggi i locali del convento sono occupati dal Consorzio UNO (Università di Oristano), che accoglie di frequente manifestazioni culturali.