La fondazione di Fez si attribuisce al re Idris I il quale, verso il 791 d.C., stabilì la capitale del suo regno sulla sponda destra del fiume Fas da cui ha preso il nome la città. Poco dopo, suo figlio, Idris II, fece costruire un nuovo insediamento sulla sponda opposta del fiume e vi stabilì la nuova capitale. Nel 812 d.C. si insediarono a Fez numerosi andalusi cacciati dagli Omayyadi e nel 824, a causa di una ribellione in Tunisia, ci fu una forte emigrazione di arabi. Questi avvenimenti resero Fez un importante centro intellettuale e l'importanza della città crebbe anche se si mantenne Marrakech come capitale. Fez tornò poi ad essere capitale sotto i Merinidi che, nel 1250, la conquistarono e avviarono l'edificazione di un nuovo insediamento, chiamato inizialmente "Madīnat al-Bayḍāʾ" (la città bianca), cambiato poi in Fes el-Jdid (Fez la Nuova) per distinguerla dalla già esistente Fes el-Bali (Fez la Vecchia). Durante il sultanato di Abu er-Rabi e del suo successore, che regnò fino al 1330, Fez visse un'epoca di grande prosperità, che coincise con la costruzione di numerosi palazzi e l'istituzione di molte scuole coraniche. La sua università, Al-Qarawiyyin, divenne il centro di studi più importante del mondo occidentale, un vero punto di riferimento per studiosi musulmani e cristiani provenienti da tutta Europa. Parzialmente distrutta da un terremoto nel 1522, Fez cominciò ad assistere al proprio declino, che si rese ancora più evidente quando, nel 1544, fu conquistata dai Sadiani, che riportarono la capitale a Marrakech, dando inizio ad un periodo di conflitti e rivalità tra le due città. Durante il XIX secolo, Fez conobbe un periodo di relativa pace che favorì il suo sviluppo come centro commerciale. Nel 1912, la maggior parte del Marocco passò sotto il Protettorato Francese. Ottenuta l'Indipendenza nel 1956, il Marocco, scelse di stabilire definitivamente la propria capitale a Rabat, a discapito di Fez che perse importanza ed entrò in una fase di decadimento, frenato in parte nel 1981, quando la città venne dichiarata Patrimonio dell'Umanità dall'UNESCO.
