Boito war überzeugt, dass eine vollkommene Oper nur aus einem großen, tiefgründigen dichterischen Werk entstehen könne – und das ist Goethes Faust. Anders als frühere Komponisten vertonte Boito jedoch nicht nur den ersten, sondern auch den zweiten Teil des Dramas, der am Kaiserhof und in der Antike spielt. Zwar musste er zahlreiche Szenen und Figuren weglassen, doch die Oper dauerte in ihrer ursprünglichen Fassung fast fünf Stunden. Die Uraufführung am 5. März 1868 an der Mailänder Scala endete im Fiasko und gilt als einer der größten Theaterskandale der Operngeschichte.
Boito überarbeitete das Werk radikal – die Neufassung wurde am 4. Oktober 1875 im Teatro Comunale in Bologna uraufgeführt und feierte sofortigen Erfolg. Bis 1881 überarbeitete Boito die Partitur weiter; in diesem Jahr kehrte Mefistofele in seiner endgültigen Form triumphal an die Scala zurück. Es blieb sowohl sein Operndebüt als auch sein Abschied vom Genre: andere Opernprojekte, etwa Nerone, blieben unvollendet. Doch der Erfolg von Mefistofele war so groß, dass Boito sogar die Ehrendoktorwürde der Universität Cambridge erhielt.
In Prag wurde Mefistofele erstmals im Februar 1881 im Ständetheater aufgeführt, später auch im Neuen Deutschen Theater (heute Státní opera) in den Jahren 1888 und 1897. Das Nationaltheater brachte die Oper erstmals am 9. Dezember 1885 heraus, danach 1896, 1936 und 1942 – mit dem gefeierten Bassisten Vilém Zítek in der Titelrolle. Die aktuelle Prager Produktion unter der Regie des renommierten Theater- und Opernregisseurs Ivan Krejčí hatte 2015 an der Staatsoper Premiere.