Mainz ist eine der ältesten und traditionellsten jüdischen Gemeinden in Europa. Im Mittelalter war die Stadt Zentrum jüdischer Lehre und Religion. Gemeinsam mit Speyer und Worms bildete Mainz die sogenannten SchUM-Städte, ein Akronym aus den mittelalterlichen hebräischen Namen der drei Städte. Die drei jüdischen Zentren des Rheingebietes haben im Mittelalter bedeutende jüdische Gemeinden hervorgebracht, die in außergewöhnlicher Weise miteinander kooperierten und Anfang des 13. Jahrhunderts mit ihren Erlassen und Talmudschulen eine führende Rolle im aschkenasischen Judentum einnahmen. Alle drei Städte bewerben sich derzeit um die Anerkennung als UNESCO-Welterbe.
Die frühesten, gesicherten Spuren jüdischen Lebens in Mainz lassen sich bis in das 10. Jahrhundert zurückverfolgen. Sie legen Zeugnis von einer blühenden jüdischen Gemeinde ab, die als eine der ältesten in Deutschland gilt. Berühmtheit erlangte die Jüdische Gemeinde in Mainz durch das Wirken ihrer Gelehrten, die Magenza zu einem kulturellen Zentrum des Judentums im Mittelalter machten. Mit Gerschom ben Jehuda wirkte um die Jahrtausendwende einer der einflussreichsten Gelehrten des Abendlandes in Mainz, dessen Rechtsauskünfte und Verordnungen noch Jahrhunderte nach seinem Tod ihre Gültigkeit behielten. Auch heute erinnert noch ein mittelalterlicher Gedenkstein auf dem uralten jüdischen Friedhof an diese herausragende Persönlichkeit.
Die Gemeinde erlebte eine äußerst wechselvolle Geschichte: Pogromen und Vertreibungen im Mittelalter und der Neuzeit folgte eine kulturelle Blüte im 18. Jahrhundert, die jedoch durch die Auseinandersetzungen in den Napoleonischen Kriegen wieder gefährdet war. Seit der Mitte des 19. Jahrhunderts wuchs die Gemeinde schließlich rapide an, 1856 entstand eine eigene Synagoge, die 1879 durch einen größeren Bau in maurischem Stil ersetzt wurde, 1912 erhielt die Gemeinde ihre Hauptsynagoge in der Hindenburgstraße.
Die Gräueltaten der Nationalsozialisten beendeten ab 1933 das jüdische Leben von „Magenza“. Über 1000 jüdische Bürger von Mainz verloren in den Konzentrationslagern ihr Leben. Nach dem Krieg kehrten zunächst nur wenige Emigranten und Überlebende nach Mainz zurück. Dennoch bildete sich bereits im Oktober 1945 erneut eine jüdische Gemeinde in Mainz. Doch es sollte noch lange dauern, bis es wieder ein nach außen deutlich sichtbares Zeichen aktiven jüdischen Lebens gab. Am Standort der ehemaligen Hauptsynagoge entstand schließlich nach den Plänen des Kölner Architekten Manuel Herz eine neue Synagoge. Die Architektur mit ihrer eigenständigen Formensprache und den von grün glasierten Keramikprofilen bedeckten Fassadenflächen wendet sich bewusst von gewohnten Bauformen und -materialien ab. Manuel Herz schließt den Bogen vom Mittelalter zur Gegenwart ohne direkte Bezugnahme auf Verfolgungen, Pogrome und den Holocaust. Vielmehr basiert sein architektonisches Werk auf überlieferten Texten der Tora.
Durch die auf dem Vorplatz stehenden Fragmente der Säulenhalle des Vorgängerbaus entsteht zudem eine Verbindung zwischen der zerstörten Hauptsynagoge von 1912 und der heutigen Synagoge. Seit 2010 ist das Gotteshaus nun wieder das Zentrum des jüdischen Mainz.