Weit eher schon als ihre Kirche ging die Freiheit und Kraft der Mainzer Bürgerschaft unter. Je selbständiger sie wurde, desto reizbarer wurden die Beziehungen zwischen ihr und den Erzbischöfen, und bei den Kaisern, die mit ihrem Kanzler und dem Primas der deutschen Kirche sich so gut wie möglich abfinden mußten, fand sie nicht immer Unterstützung. Als der wegen seiner Schroffheit bei Volk, Ritterschaft und Domkapitel gleichmäßig verhaßte Erzbischof Arnold von Seelenhofen von den Aufständischen im St. Jakobskloster, wo er sich verschanzt hatte, getötet worden war, vollzog Friedrich Barbarossa furchtbare Strafe, indem viele Bürger verbannt, die Stadtmauern niedergerissen, Rechte und Privilegien aufgehoben wurden. Das Sinken der Kaisermacht war für Mainz wie für fast alle Städte im Reich günstig. Im Einverständnis mit dem Erzbischof Siegfried III. von Eppstein, der die Gegenkönige Heinrich Raspe und Wilhelm von Holland erhob, nahm die Stadt gegen die Hohenstaufen Partei. Der mächtige Mann wurde von den Bürgern zur Nachgiebigkeit gezwungen und gestand ihr eine weitgehende Unabhängigkeit zu. Sie durften einen Rat wählen, der lebenslänglich im Amte blieb, sie waren frei von Kriegsdienst, brauchten sich keine willkürliche Besteuerung gefallen zu lassen, und der Erzbischof durfte weder in der Stadt noch im Umkreis einer Stunde vor den Toren eine Burg bauen. Dagegen verpflichtete sich die Bürgerschaft, den Erzbischof um keines Menschen, auch um des Kaisers willen nicht zu verlassen. Sie wollten also nicht den Kaiser, sondern den Erzbischof als den Quell ihrer Freiheit betrachten, den Erzbischof, der doch im Grunde nach ihrer Unterwerfung trachten mußte.
Die Verwüstungen im Rheinlande, die eine Folge des Kampfes zwischen Hohenstaufen und Welfen waren, ließen in einigen Häuptern der Mainzer Bürgerschaft den Gedanken eines Bundes entstehen, der seinen Gliedern durch ihre vereinigte Kraft den Frieden verbürgen würde. Der ausgesprochene Zweck des Bundes war die Aufrechterhaltung von Recht und Frieden und der Schutz aller Schwächeren gegen die Mächtigen. Seinen Kern bildete die Verbindung der Städte Mainz und Worms, die sich vorher befehdet hatten, weil Worms zu den Hohenstaufen hielt, die aber schließlich die Gemeinsamkeit ihrer Interessen begriffen. Bald traten Bischöfe, Fürsten und Edle dem Bunde bei, denn er war nicht auf Städte beschränkt, und auch der Erzbischof, es war Gerhard I., billigte ihn. Kam der Rheinische Bund auch nicht zu der Wirksamkeit, die von ihm erwartet wurde, so war er doch ein Zeichen erstarkter Kraft und selbständiger Politik der Bürger. Als sein eigentlicher Begründer gilt Arnold der Walpode, einer der bedeutendsten Mainzer Familien angehörig, die im Jahre 1128 zuerst genannt wird. Der Name kommt von dem Amt des Gewaltboten, das die Walpod im 14. Jahrhundert aufgaben, worauf es an die Zum Baumgarten kam. Die Walpoden teilten sich in verschiedene Zweige; der berühmte Arnold führte einen gekrönten Löwenkopf im Wappen.
Das städtische Regiment lag in Mainz wie in allen anderen Städten in den Händen der begüterten vornehmen Familien, die in festungsartigen Häusern wohnten, deren Namen sie annahmen. Eines der hervorragendsten und weitverzweigtesten dieser Geschlechter waren die Gensfleisch, die mehrere Höfe in Mainz besaßen und die höchsten Stellen bekleideten. Die Geschlechterherrschaft erfuhr die erste Erschütterung durch finanzielle Schwierigkeiten, in welche die Stadt geriet. Als im Jahre 1328 zwei Erzbischöfe, Balduin von Luxemburg und Heinrich von Virneburg um den Besitz des Erzstifts stritten, entschied sich die Stadt für Heinrich, der Kaiser für Balduin, und in dem daraus entstehenden Kampfe zerstörten die Mainzer drei Klöster. Vom Kaiser in die Acht getan, mußten sie sich endlich fügen und wurden verurteilt, den angestifteten Schaden wieder gutzumachen. Die daraus sich ergebenden Schulden und Verlegenheiten benützten die Zünfte, einen Anteil am Regiment zu fordern und durchzusetzen. Gegen die neue demokratische Ordnung erhoben sich viele junge Patrizier, und ein Kampf entspann sich, in dem die Burg des Friele zum Gensfleisch geplündert wurde. Eine Anzahl Patrizier wanderten aus, kehrten aber zum großen Teil zurück, und eine Sühne zwischen den Parteien wurde geschlossen. Wie es zu gehen pflegte, waren die Zünfte nun zwar in die Regierung eingetreten, konnten aber den überwiegenden Einfluß der Geschlechter nicht hindern, wovon neue Unzufriedenheit die Folge war. Im Jahre 1411 wanderten wieder Patrizier aus, darunter die Gensfleisch, Salmann, zum Jungen, Humbrecht, Fürstenberg, Wallertheim, von denen nicht alle zurückkehrten, und dasselbe wiederholte sich zehn Jahre später. Das Ergebnis der Zwietracht war eine neue Verfassung, in der die Zünfte nun sogar das Übergewicht hatten, indem den aus 36 Mitgliedern bestehenden Stadtrat nur zwölf Patrizier besetzten. Die Gemeinde konnte sich ihres Sieges nicht lange freuen; denn der völlige Untergang der alten städtischen Freiheit stand bevor.
Wieder wurde eine zwiespältige Bischofswahl den Bürgern zum Verhängnis. Diether von Isenburg, ein kluger und herrschsüchtiger Mann, wurde von Papst und Kaiser abgelehnt, die ihm Adolf von Nassau entgegenstellten. Die Bürgerschaft blieb dem Isenburger treu, der das Erzstift schon drei Jahre innehatte, und entschloß sich zum Kampfe. Niemandem war es bekanntgeworden, daß ein kleiner Teil der Bürger und die Domherren, darunter der Bürgermeister Zum Dymerstein und der Domherr Ewald Faulhaber von Wechtersbach mit Adolf in verräterisches Einverständnis eingetreten waren. Mit ihrer Hilfe gelang es dem Feinde, durch das Gautor einzudringen und unter der überraschten Einwohnerschaft ein Blutbad anzurichten. Als die Stadt überwältigt und besetzt war, zog Adolf, der draußen den Ausgang abgewartet hatte, ein und verhängte ein vernichtendes Strafgericht über die Bürger. Sie wurden auf den alten Tiermarkt, den jetzigen Schillerplatz, geführt, um unter Bewachung der siegreichen Gegner ihr Schicksal zu erfahren. Alle Freiheiten und Privilegien wurden aufgehoben, die Stadt dem Erzbischof untertänig erklärt, eine Menge von Höfen und Häusern eingezogen und alle Bürger, ausgenommen die, welche nicht entbehrt werden konnten, wie zum Beispiel die Bäcker und andere Handwerker, bis auf weiteres aus der Stadt gewiesen.
War dies unglückliche Ende bürgerlicher Freiheit auch nicht die unmittelbare Folge der demokratischen Regimentsveränderung – denn ob zurückgesetzte Patrizier aus Unmut und Rachsucht am Verrat beteiligt