Sieben Studenten des Staatstechnikum Karlsruhe (heutige Fachhochschule) schlossen sich am 20. Mai 1920 zur Landsmannschaft Rhenania zusammen. Sie legten als Prinzipien öffentliches Couleurtragen, Bekenntnis zur Mensur, Lebensbundprinzip und körperliche Ertüchtigung fest.
Eine Verbindung dieser Art bestand am Staatstechnikum bis zu diesem Zeitpunkt nicht, es existierten nur fakultätsgebundene Vereinigungen. Drei unserer Gründungsmitglieder waren aus einer solchen Vereinigung ausgetreten, nachdem sie mit dem Versuch scheiterten, dieser einen mehr studentischen Charakter zu geben.
Daß die Rhenania als erste Verbindung am Karlsruher Staatstechnikum das Tragen von Farben und das akademische Fechten einführte, erregte natürlich Aufsehen und es gab einige Auseinandersetzungen mit der Leitung des Staatstechnikums, vor allem wegen des damals verbotenen Fechtens, aber auch mit den Verbindungen der Technischen Hochschule z.B. um das Mützenformat.
Trotz dieser Probleme folgten aber die meisten Vereinigungen am Staatstechnikum unserem Beispiel und das Tragen von Band und Mütze gehörte dort nach kurzer Zeit wie selbstverständlich zum Alltag.
Obwohl die Zwanziger Jahre durch Inflation und wirtschaftlichen Niedergang geprägt waren, nahm die Rhenania einen beachtlichen Aufschwung. 1924 wurde unser Alt-Herren-Verein gegründet.
Erst der Nationalsozialismus brachte einen Rückschlag. Die formelle Einführung des Führerprinzips durch Umbenennung der Ämter und Satzungsänderungen brachten keinen dauerhaften Erfolg. Der Druck auf die Verbindungen allgemein wurde zu stark, weshalb wir 1936 die Selbstauflösung der Rhenania beschlossen.
Der 2. Weltkrieg ging auch an uns nicht spurlos vorbei, zumal ja die meisten Mitglieder noch recht jung waren. Trotzdem gelang 1948 die Wiedergründung. Da im südwestdeutschen Raume keine weitere Ingenieurschulverbindung bereit war, das Fechten wieder einzuführen, wurde dies auch bei uns vertagt.
Im Jahre 1964 erwarben wir unser Haus in der Haizingerstraße 11, das 1969 umgebaut und an die Aktivitas übergeben wurde. Es bietet heute 12 Studenten eine preiswerte, uninahe Unterkunft, Arbeitsmittel und -räume zum gemeinsamen Lernen, sowie der Verbindung und ihren Mitgliedern gemütliche Veranstaltungsräume. Seit 1994 ist die Rhenania auch als eine der ersten Verbindungen mit Informationsangeboten auf der "Datenautobahn" präsent.
Einen Wendepunkt in unserer Geschichte gab es Anfang der 70er Jahre. Die staatlichen Ingenieurschulen wurden 1971 zu Fachhochschulen und näherten sich so dem Status von Universitäten an. Viele Dachverbände von Universitätsverbindungen beschlossen, daß auch Fachhochschulstudenten Mitglied werden dürfen. Wir wiederum öffneten uns für Universitätsstudenten und beantragten schließlich 1975 die Zulassung als Universitätsverbindung.
Die besseren Kontakte zu Verbindungen der Universität Karlsruhe ermöglichten es auch, 1970 wieder das akademische Fechten einzuführen.
Als Konsequenz der veränderten Lage wechselten wir 1973 den Dachverband, vom nichtschlagenden Fachhochschulverband BDIC zum pflichtschlagenden Universitätsverband CC (Coburger Convent der Landsmannschaften und Turnerschaften), wo wir bis heute die einzige Verbindung sind, die an einer Fachhochschule gegründet wurde.