Aufrüstung der Internetanbindung der FAU: Highspeed für die FAU und Nordbayern

Durch eine massive Erweiterung der Bandbreite des Datennetzes werden dringend notwendige Kapazitäten zur nachhaltigen Vernetzung der Hochleistungsrechensysteme mit Einrichtungen in ganz Nordbayern und darüber hinaus geschaffen. Das RRZE geht damit den nächsten Schritt in Richtung Etablierung eines IT-Kompetenz- und Innovationszentrums für den nordbayerischen Raum. (BI97, H. Wünsch)

Mit einer Erweiterung im großen Umfang wird das Datennetz der Friedrich-Alexander Universität (FAU) nicht nur für die Herausforderungen der fortschreitenden Digitalisierung der Metropolregion ertüchtigt, sondern gleichzeitig auch als neues „nordbayerisches Wissenschaftsnetz“ positioniert.

So kann das Rechenzentrum im Rahmen des weiteren Aufbaus des Zentrums für Nationales Hochleistungsrechnen Erlangen (NHR@FAU) nun auf einen Hochgeschwindigkeitszugang zurückgreifen, dessen theoretisch nutzbare Gesamtgeschwindigkeit in das bundesdeutsche Forschungsnetz X-WiN und damit auch in das Internet sowohl bei Down- als bei Uploads 100 Gbit/s beträgt.

Illustration des 100-Gbit-Netzes zwischen dem Zentrum für Nationales Hochleistungsrechnen Erlangen, dem Leibnitz-Rechenzentrum und dem DFN

Verglichen mit der durchschnittlichen Verbindungsgeschwindigkeit der Festnetz-Internetanschlüsse in Deutschland, bedeutet dies für die FAU eine um den Faktor 750 höhere Downlink- und sogar um den Faktor 3.000 schnellere Uplinkgeschwindigkeit ins Internet.

Gemessen an der bundesdeutschen Forschungslandschaft, kann das RRZE somit auf eine ähnliche Größenordnung der Internetkonnektivität zurückgreifen, wie sie bisher nur ganz wenigen großen „Tier-1“-Forschungsrechenzentren, wie zum Beispiel dem Leibniz-Rechenzentrum (LRZ) in Garching oder dem Jülich Supercomputing Centre (JSC) zur Verfügung stand − eine elementare Voraussetzung für den regionalen Versorgungsauftrag der künftigen Hochleistungsrecheninfrastruktur des NHR@FAU am RRZE.

Um die Leistungsfähigkeit der neuen Internetanbindung zu testen und letztlich sicherzustellen, dass die Infrastrukturen von FAU, RRZE und DFN derartige Datenströme in der Zukunft sicher und zuverlässig ableiten können, wurden von RRZE und LRZ Anfang Oktober gemeinsam Datentransfertests zwischen Erlangen und Garching durchgeführt.

Im Rahmen dieser Tests wurde deutlich, dass dank der guten Grundqualität des bundesdeutschen Forschungsnetzes X-WiN mit der damit verbundenen sehr geringen Paketlaufzeit (Roundtrip-Latenz) von nur regelmäßig zirka 4 ms zwischen den Standorten Erlangen und Garching bereits ohne „Tuning“ der TCP/IP-Stacks der Endgeräte Übertragungsgeschwindigkeiten von 50 Gbit/s (entsprechend der Vollauslastung eines der beiden Internet-Uplinks) erreicht werden können.

Mit entsprechenden Optimierungen der Endgeräte und unter Zuhilfenahme beider Internet-Uplinks konnte so ohne nennenswerte Abweichung erfolgreich eine Übertragungsrate von bis zu 100 Gbit/s hin zum RRZE demonstriert werden. Einer erfolgreichen Nutzung der Hoch- und Höchstleistungsrechencluster des NHR@FAU durch Einrichtungen der Region und darüber hinaus steht somit zumindest infrastrukturtechnisch nichts mehr im Wege.

Grafik: Test der 100-Gbit-Übertragungsstrecke ins deutsche Forschungsnetz, Datentransfers zwischen RRZE und LRZ
Test der 100-Gbit-Übertragungsstrecke ins deutsche Festnetz, Datentransfers zwischen RRZE und LRZ

Etablierung einer direkten LWL-Verbindung zwischen Erlangen und Nürnberg

Gleichzeitig wurden massive Investitionen in den Ausbau des RRZE-Weitverkehrsdatennetzes unternommen: Um in Zukunft eine 100-Gigabit-Versorgung des Kernnetzes auch innerhalb der Stadtgebiete Nürnbergs und Erlangens und damit der gesamten Metropolregion zu ermöglichen, konnte nach mehrjährigen Verhandlungen mit beteiligten Partnerunternehmen ein wirtschaftliches Angebot bezüglich Anmietung einer direkten optischen Glasfaserverbindung (Dark- Fibre) zwischen den Hauptstandorten Erlangen (RRZE) und Nürnberg (WiSo) eingeholt und nach Klärung der Finanzierung im Jahr 2020 beauftragt werden.

Die Bereitstellung von zwei optischen Fasern innerhalb der über 30 Kilometer langen Trasse von Erlangen über Fürth nach Nürnberg − in Teilen verläuft sie entlang einer Freilufttrasse an Hochspannungsmasten − konnte schließlich im Sommer 2021 durch die beteiligten Partner an das RRZE übergeben werden.

Für den Betrieb dieser Strecke ergaben sich für das RRZE im Vorfeld verschiedene Herausforderungen: So waren bis dato vom Hersteller nur optische Datenübertragungskomponenten (Transceiver) für 100-Gigabit-Ethernet über
Glasfaser bis maximal 20 Kilometer spezifiziert (100GBASE-ER-4), lediglich unter Anwendung bestimmter Vorwärtsfehlerkorrekturverfahren (FEC) auch für Distanzen bis maximal 40 Kilometer. Dies jedoch auch nur dann, wenn speziell dafür ausgewiesene Netzkomponenten der höchsten Leistungsklasse eingesetzt werden würden.

Für längere Distanzen oder – wie im vorliegenden Fall – zusammengeschaltete Streckenabschnitte jeweils unterschiedlicher Betreiber (wodurch sich eine höhere Gesamtdämpfung errechnet als aus der reinen Länge der optischen Faser) existierten noch keine einheitlichen technischen Standards bzw. nutzbare Produkte. Im ungünstigen Fall hätte deshalb für den erfolgreichen Betrieb der Strecke auf dedizierte und sehr kostenintensive optische Wellenlängenmultiplexer (sog. DWDM-Systeme) zurückgegriffen werden müssen.

Glücklicherweise konnte in Zusammenarbeit mit Lieferanten auf neuartige, speziell abgestimmte Ethernet-Transceiver mit kohärenter Lasertechnik zurückgegriffen werden: Der darin implementierte Quasi-Standard für optische Transceiver (100GBASE-ZR-4) existierte bei Drucklegung für die meisten Hersteller wenn überhaupt nur als frühe Implementationen, konnte aber im vorliegenden Kontext erfolgreich zur Beleuchtung und produktiven Inbetriebnahme der neuen High-Speed-Übertragungsstrecke zwischen Erlangen und Nürnberg eingesetzt werden.

Auf diese Weise kann der neue Hochgeschwindigkeitsinternetzugang nun auch vom Hauptknotenpunkt in Nürnberg weiterverteilt werden. Ein glücklicher Umstand, von dem die FAU wie auch die neue TU Nürnberg im Sinne eines nordbayerischen Kompetenzzentrums für die Wissenschaft direkt beiderseitig profitieren können.

Aufbau eines Versorgungsverbunds für die Metropolregion Nordbayern

Dafür, dass neben der FAU auch alle angeschlossenen wissenschaftlichen Einrichtungen im nordbayerischen Raum, inklusive der neu gegründeten TU Nürnberg, von einem hochleistungsfähigen Datennetzzugang direkt profitieren werden, sorgt schließlich ab dem Jahr 2022 ein neuer X-WiNVersorgungsverbund: Dieses ab dem Jahr 2022 im Rahmen des neuen Entgeltmodells des DFN eingeführte Versorgungsmodell ermöglicht es, dass Regionalversorger wie das RRZE in Zukunft direkt mit ihren angeschlossenen Einrichtungen bilaterale Vereinbarungen über die Kapazität ihrer Netzanbindungen schließen können, ohne dass dabei wie bisher vom DFN eine individuelle Bandbreitenlimitierung pro Einrichtung vorgegeben wird.

Grafik: Migration des bisherigen X-WIN-Clusteranschluss mit starren Bandbreitenvorgaben durch den DFN hin zu einem Versorgungsverbund mit gemeinsam nutzbarer Bandbreite
Migration des bisherigen X-WiN-Clusteranschlusses mit starren Bandbreitenvorgaben durch den DFN hin zu einem Versorgungsverbund mit gemeinsam nutzbarer Bandbreite

Die Einrichtungen beziehen in diesem vertraglichen Konstrukt somit vom DFN nur noch die Nutzungsberechtigung für das Forschungsnetz/Internet sowie aller Mehrwertdienste des DFN, während die eigentliche Zugangsbandbreite direkt mit dem RRZE über entsprechende Vereinbarungen geregelt wird.

Dies bedeutet, dass in Zukunft alle angeschlossenen Einrichtungen des Verbundes potentiell direkt vom Hochgeschwindigkeitsanschluss des RRZE ins X-WiN profitieren können, wodurch ein starker Synergieeffekt für alle Teilnehmer des Verbundes erwartet wird.

Mittel- bis langfristig soll das RRZE für den nordbayerischen Raum eine ähnliche Rolle spielen wie das Leibniz-Rechenzentrum (LRZ) im Großraum München. Beide Standorte ergänzen sich im Sinne eines „Leuchtturmprinzips“ dabei gegenseitig im Rahmen der Stärkung der gesamtbayerischen wissenschaftlichen Forschungslandschaft.

Weitere Informationen

Kontakt

Dipl.-Inf. Helmut Wünsch

Leiter Kommunikationssysteme

Regionales Rechenzentrum Erlangen (RRZE)
Abteilung Kommunikationssysteme (RRZE)

Prof. Dr. Gerhard Wellein

Leiter High Performance Computing

Department Informatik (INF)
Professur für Höchstleistungsrechnen