mini|MareNostrum MareNostrum (, eine römische Bezeichnung des Mittelmeeres) ist der Name für mehrere Generationen von Supercomputern an der Universitat Politècnica de Catalunya in Barcelona. Betrieben wird die Einrichtung vom Barcelona Supercomputer Centre BSC, die auch noch andere Datenverarbeitungssysteme betreibt. Der Supercomputer ist für Forschung in den Bereichen Biowissenschaften, Meteorologie, und Umweltwissenschaften vorgesehen und für kommerzielle Anwendungen in den Bereichen Pharmazeutik, Automobil und Aeronautik. Die komplette Technikinstallation wurde anfangs in die ehemalige Kapelle Torre Girona eingebaut und von 5 m hohen Glaswänden umgeben. Der Supercomputer wurde seit der ersten Inbetriebnahme 2004 mehrfach durch aktuellere Technik ersetzt. MareNostrum seinerseits ist ein Teil von insgesamt 16 Supercomputern, die an verschiedenen spanischen Universitäten und Forschungseinrichtungen unter dem Namen Red Española de Supercomputación (RES) vernetzt sind. Die fünfte Generation, MareNostrum 5, ist ein Teil des EuroHPC. MareNostrum 5 konnte nicht mehr komplett in der ehemaligen Kapelle untergebracht werden und erforderte einen Neubau.
Aufgaben MareNostrum erfüllt vielfältige Aufgaben in Wissenschaft, Forschung und Lehre. Die Arbeitsbereiche umfassen Big Data, Bioinformatik, Biomechanik, Klimatologie, Cloud Computing, Kognitionswissenschaft, Rechnerarchitektur und Codedesign, verteilte Systeme, Schulung, technische Simulationen, Fusionsenergie, Genomforschung, Geophysik, Softwareentwicklung für Supercomputer, Materialwissenschaft, Molekulare Modellierung, Operations Infrastruktur, Leistungsanalyse, Programmierungsmodelle, soziale Simulationen, rechnergestützte Erdwissenschaften, extreme mathematische Probleme und Algorithmen, Quanteninformation. Ein Teil der Aufgaben besteht im Testen der jeweils nächsten Generation von Supercomputern und Vorabentwicklung der entsprechenden Softwareprodukte.
MareNostrum 1 Bei Inbetriebnahme im November 2004 erreichte MareNostrum 1 eine Dauerrechenleistung von 20 Teraflops bei Nutzung von 3.564 PPC 970, 2,2 GHz Prozessoren und kam damit im November 2004 auf Platz 4 der TOP500. Am 13. April 2005 wurde der Rechner zum ersten Mal mit 4.800 PPC 970, 2,2 GHz Prozessoren und Myrinet mit seiner vollen Leistung von 27,9 Teraflops hochgefahren. In dieser neuen Konfiguration erreichte er mit insgesamt 4.812 Prozessoren Platz fünf der Ausgabe Juni 2005 der Vergleichsliste.
MareNostrum 2 Nach einer Umrüstung im Jahr 2006 auf PPC 970, 2,3 GHz Prozessoren und Myrinet verfügte MareNostrum 2 über 10.240 Kerne und 20 TB RAM und erreichte damit mit 62,6 Teraflops. Das System hatte ungefähr 300 TB Plattenspeicher. Das reichte im November 2006 für den fünften Platz in der Liste. 2008 kam es mit einer Leistung von 63,8 TFLOPS als Spaniens schnellstes System weltweit auf den 41. Platz. Im Juni 2012 belegte es noch Platz 465. Als das System abgebaut wurde, wurden die verbleibenden Teile zu kleineren Clustern mit 256 und 512 Rechenknoten aufgeteilt, die in verschiedenen spanischen Universitäten und Instituten weiterbetrieben wurden.
MareNostrum 3 mini|MareNostrum 3 Für den Betrieb von MareNostrum 3 wurden umfangreiche Bauarbeiten zur Verstärkung der Stromversorgung und des Kühlsystems erforderlich.
In der Zeit zwischen 2011 und 2013 waren zwei Systeme in Betrieb. Eines war Bullx B505, ein System aus 5.544 Xeon E5649 6C 2,53 GHz Prozessoren, InfiniBand QDR, NVIDIA 2090 Prozessoren und 3024 GB Speicher. Dieses System schaffte 103,2 Teraflops und wurde bis 2013 betrieben.
MareNostrum 3 ging zwischen 2012 und 2013 in Betrieb und verwendete anfänglich 33.664 DX360M4, Xeon E5-2670 8-Core, 2.600GHz Prozessoren und InfiniBand FDR zur Verbindung. Die Leistung war damit 636,9 Teraflops. Der Computer verfügte ab 2013 über 48.896 Intel Sandy Bridge Prozessoren in 3.056 Knoten, dazu 84 Xeon Phi 5110P in 42 Knoten, mit mehr als 115 TB Hauptspeicher und 2 PB an GPFS Diskspeicher. Insgesamt erreichte er damit 925,1 Teraflop und 1,1 Petaflop peak. Im Top500 Ranking erreichte das System im Juni 2013 den Platz 29. MareNostrum 3 war als erster Rechner in den Petaflop-Bereich vorgestoßen.
MareNostrum 4 mini|MareNostrum 4 MareNostrum 3 wurde ab Mitte 2017 durch MareNostrum 4 ersetzt, der das alte System ungefähr um den Faktor 10 bis 12 übertraf. Er verfügte anfänglich über 11,1 Petaflops Peak Rechenkapazität und erreichte mit dem zusätzlichen Cluster aus IBM Power9 und Nvidia Volta Prozessoren 13,7 Petaflops. Gemäß dem Top500 Ranking vom 19. Juni 2017 war es der drittstärkste Cluster in Europa und der dreizehnte weltweit. MareNostrum 4 war verbunden mit den Big Data Einrichtungen des Barcelona Supercomputer Centre BSC, die eine Speicherkapazität von 24,6 Petabytes hatten. Die RedIris- und GÉANT-Netzwerke stellen den Verbund mit den europäischen Universitäten her.
Bemerkenswert war die heterogene Architektur. Es gab den allgemeinen Block, der die Hauptrechenarbeit übernimmt und einen zusätzlichen Block zur Erforschung neu entwickelter Technologien. Fünf Speichereinheiten (Elastic Storage) verwalteten 14 Petabytes an Daten, ein Intel-Omni-Path-Hochgeschwindigkeitsnetzwerk und ein Ethernet verband die Komponenten.
General-purpose Cluster
Der allgemeine Block bestand anfänglich aus 48 Racks mit 3.456 Knoten. Jeder Knoten hatte zwei Intel Xeon Platinum Chips, jeder mit 24 Kernen, somit insgesamt 165.888 Kerne und ein Hauptspeicher von 290 Terabytes. Obwohl die Leistung um den Faktor 10 wuchs, stieg der Energiebedarf nur um 30 % auf 1,3 MW. Mitte 2018 bestand das System aus 2x Intel Xeon Platinum 8160 24C mit 2,1 GHz, 216 Knoten mit 12x32 GB DDR4-2667 DIMMS (8 GB/Core) und 3.240 Knoten mit 12x8 GB DDR4-2667 DIMMS (2 GB/Core). Als Betriebssystem diente SUSE Linux Enterprise Server 12 SP2.
Emerging Technologies Blocks Der Block mit den neuentwickelten Technologien enthielt Cluster von drei verschiedenen Technologien so wie sie verfügbar waren. Neue Prozessoren und Software konnten damit betrieben, getestet und optimiert werden, noch bevor die nächste Rechnergeneration im vollen Umfang aufgebaut wird. Spezialisierte Chips z. B. Grafikprozessoren konnten entsprechende Aufgaben in besonderem Maß optimieren und beschleunigen. Der Übergang zu künftigen neuen Technologien konnte so fließend geschehen.
Ein Cluster aus IBM POWER9 und Nvidia-Volta-GPUs mit einer Rechenleistung von über 1,5 Petaflops. Der Cluster mit dem Namen CTE - Power bestand aus 52 Knoten. Jeder Knoten bestand aus 2 × IBM Power9 8335-GTG @ 3,00 GHz (2 × 20 Kerne und 4 Threads/Kern, insgesamt 160 Threads pro Knoten), 512 GB Hauptspeicher verteilt auf 16 DIMMs × 32 GB @ 2666 MHz, 2 × SSD 1,9 TB als lokaler Speicher, 2 × 3,2 TB NVME, 4 × GPU NVIDIA V100 (Volta) mit 16 GB High Bandwidth Memory 2, Single Port Mellanox EDR, GPFS über Glasfaser 10 GBit, Betriebssystem Red Hat Enterprise Linux Server 7.4. Der Cluster ging im Mai 2018 in Betrieb und übertraf alleine bereits die Leistungen von MareNostrum 3 um 50 %. Dieser Cluster arbeitete besonders energieeffizient und verschaffte dem System den Platz 9 des Green500. Dieser Cluster enthielt 19.440 Prozessoren und insgesamt 27.648 GB RAM und kam im Juni 2018 auf Platz 255. MareNostrum war damit mit zwei Systemen gleichzeitig in den Top 500 vertreten.
Ein Cluster aus Intel Knights Hill (KNH) Prozessoren mit einer Rechenkapazität von 0,5 Petaflops war ursprünglich vorgesehen. Nachdem Intel die Knight Hill Prozessoren eingestellt hatte, gingen die Planungen in Richtung eines anderen Intel-basierten Systems, womöglich Aurora A21 für das Jahr 2021. Dann entschied man sich für einen Cluster aus AMD Rome Prozessoren und AMD Radeon Instinct MI50 Grafikprozessoren. Das System erreichte 0,52 Petaflops. Ein Cluster aus 64Bit ARMv8 Prozessoren mit einer Rechenkapazität von 0,5 Petaflops.
MinoTauro BSC betreibt noch weitere größere Rechenknoten. Der zweitgrößte Cluster unter dem Namen MinoTauro vereinigte im Jahr 2019 39 Server mit jeweils
2 Intel Xeon E5-2630 v3 8-core Prozessoren, 2,4 GHz 2 K80 NVIDIA-GPU-Karten 128 GB Hauptspeicher 120 GB Solid State Disk als lokaler Speicher 1 PCIe 3.0 x8 8GT/s, Mellanox ConnectX-3FDR 56 Gbit 4 Gigabit-Ethernet-Ports
Insgesamt erreichte das System 250.94 Tflops Peak, davon 226,98 TFlops von den Grafikprozessoren und 23,96 TFlops von den Hauptprozessoren. Als Betriebssystem kam Red Hat Enterprise Server zum Einsatz.
Active Archive Das BSC betreibt ein digitales Archiv. Für die langfristige Speicherung der gesamten Aktivitäten der Supercomputer, einschließlich der bereits abgebauten Systeme, gibt es ein Speichersystem, das den Zugang zu diesen Daten ermöglicht und den Zugang durch die Benutzer regelt und außerdem die Aktivitäten der Benutzer protokolliert.
Anfang 2022 bestand das System aus folgenden Komponenten:
12 GPFS Server (x3550 M4) mit 16 GB RAM 10 Datenspeicher-Blocks 1 DCS3700 Controller + 2 EXP3700 180x NL SASA 3TB 3.5'' 7.2K rpm (60 Platten pro Gehäuse) Kapazität: 540 TB raw 10 Client Server (x3550 M4) with 128 GB RAM
3 Metadata Blocks 1 DS3512 Controller + 6 EXP 3512 77x SAS 600 GB 3.5'' 15K rpm Gesamtspeicher: Daten: 5,45 PB raw (4,1 PB netto) Metadaten: 135 TB raw (67 TB netto)
MareNostrum 5
Verbindung mit EuroHPC Für das European High-Performance Computing Joint Undertaking (EuroHPC JU) sind Cluster an acht verschiedenen Standorten in acht verschiedenen europäischen Mitgliedsstaaten vorgesehen. Das EuroHPC-Programm dient zur Förderung des Hochleistungsrechnens in den kleineren und finanzschwächeren Staaten, die die erforderlichen Mittel sonst nicht aufbringen könnten. Die ausgewählten Standorte sind Sofia (Bulgarien), Ostrava (Tschechien), Kajaani (Finland), Bologna (Italien), Bissen (Luxemburg), Minho (Portugal), Maribor (Slowenien) und Barcelona (Spanien). Am gesamten Projekt sind 19 der 27 EU-Mitglieder beteiligt, außerdem einige Länder, die nicht Teil der EU sind. Das Projekt hat insgesamt ein Budget von ungefähr 840 Millionen €. Es soll drei Vorläufer-Maschinen (Pre-Exa Scale) mit mehr als 150 Petaflops geben, die später durch 5 Einheiten im Exa-Maßstab und fünf Maschinen mit 4 Petaflops ergänzt werden. Die Vorläufer-Maschinen sollen ungefähr die vierfach größere Rechenleistung erbringen, als die gegenwärtigen Systeme der Partnership for Advanced Computing in Europe (PRACE). Ein Ziel ist auch die Entwicklung und Integration einer europäischen Prozessortechnologie, die die Abhängigkeit von außereuropäischer Technologie beseitigen soll.
Barcelona ist somit als Standort für einen der Vorläufer-Computer der europäischen Supercomputer vorgesehen, die im Rahmen von EuroHPC gefördert werden. Dieser Computer sollte über 200 Petaflops Peak Rechenkapazität erreichen und am 31. Dezember 2020 in Betrieb gehen. MareNostrum 5 soll ein Budget von 223 Millionen Euro haben, dieses schließt den Kauf, die Installation und den Betrieb für fünf Jahre ein. Die Hälfte des Budgets für MareNostrum 5 wird von der EU bereitgestellt, die andere Hälfte kommt von den Staaten Spanien, Portugal, Türkei, Kroatien und Irland, die zu diesem Zweck ein Konsortium bilden.
Spezifikationen der Ausschreibung
Bereitstellung und Unterhalt für fünf Jahre Dauerhafte Rechenleistung (sustained Linpack) mehr als 205 PFlop/s Minimum 2,5 PB Hauptspeicher (RAM) Minimum 204 PB Plattenspeicher mit einer Lesegeschwindigkeit von 1.6 Tbytes/s und Schreibgeschwindigkeit von 1.2 Tbytes/s Minimum 400 PB Langzeitspeicher z. B. Bandlaufwerke Maximale Leistungsaufnahme 13 MW bei gemischter Auslastung, inklusive Linpack Angestrebter Start der Installation 3. Quartal 2022, betriebsfähig bis Ende 2022 Die Teile mit Technologie der nächsten Generation haben mehr Spielraum und sollen Ende 2023 in Betrieb gehen. Die Anlage muss ein energiesparendes Design und ein PUE unter 1.08 aufweisen Die Anlage muss für Publikumsverkehr geeignet sein.