Mit dem rasanten Aufstieg von KI-Anwendungen, angeführt von Modellen wie ChatGPT, ist der Bedarf an Rechenleistung sprunghaft angestiegen.Um den steigenden Rechenanforderungen des KI-Zeitalters gerecht zu werden, hat die H3C Group unter dem Dach der Tsinghua Unigroup kürzlich auf dem NAVIGATE Leader Summit 2023 11 neue Produkte der Serien H3C UniServer G6 und HPE Gen11 vorgestellt.Diese neuen Serverprodukte erstellen eine umfassende Matrix für KI in verschiedenen Szenarien, bieten eine leistungsstarke zugrunde liegende Plattform für die Verarbeitung großer Datenmengen und Modellalgorithmen und stellen eine ausreichende Versorgung mit KI-Rechenressourcen sicher.
Vielfältige Produktmatrix zur Erfüllung unterschiedlicher KI-Computing-Anforderungen
Als führendes Unternehmen im Bereich Intelligent Computing engagiert sich die H3C Group seit vielen Jahren intensiv im Bereich KI.Im Jahr 2022 erzielte H3C die höchste Wachstumsrate auf dem chinesischen Markt für beschleunigtes Computing und erreichte insgesamt 132 weltweite Spitzenplätze im international renommierten KI-Benchmark MLPerf, was seine starke technische Expertise und Fähigkeiten unter Beweis stellt.
H3C nutzt eine fortschrittliche Computerarchitektur und intelligente Rechenleistungsverwaltungsfunktionen, die auf der Grundlage intelligenter Datenverarbeitung basieren, und hat das intelligente Computer-Flaggschiff H3C UniServer R5500 G6 entwickelt, das speziell für das Training großer Modelle entwickelt wurde.Sie haben außerdem den H3C UniServer R5300 G6 vorgestellt, eine Hybrid-Computing-Engine, die für groß angelegte Inferenz-/Trainingsszenarien geeignet ist.Darüber hinaus erfüllen diese Produkte die unterschiedlichen Computeranforderungen in verschiedenen KI-Szenarien und bieten eine umfassende KI-Computing-Abdeckung.
Intelligentes Computing-Flaggschiff für groß angelegtes Modelltraining
Der H3C UniServer R5500 G6 vereint Stärke, geringen Stromverbrauch und Intelligenz.Im Vergleich zur Vorgängergeneration bietet es die dreifache Rechenleistung und reduziert die Trainingszeit für GPT-4-Trainingsszenarien für groß angelegte Modelle um 70 %.Es ist auf verschiedene KI-Geschäftsszenarien anwendbar, z. B. auf groß angelegte Schulungen, Spracherkennung, Bildklassifizierung und maschinelle Übersetzung.
Stärke: Der R5500 G6 unterstützt bis zu 96 CPU-Kerne und sorgt so für eine Steigerung der Kernleistung um 150 %.Es ist mit dem neuen NVIDIA HGX H800 8-GPU-Modul ausgestattet, das 32 PFLOPS Rechenleistung bietet, was zu einer 9-fachen Verbesserung der KI-Trainingsgeschwindigkeit für große Modelle und einer 30-fachen Verbesserung der KI-Inferenzleistung für große Modelle führt.Darüber hinaus können Benutzer mit der Unterstützung von PCIe 5.0 und 400G-Netzwerken leistungsstärkere KI-Computing-Cluster bereitstellen und so die Einführung und Anwendung von KI in Unternehmen beschleunigen.
Intelligenz: Der R5500 G6 unterstützt zwei Topologiekonfigurationen, passt sich intelligent an verschiedene KI-Anwendungsszenarien an und beschleunigt Deep-Learning- und wissenschaftliche Computeranwendungen, wodurch die GPU-Ressourcennutzung erheblich verbessert wird.Dank der Multi-Instanz-GPU-Funktion des H800-Moduls kann ein einzelner H800 in 7 GPU-Instanzen aufgeteilt werden, mit der Möglichkeit von bis zu 56 GPU-Instanzen, die jeweils über unabhängige Rechen- und Speicherressourcen verfügen.Dadurch wird die Flexibilität der KI-Ressourcen deutlich erhöht.
Geringer CO2-Fußabdruck: Der R5500 G6 unterstützt vollständig die Flüssigkeitskühlung, einschließlich Flüssigkeitskühlung sowohl für die CPU als auch für die GPU.Mit einem PUE (Power Usage Effectiveness) von unter 1,1 ermöglicht es „cooles Computing“ in der Hitze des Rechenschubs.
Erwähnenswert ist, dass der R5500 G6 bei seiner Veröffentlichung im „2023 Power Ranking for Computational Performance“ als einer der „Top 10 Outstanding High-Performance Servers of 2023“ ausgezeichnet wurde.
Hybrid-Computing-Engine für die flexible Anpassung von Trainings- und Inferenzanforderungen
Der H3C UniServer R5300 G6 bietet als KI-Server der nächsten Generation deutliche Verbesserungen bei den CPU- und GPU-Spezifikationen im Vergleich zum Vorgänger.Es zeichnet sich durch herausragende Leistung, intelligente Topologie und integrierte Rechen- und Speicherfunktionen aus und eignet sich daher für Deep-Learning-Modelltraining, Deep-Learning-Inferenz und andere KI-Anwendungsszenarien, wobei es die Trainings- und Inferenz-Computing-Anforderungen flexibel abdeckt.
Hervorragende Leistung: Der R5300 G6 ist mit der neuesten Generation von NVIDIA-GPUs der Enterprise-Klasse kompatibel und bietet eine 4,85-fache Leistungssteigerung im Vergleich zur vorherigen Generation.Es unterstützt verschiedene Arten von KI-Beschleunigungskarten, wie GPUs, DPUs und NPUs, um den heterogenen Rechenleistungsanforderungen der KI in verschiedenen Szenarien gerecht zu werden und so das Zeitalter der Intelligenz voranzutreiben.
Intelligente Topologie: Der R5300 G6 bietet fünf GPU-Topologieeinstellungen, darunter HPC, parallele KI, serielle KI, 4-Karten-Direktzugriff und 8-Karten-Direktzugriff.Diese beispiellose Flexibilität verbessert die Anpassungsfähigkeit an verschiedene Benutzeranwendungsszenarien erheblich, weist Ressourcen intelligent zu und sorgt für einen effizienten Rechenleistungsbetrieb.
Integrierte Datenverarbeitung und Speicherung: Der R5300 G6 bietet flexibel Platz für KI-Beschleunigungskarten und intelligente NICs und kombiniert Trainings- und Inferenzfunktionen.Es unterstützt bis zu 10 GPUs mit doppelter Breite und 24 LFF-Festplattensteckplätze (Large Form Factor), was gleichzeitiges Training und Inferenz auf einem einzigen Server ermöglicht und eine kostengünstige Computer-Engine für Entwicklungs- und Testumgebungen bereitstellt.Mit einer Speicherkapazität von bis zu 400 TB deckt es den Speicherplatzbedarf von KI-Daten vollständig ab.
Mit dem fortschreitenden KI-Boom wird die Rechenleistung ständig verändert und herausgefordert.Die Veröffentlichung der KI-Server der nächsten Generation markiert einen weiteren Meilenstein im Engagement der H3C Group für die Technologie der „inhärenten Intelligenz“ und ihrem kontinuierlichen Streben nach der Weiterentwicklung des intelligenten Computings.
Mit Blick auf die Zukunft, geleitet von der „Cloud-Native Intelligence“-Strategie, hält die H3C Group an dem Konzept des „akribischen Pragmatismus, der die Ära mit Intelligenz ausstattet“ fest.Sie werden weiterhin den fruchtbaren Boden des intelligenten Computings kultivieren, tiefgreifende KI-Anwendungsszenarien erforschen und die Entstehung einer intelligenten Welt mit zukunftsfähiger, anpassungsfähiger Rechenleistung beschleunigen.
Zeitpunkt der Veröffentlichung: 04.07.2023
