Die NVIDIA H100 Tensor Core GPU ermöglicht einen bedeutenden Fortschritt für grossangelegte KI und Hochleistungsrechnen (HPC) mit beispielloser Leistung, Skalierbarkeit und Sicherheit für jedes Rechenzentrum. Sie umfasst die NVIDIA AI Enterprise-Software-Suite zur Optimierung der KI-Entwicklung und -Bereitstellung. Die H100 beschleunigt Arbeitslasten auf Exascale mit einem speziellen Transformator-Engine für Sprachmodelle mit Billionen von Parametern. Für kleinere Aufgaben kann die H100 in geeignete Multi-Instance-GPU-Partitionen (MIG) unterteilt werden. Mit Hopper Confidential Computing kann diese skalierbare Rechenleistung sensible Anwendungen in einer gemeinsamen Rechenzentrumsinfrastruktur sichern. Die Integration von NVIDIA AI Enterprise mit H100 PCIe verkürzt die Entwicklungszeit und vereinfacht die Bereitstellung von KI-Arbeitslasten, wodurch die H100 zur leistungsstärksten End-to-End-KI- und HPC-Rechenzentrumsplattform wird.

Die NVIDIA Hopper-Architektur bietet beispiellose Leistung, Skalierbarkeit und Sicherheit für jedes Rechenzentrum. Hopper baut auf vorherigen Generationen auf und führt neue Funktionen für Rechenkerne wie die Transformer-Engine und schnellere Netzwerktechnologien ein, die dem Rechenzentrum einen signifikanten Geschwindigkeitszuwachs gegenüber der vorherigen Generation bieten. NVIDIA NVLink unterstützt ultra-hohe Bandbreite und ultra-niedrige Latenz zwischen zwei H100-Karten sowie Speicher-Pooling und Leistungs-Skalierung (Anwendungsunterstützung erforderlich). Die zweite Generation MIG partitioniert die GPU sicher in isolierte Instanzen der richtigen Grösse, um die Servicequalität (QoS) für siebenmal mehr sichere Mandanten zu maximieren. Die Integration von NVIDIA AI Enterprise (exklusiv für die H100 PCIe), einer Software-Suite, die die Entwicklung und Bereitstellung beschleunigter KI-Workflows optimiert, maximiert die Leistung durch diese architektonischen Innovationen der H100. Diese technologischen Durchbrüche treiben die H100 Tensor Core GPU an, die fortschrittlichste GPU, die je gebaut wurde.