Q: Welche GPUs haben einen Hardware-Encoder für Video?

Das ist eine häufige Fehlannahme: A100, H100 und H200 haben keinen NVENC-Encoder. Sie besitzen nur Decoder, Transkodierung mit FFmpeg läuft dort über die CPU. Hardware-Encoding beherrschen die RTX 4000 Ada, die RTX PRO 6000 Blackwell und die L4 Ada — diese drei kodieren H.264, HEVC und AV1 in Hardware. Tesla T4 und A10 haben NVENC, aber kein AV1. Wenn Video-Transkodierung Teil Ihres Workloads ist, sprechen Sie uns vorher an, damit die Karte dazu passt.

Question 1

Welche GPU eignet sich für mein KI-Projekt?

Accepted Answer

Das hängt vom Workload ab: Für Inferenz und Rendering empfehlen wir die RTX 4000 Ada (20 GB GDDR6, 130 W, effizient im Vollformat). Für LLM-Training und Multi-GPU-Setups ist die RTX PRO 6000 Blackwell (96 GB GDDR7) die bessere Wahl. Die RTX PRO 6000 Blackwell Server Edition mit 600 W liefern wir auf Anfrage im Supermicro-Chassis. Wir analysieren Ihren Workload kostenlos.

Question 2

Worin unterscheiden sich RTX PRO 6000 Max-Q und Server Edition?

Accepted Answer

Beide Varianten nutzen denselben Blackwell-Chip mit 96 GB GDDR7 und identischer Speicherbandbreite — der Unterschied liegt in Leistungsaufnahme und Kühlung. Die Max-Q arbeitet mit 300 W und eigenem Radiallüfter und läuft in unserem Dell PowerEdge R760xa, in den bis zu vier Karten passen. Die Server Edition zieht 600 W und wird passiv über den Gehäuse-Luftstrom gekühlt, benötigt also ein dafür ausgelegtes Chassis — wir liefern sie auf Anfrage im Supermicro-System mit bis zu acht Karten. In der Spitzenleistung liegt die Max-Q etwa 10 bis 15 Prozent zurück. Bei bandbreitenlimitierter LLM-Inferenz fällt der Unterschied in der Praxis kleiner aus, weil dort der Speicher limitiert und nicht die Rechenwerke.

Question 3

Sind Multi-GPU-Setups möglich?

Accepted Answer

Ja, wir realisieren Multi-GPU-Konfigurationen für anspruchsvolle KI- und ML-Workloads. Die GPUs können über Direct Connect auch mit der INGATE Cloud für hybride Workloads verbunden werden.

Question 4

Welche Software wird vorinstalliert?

Accepted Answer

Auf Wunsch installieren wir CUDA, cuDNN, TensorRT und Container-Runtimes für GPU-Workloads vor. Wir unterstützen alle gängigen ML-Frameworks wie PyTorch, TensorFlow und JAX.

Question 5

Bleiben meine Trainingsdaten in Deutschland?

Accepted Answer

Ja, Ihre Daten und Modelle bleiben auf souveräner deutscher Infrastruktur. Als inhabergeführte deutsche GmbH unterliegen wir keinem US Cloud Act.

Question 6

Welche Betriebssysteme werden unterstützt?

Accepted Answer

Alle gängigen Distributionen: Ubuntu, Debian, CentOS, openSUSE, FreeBSD sowie Windows Server. Darüber hinaus können wir Ihnen jedes beliebige Betriebssystem ohne Mehrkosten vorinstallieren.

Question 7

Ist eine abweichende Hardware-Ausstattung möglich?

Accepted Answer

Ja, wir können Ihnen grundsätzlich jedes beliebige System nach Ihren Vorgaben zusammenstellen — inklusive GPU-Konfiguration, Speicher und Netzwerk. Unser Hardware-Consulting ist inklusive.

Question 8

Was ist Inferenz und wie unterscheidet sie sich vom Training?

Accepted Answer

Inferenz bezeichnet den Einsatz eines bereits trainierten KI-Modells, um Vorhersagen oder Entscheidungen in Echtzeit zu treffen — etwa bei Bildklassifikation, Spracherkennung oder Chatbots. Training hingegen ist der vorgelagerte Prozess, bei dem das Modell anhand großer Datenmengen lernt und seine Parameter optimiert. Training erfordert massive Rechenleistung und wird typischerweise auf GPUs wie der NVIDIA H100 oder A100 durchgeführt, die über Tensor Cores und hohe VRAM-Bandbreite (HBM3) verfügen. Inferenz kann häufig mit effizienteren GPUs wie der NVIDIA L4, T4 oder RTX-Serie betrieben werden, da hier Durchsatz und Energieeffizienz wichtiger sind als rohe Rechenleistung.

Question 9

Worin unterscheiden sich GPUs für Rendering und KI-Workloads?

Accepted Answer

Rendering-GPUs wie die NVIDIA RTX PRO 6000 sind optimiert für Visualisierung, CAD, VFX und Simulation. Ihr Schwerpunkt liegt auf RT Cores (Raytracing) und hohem VRAM für große Szenen. KI-GPUs wie die NVIDIA H100 oder A100 priorisieren hingegen Tensor Cores für Matrix-Operationen und bieten höhere Speicherbandbreite durch HBM3-Technologie — entscheidend für das Training großer Modelle. Manche GPUs wie die NVIDIA L4 oder die RTX-Serie können beide Aufgaben gut bedienen und sind damit ideal für Unternehmen, die sowohl Rendering als auch Inferenz benötigen. INGATE berät Sie individuell, welche GPU-Konfiguration optimal zu Ihrem Workload passt.

Question 10

Welche GPUs haben einen Hardware-Encoder für Video?

Accepted Answer

Das ist eine häufige Fehlannahme: A100, H100 und H200 haben keinen NVENC-Encoder. Sie besitzen nur Decoder, Transkodierung mit FFmpeg läuft dort über die CPU. Hardware-Encoding beherrschen die RTX 4000 Ada, die RTX PRO 6000 Blackwell und die L4 Ada — diese drei kodieren H.264, HEVC und AV1 in Hardware. Tesla T4 und A10 haben NVENC, aber kein AV1. Wenn Video-Transkodierung Teil Ihres Workloads ist, sprechen Sie uns vorher an, damit die Karte dazu passt.

Question 11

Sind Dauerlast-Workloads erlaubt?

Accepted Answer

Ja. Sie mieten dedizierte Hardware, kein Fair-Use-Limit, keine Drosselung, keine Unterbrechung wie bei Spot-Instanzen. Training über Wochen läuft genauso wie dauerhafte Inferenz im Produktivbetrieb. Egress-Gebühren wie bei Hyperscalern gibt es nicht.

Question 12

Was ist im Monatspreis enthalten?

Accepted Answer

Stellplatz im Rechenzentrum, Strom, Kühlung, Netzanbindung mit 1 Gbit/s Full Duplex und 25 TB Transfervolumen sowie Ersatzteilhaltung und Hardwaretausch im Fehlerfall. Sie tragen weder Beschaffungskosten noch Restwertrisiko.

Question 13

Kann ich später auf stärkere Hardware wechseln?

Accepted Answer

Ja, jederzeit während der Laufzeit, soweit es technisch machbar ist. Zusätzliche Karten oder mehr Arbeitsspeicher lassen sich meist im laufenden Betrieb nachrüsten. Ein Wechsel auf ein anderes Servermodell wird parallel aufgebaut, sodass Sie ohne Zeitdruck migrieren können.

Question 14

Wie lange dauert die Bereitstellung?

Accepted Answer

In der Regel fünf bis zehn Werktage nach Auftragseingang. Diese Angabe ist bewusst unverbindlich, weil die Liefersituation bei GPUs schwankt — einen belastbaren Termin nennen wir Ihnen mit der Auftragsbestätigung. Karten, die wir vorrätig haben, gehen deutlich schneller. Bei Modellen mit längerer Beschaffung, etwa der H200 NVL, sollten Sie mehrere Wochen einplanen.

Question 15

Verfügen die Karten über NVLink?

Accepted Answer

Das hängt vom Modell ab und wird bei Multi-GPU-Setups oft übersehen. Die RTX PRO 6000 Blackwell hat kein NVLink, die Karten kommunizieren über PCIe Gen 5. Für Inferenz und Fine-Tuning, bei denen jede Karte ihr eigenes Modell hält, ist das unproblematisch. Wenn Sie ein Modell über mehrere Karten verteilen und dabei hohe Bandbreite zwischen den GPUs brauchen, ist die H200 NVL die richtige Wahl, dort verbindet eine Vier-Wege-Bridge die Karten direkt.

Question 16

Wie viel Arbeitsspeicher braucht ein GPU-Server?

Accepted Answer

Als Faustregel sollte der Hauptspeicher mindestens dem summierten Grafikspeicher entsprechen. Ein Host mit zwei Karten zu je 96 GB sollte also nicht mit 128 GB RAM laufen — beim Laden, Quantisieren oder Konvertieren von Modellen liegen die Gewichte zwischenzeitlich im Hauptspeicher, und dann wird er zum Engpass. Für reine Inferenz mit Modellen, die dauerhaft im VRAM liegen, kommen Sie auch mit weniger aus. Wir sagen Ihnen offen, wenn eine Sparmaßnahme an dieser Stelle technisch keinen Sinn ergibt.

Question 17

Bieten Sie die B200 oder B300 als PCIe-Karte an?

Accepted Answer

Nein, und das liegt nicht an uns: NVIDIA hat mit Blackwell das PCIe-Kartenformat für die großen Rechenzentrums-GPUs aufgegeben. B200 und B300 gibt es ausschließlich als SXM-Module, die fest auf einem HGX-Board mit acht GPUs sitzen. Eine einzelne Karte lässt sich daraus nicht herauslösen. Wenn Sie diese Leistungsklasse brauchen, realisieren wir das auf einer HGX-Plattform mit acht GPUs pro Server. Als PCIe-Karte ist die RTX PRO 6000 Blackwell die stärkste Option.

Question 18

Sind Ihre Mitarbeiter zur Verschwiegenheit verpflichtet?

Accepted Answer

Ja. Alle Mitarbeiter mit potenziellem Zugang zu Kundensystemen sind ausdrücklich zur Verschwiegenheit verpflichtet und über die strafrechtlichen Folgen belehrt, ebenso eingesetzte Subunternehmer. Bei einem dedizierten Server kommt hinzu, dass wir auf das laufende System technisch gar nicht zugreifen: physisch exklusive Hardware ohne Virtualisierungsschicht, den privilegierten Zugang haben ausschließlich Sie.

Question 19

Wir unterliegen dem Berufsgeheimnis — bieten Sie eine Vereinbarung nach § 43e BRAO und § 203 StGB?

Accepted Answer

Ja, und wir unterzeichnen sie standardmäßig. Die Vereinbarung orientiert sich am Bitkom-Muster und enthält die zeitlich unbegrenzte Verpflichtung zum Stillschweigen, die Belehrung über die Strafbarkeit nach § 203 Abs. 4 StGB und die Verpflichtung aller von uns herangezogenen Personen. Sie ist Standard-Anhang zum Auftragsverarbeitungsvertrag und wird vor der Bereitstellung unterzeichnet.

Modell	GPU-RAM	Tensor TFLOPS	Tensor Cores	Einsatzgebiet
NVIDIA H100 NVL	94 GB HBM3	~3.958	640 (FP8)	LLM-Training, HPC
NVIDIA RTX PRO 6000 Blackwell	96 GB GDDR7	~3.511	680 (FP4)	LLM-Training, Multi-GPU
NVIDIA L40s	48 GB GDDR6	~1.466	568 (FP8)	Training, Inferenz, VDI
NVIDIA RTX 6000 Ada	48 GB GDDR6	~1.322	568 (FP8)	Rendering, Training
NVIDIA L4 Ada	24 GB GDDR6	~485	240 (FP8)	Inferenz, Video, VDI
NVIDIA RTX 4000 Ada	20 GB GDDR6	~307	192	Inferenz, Rendering
NVIDIA A2	16 GB GDDR6	~36	128	Inferenz (Einstieg)

GPU Server

Dell R750xa · RTX 4000 Ada

Dell R7615 · RTX PRO 6000 Blackwell

Dell R760xa · RTX PRO 6000 Blackwell

Dell R7725 · H100 NVL & L40S

GPU-Infrastruktur nach Maß

Dell PowerEdge AI Server — Alle Modelle verfügbar

Ihre Vorteile auf einen Blick

Kaufen oder mieten?

GPU-Vergleich

Weitere Leistungen

Persönliche Hardware-Beratung

CUDA-Support & Datensouveränität

Skalierbare GPU-Cluster

Netzwerk & Konnektivität

INGATE Premium Support

Managed Option

Technische Highlights

Redundante Stromversorgung

Hocheffiziente Kühlung

Brandschutz

High-Speed Backbone

Physische Sicherheit

Nachhaltigkeit

Zertifizierte Rechenzentren

Häufig gestellte Fragen

Technologie-Partner & Mitgliedschaften