2.7.2.3.1. Plattform wählen

Der Container benötigt eine Linux-Umgebung mit Zugriff auf eine NVIDIA-GPU. Dafür gibt es drei Wege:

Wege zu einer Linux-Umgebung mit GPU-Zugriff

Komponente

Anforderung

Prüfung und Anmerkung

Betriebssystem

Linux für den produktiven Betrieb empfohlen; Windows wird unterstützt

Unter Windows über Docker Desktop oder Docker Engine in WSL – siehe Abschnitt 2.3.

NVIDIA-Treiber

Treiber, der die Karte und ihre VRAM-Größe meldet

nvidia-smi muss Treiberversion und Grafikspeicher ausgeben.

NVIDIA Container Toolkit

erforderlich – reicht die GPU per --gpus all in den Container durch

Test: docker run --rm --gpus all nvidia/cuda:12.8.0-base-ubuntu22.04 nvidia-smi. Läuft der Test nicht, ist jede weitere Einrichtung zwecklos.

Docker

Version 23 oder neuer

docker --version

Mitgliedschaft in der Gruppe docker

Betriebsbenutzer ist Mitglied

docker ps muss ohne sudo funktionieren; Administratorrechte sind nicht nötig.

Freigabe mit den Katalogdaten

auf dem Host gemountet und in den Container durchgereicht

Mount-Ziel muss dem konfigurierten Präfix entsprechen (Voreinstellung /media/windowsshare) und vor dem Containerstart bereitstehen – sonst sieht der Container ein leeres Verzeichnis.

Zertifikats-Mount

nur für den HTTPS-Betrieb

Fehlt das Material, fällt der Dienst still auf HTTP zurück.

exps-Mount (Checkpoint 73)

nur für die Presets visual, din_lite und visual_norm_blend_optin

Modelldatei (1,3 GB) ist nicht im Image enthalten; sechs der neun Presets laufen ohne diesen Mount.

HuggingFace-Token / Modelllizenz

für den Standard-Build nicht erforderlich

Naming-Default gemma4 (Apache 2.0, ungated) ist ohne Token und ohne Lizenz-Zustimmung baubar. Ein HF-Token wird nur für Opt-in-Builds gebraucht, die gemma3 zusätzlich einbacken (Rollback/A-B).

Option

Geeignet für

Zu beachten

Linux-HostProduktivbetrieb – die EmpfehlungAutomatischer Start, stabile Mounts, kein Sonderverhalten nach einem Neustart.
Windows mit Docker DesktopDemo- und EntwicklerrechnerEinfachste Variante, GPU-Unterstützung integriert. Kostenpflichtig ab 250 Mitarbeitern oder 10 Mio. US-Dollar Umsatz – mit dem Kunden klären.
Windows mit Docker Engine in WSLKunden ohne Docker-Desktop-LizenzKostenlos, mehr Handarbeit: Container Toolkit in der Distribution, bei Bedarf systemd aktivieren.