2.7.2.3.6. Erfolg prüfen

Prüfen Sie in dieser Reihenfolge: Startmeldung im Log, Antwort des Health-Endpunkts, Containerzustand „healthy“.

docker logs mesh-clustering | head -20
curl -k https://localhost:<aussen>/clustering/health
docker inspect --format='{{.State.Health.Status}}' mesh-clustering

Die häufigsten Startprobleme:

  • Zertifikatsmaterial fehlt oder ist falsch benannt → der Dienst antwortet über HTTP statt HTTPS.

  • Freigabe nicht gemountet → Jobs melden, dass die Katalog-CSV nicht aufgelöst werden kann.

  • Ein alter Container, auch ein gestoppter, belegt den Namen → entfernen Sie ihn.

  • GPU durch einen anderen Prozess belegt → der Dienst arbeitet auf der CPU weiter, korrekt, aber deutlich langsamer.

  • Eine Anfrage oder ein Preset verlangt names.language_model „gemma3“, das Standard-Image enthält es aber nicht mehr → der Lauf schlägt zur Laufzeit fehl. Die Fehlermeldung ist irreführend („couldn't connect to huggingface.co“); wechseln Sie zu gemma4 oder verwenden Sie ein Opt-in-Image, das gemma3 enthält.

Beim ersten Start eines gemma4-Images gehört zum Smoke-Test auch, den tatsächlichen VRAM-Spitzenwert mit nvidia-smi zu erfassen, solange dieser Wert noch nicht gemessen ist (siehe offener Punkt in Kapitel 4).

Sobald der Dienst läuft, ruft der Application-Server die vier Endpunkte in der in Kapitel 4 genannten Reihenfolge auf – zur Einrichtung siehe Abschnitt 2.2.