Displaymodul zum Monitoring lokaler KI

Die Aufgabe

Wer KI-Modelle auf eigener Hardware betreibt, hat regelmäßig dieselben Fragen: Läuft der Server gerade? Ist überhaupt ein Modell geladen? Wie viele Anfragen werden parallel bedient? Für eine Antwort jedes Mal ein Dashboard zu öffnen, ist umständlich. Gesucht war eine Anzeige, die man vom Schreibtisch aus mit einem Blick erfassen kann.

Die zentrale Entwurfsentscheidung: Auf der KI-Maschine selbst darf nichts Zusätzliches installiert oder betrieben werden. Kein Agent, kein Exporter, kein serverseitiger Code.

Die Lösung

Entstanden ist ein eigenständiges Displaymodul auf Basis eines ESP32 mit 2,8-Zoll-Bildschirm und WLAN, in der Maker-Szene als „Cheap Yellow Display“ bekannt (Modell ESP32-2432S028R, Materialkosten rund 20 US-Dollar). Das Modul fragt ausschließlich die Statusinformationen ab, die llama.cpp und ComfyUI ohnehin über das Netz bereitstellen. Auf der KI-Maschine bleibt damit alles unverändert.

Überwacht wird eine Lenovo ThinkStation PGX auf Basis der DGX-Spark-Plattform von NVIDIA, mit GB10-Grace-Blackwell-Chip und 128 GB einheitlichem Speicher.

Was das Display zeigt

• Erreichbarkeit der Maschine im Netz, grün oder rot
• Statusanzeigen für llama.cpp und ComfyUI
• Für das Sprachmodell: Kontextfenster, freie Slots und ob der Denkmodus aktiv ist
• Ein Symbol, wenn das geladene Modell Bilder oder Audio verarbeiten kann
• Einen Verlaufsbalken, der minutenweise protokolliert, was gelaufen ist
• Einen Ring, der die Sekunden bis zur nächsten Aktualisierung herunterzählt
• Platz in der oberen Ecke für ein Logo, damit sich das Gerät in eine gebrandete Schreibtischumgebung einfügt

Umsetzung per Agentic Coding

Bildschirmlayouts, Firmware für den ESP32 sowie die Diagnose eines Softwarefehlers und eines Hardwaredefekts entstanden in Zusammenarbeit mit einem KI-Assistenten. Für ein eng umrissenes Werkzeug dieser Art ist tiefe Embedded-Erfahrung damit keine Voraussetzung mehr, wohl aber eine klare Spezifikation und die Bereitschaft zu iterieren.

Ein Detail hat besonders viel Zeit gespart: Kompilieren und Flashen bei jeder Änderung ist langsam. Stattdessen wurde jeder Bildschirm zunächst als Vorschau gerendert und erst nach optischer Freigabe auf die Hardware gebracht. Aus einer trägen Schleife aus Ändern, Kompilieren und Flashen wurde so eine schnelle.

Impressionen

Das fertige Modul im Betrieb, mit Statusanzeigen, Modellname und Verlauf:

Vorab gerenderte Bildschirmvorschau mit Zeitachse und Verlaufsbalken:

Das Modul am Arbeitsplatz (Stimmungsbild, KI-bearbeitet):

Fazit

Für eine kleine lokale KI-Umgebung braucht es keinen schwergewichtigen Observability-Stack. Eine fokussierte, für den Zweck gebaute Anzeige auf dem Schreibtisch liefert genau die Informationen, auf die es ankommt, mit einem Blick und zum Preis eines Mittagessens.

Eingesetzte Technik

• Hardware: ESP32-2432S028R („Cheap Yellow Display“) mit 2,8-Zoll-Touchscreen, WLAN, microSD
• Überwachtes System: Lenovo ThinkStation PGX auf NVIDIA-DGX-Spark-Plattform
• Angebundene Dienste: llama.cpp, ComfyUI
• Firmware für den ESP32, Entwicklung per Agentic Coding

Hinweis: Die Abbildungen enthalten teilweise KI-generierte oder KI-bearbeitete Bildelemente.