AI Funnel — Edge-KI-Flow in TOML beschreiben.

Build-Phase des AI-Funnel-Deployment-Lifecycles in Cloud Connect. Der Kunden-Container — funnel.toml, Modelle, COCO-Datensatz und Container-Code — wird in eine Registry gepusht, die entweder Munic-gehostet oder kunden-gehostet ist. Von der Registry fließen die Artefakte in den Triage-Trainer, der mehrere Kunden-Funnels zu einem vereinheitlichten Triage-Detektor zusammenführt. Das Ergebnis wird vom NPU-Optimierer verarbeitet, der NPU-only-Operationen und Low-Precision-Inferenz erzwingt. Das optimierte Modell wird vom Hardware-in-the-loop-Validator geprüft, der den Kandidaten auf Referenz-Zielhardware testet und auf Genauigkeit und Latenz prüft. Ein bestandenes Bundle wird signiert und als Deployment-Bundle ausgegeben.

flowchart LR
  CB["Kunden-Container<br/>funnel.toml + Modelle<br/>+ COCO-Datensatz + Container-Code"]
  REG[("Registry<br/>Munic-gehostet oder<br/>kunden-gehostet")]
  TT["Triage-Trainer<br/>mehrere Funnels → ein Triage"]
  OPT["NPU-Optimierer<br/>NPU-only-Ops · Low-Precision-Inferenz"]
  HIL["HW-in-the-loop-Validator<br/>Referenz-Zielhardware<br/>Genauigkeits- + Latenz-Gate"]
  BUNDLE["Signiertes Deployment-Bundle"]
  CB --> REG --> TT --> OPT --> HIL --> BUNDLE
  class TT,OPT,HIL ai-node

Provision-Phase des AI-Funnel-Deployment-Lifecycles auf dem Gerät. Das signierte Bundle wird über denselben OTA-Kanal wie Code-Updates gezogen. Der aus funnel.toml kompilierte DAG wird ausgeliefert und drei Konfigurationen fächern parallel auf: Kamera- und Sensor-Routing, die KI-Laufzeit, die die Modelle in den NPU lädt, und der GPU-ROI-Shader, der Tensor-Format, Letterboxing und ROI-Extraktion konfiguriert. Alle drei konvergieren beim Bereit-Signal — das Gerät ist für das erste Frame gerüstet.

flowchart LR
  PULL["Bundle gezogen<br/>selber OTA-Kanal wie Code"]
  DAG["DAG ausgeliefert<br/>aus funnel.toml kompiliert"]
  CFG_CAM["Kamera- / Sensor-<br/>Routing konfiguriert"]
  CFG_NPU["KI-Laufzeit<br/>Modelle in NPU geladen"]
  CFG_GPU["GPU-ROI-Shader<br/>Tensor-Format · Letterbox · ROI"]
  READY["Bereit · erstes Frame"]
  PULL --> DAG
  DAG --> CFG_CAM --> READY
  DAG --> CFG_NPU --> READY
  DAG --> CFG_GPU --> READY
  class CFG_NPU ai-node

Run-Phase des AI-Funnel-Deployment-Lifecycles, pro Frame auf dem Gerät. Die Kamera oder der Sensor erzeugt einen gemeinsamen GPU-Frame. Die GPU erzeugt einen Triage-Tensor. Das NPU-Triage-Modell gibt Labels und Bounding Boxes an den AI-Funnel-DAG-Router aus. Der Router leitet pro Erkennung weiter: die GPU schneidet die Region of Interest mit Letterboxing und Normalisierung neu zu, der NPU führt das nachgelagerte Modell aus und gibt Labels und Konfidenz zurück. Der Router schleift entweder zurück zum Verketten des nächsten DAG-Stadiums oder verlässt den DAG zum Kunden-Container — Tracking, Karte, Cloud-Nachricht oder CAN.

flowchart LR
  SRC["Kamera / Sensor<br/>gemeinsamer GPU-Frame"]
  GPU1["GPU<br/>Triage-Tensor"]
  NPU1["NPU-Triage<br/>Labels + BBoxen"]
  AIF["AI-Funnel<br/>DAG-Router"]
  GPU2["GPU<br/>Pro-Erkennung ROI<br/>Letterbox · Normalisieren"]
  NPU2["NPU-Modell<br/>Labels + Konfidenz"]
  SINK["Kunden-Container<br/>Tracking · Karte · Cloud-Nachricht · CAN"]
  SRC --> GPU1 --> NPU1 --> AIF
  AIF --> GPU2 --> NPU2 --> AIF
  AIF --> SINK
  class NPU1,NPU2 ai-node