Die Entwicklung intelligenter Edge-KI-Lösungen erfordert mehr als nur präzise KI-Modelle oder leistungsfähige Hardware. Im Fokus steht die Agilität des gesamten KI-Lebenszyklus: Wie schnell lassen sich Modelle entwickeln und bereitstellen und wie flexibel sind sie in Bezug auf Hardware- und Softwareänderungen?
Moderne Edge-Lösungen müssen komplexe Aufgaben wie Bild- und Spracherkennung oder Anomalie-Detektion in Echtzeit und unter strengen Ressourcen- und Energieauflagen bewältigen können. Dafür ist eine Plattformarchitektur erforderlich, die sich nahtlos in verschiedenste Anwendungsfelder integrieren lässt und das von der Industrie bis hin zum Smart Retail.
Entwicklungsplattform mit Weitblick
Edge-Anwendungen stellen je nach Einsatzbereich ganz unterschiedliche Anforderungen an Rechenleistung, Schnittstellen, Grafik und KI-Fähigkeiten. Die Genio-Plattform von MediaTek bewältigt diese Herausforderungen durch einen einheitlichen Ansatz, bei dem speziell für den Einsatz in Edge-KI-Anwendungen entwickelte SoCs (System-on-a-Chip) mit dem Neuropilot SDK (Software Development Kit) kombiniert werden. Das Neuropilot SDK unterstützt zahlreiche Schnittstellen, u. a. zu den TAO-KI-Modellen von Nvidia. Dadurch erhalten Anwenderinnen und Anwender eine konsistente SDK- und Board-Unterstützung über die gesamte Produktpalette hinweg.
Tabelle 1 zeigt die aktuell verfügbaren Derivate, die sich speziell für anspruchsvolle Edge-KI-Anwendungen eignen. Diese reichen von energieeffizienten Einstiegsvarianten bis hin zu leistungsstarken Varianten für Vision-, HMI- (Human-Machine-Interface) oder generative KI-Anwendungen.
Die Plattformen bieten nicht nur eine große Leistungsvielfalt, sondern setzen auch bei Funktionsumfang und Zukunftssicherheit Maßstäbe:
- Arm Cortex-A5 / A7 Multicore-Architekturen für eine effiziente Verarbeitung,
- 10 Jahre Produktunterstützung für Investitionssicherheit,
- 6-nm-Fertigungstechnologie,
- dedizierte APU (Accelerated Processing Unit) für Echtzeit-KI,
- Sicherheitsfunktionen auf SoC-Ebene,
- und ein einheitliches SDK für schnelle Entwicklung.
KI-Modelle schneller zur Marktreife bringen
Für die schnelle Evaluierung stehen auf alle Plattformvarianten abgestimmte, vollständig ausgestattete Kits mit Touchdisplay, Kamera, WLAN und GPIO bereit. Sie ermöglichen direkte Tests mit Video-, HMI- oder KI-Anwendungen und bieten zahlreiche Schnittstellen (u. a. MIPI-DSI, MIPI-CSI, LVDS, HDMI sowie GbE, PCIe, USB und CAN-FD).
Darüber hinaus sind SBC-Lösungen in unterschiedlichen Formfaktoren verfügbar, etwa als SMARC-, OSM- oder andere SOM-Formate, und ermöglichen eine schnelle Integration in eigene Systeme. Die Partnerlösungen decken verschiedene Größen, Temperaturbereiche und Betriebssysteme (Yocto Linux, Android, Ubuntu) ab. Sie ermöglichen die direkte Umsetzung von Edge-KI-Projekten, was insbesondere für Prototypen oder Geräteserien in kleineren und mittleren Stückzahlen interessant ist.
Die MediaTek Genio-Plattform vereinfacht die Entwicklung von Edge-KI-Anwendungen durch einen umfassenden Technologie-Stack:
- Nvidia TAO-Integration: Zugriff auf über 100 vortrainierte Modelle für Bild- und Spracherkennung. Diese können ohne erneutes Training direkt für verschiedene Vision-AI-Anwendungsfälle angepasst und eingesetzt werden.
Das MediaTek NeuroPilot SDK ist ein leistungsstarkes KI-Framework, das die effiziente Ausführung von KI-Modellen auf MediaTek NPUs ermöglicht.
Es bietet:
1. Nahtlose Modellkonvertierung konvertiert ONNX-Modelle in TFLite für optimierte Inferenz.2. Hardwarebeschleunigung nutzt MediaTeks MDLA (Deep-Learning-Accelerator) für eine leistungsstarke KI-Verarbeitung.
3. Breite Kompatibilität unterstützt mehrere KI-Frameworks, darunter ONNX Runtime und PyTorch.
- Plattformübergreifendes SDK beschleunigt die Entwicklung und Wartung über die gesamte Genio-Familie hinweg. Einmal entwickelte Lösungen sind flexibel auf weitere Produkte übertragbar, was Zeit und Kosten spart.
Durch diese Kombination werden die Entwicklung, Portierung und Skalierung von KI-Modellen deutlich vereinfacht und beschleunigt.
Vom Training im Wohnzimmer bis zur Fertigungslinie
Die KI-fähige Edge-Plattform von MediaTek wird bereits in den Bereichen Smart Retail, Industrie, Gesundheitswesen und Logistik eingesetzt. In jedem Fall können Kunden trainierte KI-Modelle wiederverwenden, sie schnell auf OEM-Boards implementieren und Produktlinien im Laufe der Zeit pflegen – und das bei minimaler Entwicklungsabweichung und maximaler Leistung pro Watt. Ergänzend dazu bietet Rutronik ein breites Partnernetzwerk im Bereich Embedded-KI, darunter Advantech, Adlink, Seco und Via. Diese stellen leistungsfähige Hardwarelösungen in unterschiedlichen Formfaktoren für den direkten Einsatz mit der Plattform bereit.
Zwei reale Anwendungsbeispiele zeigen, wie sich Edge-KI-Projekte, von einfachen Consumer-Produkten bis hin zu industriellen High-End-Systemen, skalieren lassen:
- Das interaktive Boxtraining FightCamp basiert auf dem kompakten Genio 350 SoC und nutzt integrierte Bewegungssensoren und eine Kamera, um Schlagtechniken und Körperhaltung lokal zu erfassen, in Echtzeit zu analysieren und dem Nutzer ohne Cloud-Anbindung sofort zurückzumelden. Der geringe Stromverbrauch, die kompakte Bauform und die ausreichende KI-Leistung (0,35 TOPS) ermöglichen eine tragbare Lösung mit reaktionsschnellem Benutzerfeedback. Dank NeuroPilot SDK können Standardmodelle aus z. B. TensorFlow Lite direkt auf dem Gerät ausgeführt werden.
- In modernen Fertigungslinien kommt der Genio 720 mit bis zu 9 TOPS KI-Rechenleistung und Unterstützung mehrerer hochauflösender Videostreams, darunter bis zu acht virtuelle Full-HD-Kanäle mit 30 fps, zum Einsatz. Die Plattform analysiert Qualitätsmerkmale wie Oberflächendefekte, Labeling oder Maßhaltigkeit direkt am Netzwerkrand. Dabei ermöglichen HDMI-In/Out, Dual-MIPI-CSI, Triple-Display-Support und eine Softwarebasis die Integration in bestehende industrielle IT-Systeme.
Für die Evaluierung steht das vollständig ausgestattete Development Kit Genio 720 (Abbildung 1) zur Verfügung – inklusive Touchdisplay, Kameraanbindung, CAN-FD, M.2-Slots und GPIO-Headern – und bildet damit die ideale Grundlage für KI-basierte Qualitätssicherung in der industriellen Praxis.
Bereit für die Zukunft der KI
Die MediaTek Genio-Plattform ist für kommende KI-Anforderungen am Edge bestens gerüstet. Dank des einheitlichen NeuroPilot SDK, welches Nvidia TAO integriert, lassen sich neue KI-Modelle flexibel, effizient und plattformübergreifend einsetzen. Der modulare Aufbau, die Unterstützung verschiedener Betriebssysteme und die langfristige Produktverfügbarkeit sichern Investitionen und ermöglichen eine schnelle Anpassung an zukünftige Entwicklungen. Damit bietet die Plattform eine zukunftssichere Basis für innovative Edge-KI-Anwendungen.