Embedded AI

Josef Ressel Zentrum

In diesem JR-Zentrum werden neue Methoden des Nachtrainierens erforscht, die Modelle des maschinellen Lernens (KI-Modelle) direkt auf verteilten ressourcenbegrenzten Geräten (RLDs: resource limited devices) dynamisch adaptieren. Damit sollen sie selbstlernend autonom Entscheidungen treffen können.

KI-Modelle und -Algorithmen sind nur so gut wie die Daten, mit denen sie trainiert wurden: Schließlich passen sie auf Basis dieses „Erfahrungsschatzes“ ihr Vorgehen an und treffen Entscheidungen, die in Hinblick auf die Trainingsdaten sinnvoll erscheinen. Aber derartige Modelle sind immer auch höchst spezialisiert: Wenn beispielsweise ein KI-gesteuerter Industrieroboter mit dem Anbringen von Schrauben betraut ist und genau „weiß“, wie Schrauben aussehen und genutzt werden sollen, kann er nicht einfach von sich aus „umdenken“, wenn er auf einmal stattdessen mit Schraubenmuttern arbeiten muss.

In solchen Fällen von sich immer wieder ändernden System- und Umgebungsparametern spricht man von einem „Konzeptdrift“ oder „Modelldrift“ und müsste gegenwärtig das zugrundeliegende Modell komplett neu trainieren, um etwa besagten Roboter an seine neuen Arbeitsobjekte anzupassen.

Wenn es dabei um ein Netzwerk aus verteilten ressourcenbegrenzten Geräten geht, wie zum Beispiel um ein Netzwerk aus spezialisierten Robotern, ist das aber nicht nur zeit- und kostenintensiv, sondern auch ein besonders komplexes Unterfangen. Typischerweise bedarf ein solches Re-Training nämlich einen ständigen Austausch aller Sensoren mit einem leistungsstarken Cloudsystem, welches das Modell bei Änderung der Daten anpasst bzw. neu trainiert, und anschließend eine neuerliche Verteilung des Modells auf alle beteiligten Geräte durchführt. Noch schwieriger wird es dabei, wenn bestimmte Daten gar nicht an den Server in der Cloud gesendet werden können oder dürfen, etwa aus Datenschutzgründen im Gesundheitsbereich.

Das Team des JR-Zentrums entwirft daher ein methodisches und effizientes Framework, um Modelle in industriellen Anwendungen auf RLDs zu verteilen und selbst noch zur Laufzeit anpassen zu können, anstatt wie derzeit üblich leistungsstarke Serversysteme mit großem Speicher und hohen Rechenkapazitäten für aufwendiges Re-Training nutzen zu müssen. Außerdem soll in Zusammenarbeit mit dem CD-Labor für Embedded Machine Learning (siehe Links) eine Evaluierung von Anpassung und Optimierung verschiedener Modelle hinsichtlich deren Lauffähigkeit auf RLDs durchgeführt werden.

Die Zielsetzung des JR-Zentrums besteht also insgesamt darin, KI-Algorithmen auf eingebetteten Systemen für sich ändernde Umgebungen nachzutrainieren und so die Einsatzmöglichkeiten von KI enorm zu vervielfachen: So wird der Einsatz von KI-Systemen auf verteilten Mikroprozessor- und Mikrocontroller-Systemen mit begrenzten Ressourcen unter Wahrung von Privatsphäre und Echtzeitanforderungen ermöglicht.