Endbenutzer und Endgeräte an der Netzwerk-Edge erzeugen oft riesige Datenmengen, darunter datenschutzrechtlich sensible wie Standortdaten, Gesundheits- oder Aktivitätsaufzeichnungen oder Produktionsinformationen. Werden diese in der Cloud oder auf Edge-Servern analysiert, ist das Risiko groß, dass dabei die Privatsphäre verletzt wird - selbst wenn rechtliche Anforderungen wie die Datenschutz-Grundverordnung (DSGVO) eingehalten werden.
In der Industrie sind Echtzeit-Automatisierung und -Steuerung vor Jahren als weitgehend eigenständige Systeme entwickelt worden. Inzwischen sind sie mit Netzwerken verbunden, über die sensible Daten ausgespäht oder manipuliert werden können. Gegen derartige Angriffe findet sich in der Architektur der Systeme jedoch meist kein adäquater Schutz. Die Sicherheit von Daten und Algorithmen steht deshalb bei Industrieunternehmen ganz oben auf der Prioritätenliste.
Paradigmenwechsel von der Cloud in die Edge
Edge Intelligence (EI), also das eigenständige Lernen auf den Endgeräten selbst, ist eine Möglichkeit für datenschutzfreundliches, verteiltes Trainieren von Daten. Dabei verbleiben die Originaldatensätze in den Geräten bzw. Knoten, in denen sie generiert wurden. Die Parameter des Edge-KI-Modells können trotzdem für mehrere Endgeräte genutzt werden.
Für Edge Intelligence muss die digitale Signalverarbeitung der KI im (I)IoT ((Industrial) Internet of Things) Front End stattfinden. Das bedeutet einen echten Paradigmenwechsel von der rein Cloud-basierten Intelligenz zur intelligenten digitalen Signalverarbeitung vor Ort im Endgerät.
Damit die von verschiedenen Stellen angebotenen EI-Dienste als vertrauenswürdig erkannt werden können, ist ein dezentralisiertes Vertrauensmodell notwendig. Mit Entwürfen von verteilten Sicherheitsmechanismen lassen sich Benutzerauthentifizierung und Zugriffskontrolle, Modell- und Datenintegrität sowie gegenseitige Plattformverifizierung gewährleisten. Ist nicht auszuschließen, dass im Netzwerk gleichzeitig vertrauenswürdige und "böswillige" Edge-Knoten vorhanden sind, sind zudem sichere Routing-Schemata und Vertrauensnetztopologien für die Bereitstellung von EI-Diensten nötig. Für alle Kommunikationsprozesse mit der MCU und dem Speicher braucht es neue Sicherheitsmechanismen mit Trusted Zones und Kryptografie-basierten Algorithmen. Das gilt für den gesamten Prozess von der Programmierung über das Anlernen der Algorithmen bis zum praktischen Betrieb im Feld.
Entscheidende Kriterien für EI-basierte Systeme
Für die Performance EI-basierter Systeme sind mindestens sechs Kriterien ausschlaggebend. Sie haben auch beim Design der Edge-Intelligence-IoT-MCU-Plattform RUTDevKit-STM32L5 von Rutronik die Hauptrolle gespielt:
1. Latenzzeit
Die Latenz bezieht sich auf den Zeitraum, der den Entscheidungs- und Schlussfolgerungsprozess (Inferenzprozess) inklusive Vorverarbeitung, Modellinferenz, Datenübertragung und Nachbearbeitung umfasst. Geht man von einer Latenzzeit von 100 ms für den gesamten Prozess aus, so muss beispielsweise die analoge Sensordatensignalverarbeitung deutlich kürzer ausfallen. Strenge Zeitvorgaben gelten vor allem für mobile Echtzeit-Anwendungen wie Robotik, Predictive Maintenance oder Sensordatenfusion. In diesem Fall sind Sampling-Raten etwa von 100 kHz und deren Signalvorverarbeitung gefordert. Im RUTDevKit-STM32L5 unterstützen schnelle Analog/Digital-Wandler (ADCs) des STM32L05 die geforderten Latenzzeiten.
Darüber hinaus beeinflussen weitere Faktoren die Latenzzeit, etwa die Ressourcen auf den Edge-Geräten sowie die Art und Weise, wie Daten übertragen werden und wie z.B. das neuronale Netzwerk in der Software ausgeführt wird. Im RUTDevKit-STM32L5 tragen die Octo-SPI-Schnittstelle zum PSRAM und die Quad-SPI-Schnittstelle zum NOR-Flash zur Echtzeitfähigkeit des Boards bei. Sie sorgen für den schnellstmöglichen Datentransfer.
2. Genauigkeit
Die Genauigkeit bezieht sich auf das KI-Trainingsmodell und damit auch auf die Ergebnisse des KI-Modells. Sie ergibt sich aus dem Verhältnis der Anzahl an Daten-Samples, die durch Inferenz die richtigen Vorhersagen erhalten, zur Gesamtzahl an Daten-Samples. Zu den Einflussfaktoren gehört die Geschwindigkeit, mit der die Eingabedaten in das KI-Modell eingespeist werden. Zum Beispiel kann es bei einer Videoanalyse-Anwendung aufgrund des hohen Eingabetempos passieren, dass Daten wegen begrenzter Ressourcen des Edge-Geräts übersprungen werden. Das reduziert die Genauigkeit. Ein kameraloses System wie eine Totwinkelerkennung im Auto, die auf gepulster Infrarotsensorik basiert, liefert hingegen ein vielfach schnelleres und genaueres Entscheidungsergebnis. Genau für solche Anwendungen mit dezentraler Intelligenz sind MCU-Plattformen prädestiniert.
Eine kameralose, EI-basierte Gestenauswertung mit sehr kurzen Latenzzeiten ermöglicht beispielsweise die Halios-Familie von Elmos. Halios steht für High Ambient Light Independent Optical System. Die hochempfindlichen Bauteile erkennen Gesten ohne mechanische Elemente und ohne kamerabasierte Systeme. Sie lassen sich ideal mit dem RUTDevKit-STM32L5 kombinieren.
3. Energieverbrauch
Der Berechnungs- und Kommunikationsaufwand bei der Ableitung aus einem KI-Modell verbraucht relativ viel Energie. Wird das KI-Modell in den Endgeräten ausgeführt, ist das problematisch, da diese - im Gegensatz zu Edge-Servern und Cloud-Rechenzentren - meist batteriebetrieben funktionieren. Für eine EI-Anwendung ist Energieeffizienz deshalb ein wichtiges Kriterium. Sie hängt von der Größe bzw. Komplexität des KI-Modells und den Ressourcen auf den Edge-Geräten ab. Ein effizienter Umgang mit Speicherplatz und Kommunikationszeiten sowie eine Low-Power-High-Performance-MCU reduzieren die Energieaufnahme.
4. Datenschutz
(I)IoT-Anwendungen und -Geräte erzeugen auch viele sensible Daten. Deshalb müssen die Privatsphäre und die Datensicherheit in der Nähe der Datenquelle einer EI-Anwendung gewährleistet sein. Hierfür ist entscheidend, wie die Originaldaten verarbeitet werden. Eine "Trust Zone" in der MCU und im Speicher, also ein virtueller Bereich mit Hardware-basierter Zugriffskontrolle, ist deshalb ein Muss. Dabei sind die Verwaltung der geschützten und der unsicheren Bereiche (Trusted und Non-Trusted) sowie die stringente Prozessplanung bei Programmierung und Betrieb mit eingeschränkten Zugriffsrechten entscheidend.
Für einen sicheren Machine-Learning-Prozess mit Quasi-Big-Data verfügt das RUTDevKit-STM32L5 über einen SD-Karten-Sockel. So lässt sich eine SD-Karte mit Verschlüsselung ergänzen, um wertvolle Daten zu schützen.
5. Kommunikation
Vor allem die externe Kommunikation mit anderen EI-Systemen hat großen Einfluss auf die Echtzeitfähigkeit eines Systems. Um die Latenzzeit so gering wie möglich zu halten, muss dieser Kommunikations-Overhead während der Inferenzphase minimiert werden. Das gilt insbesondere für die aufwändige Nutzung der WAN-Bandbreite in die Cloud.
Passend zum RUTDevKit-STM32L5 gibt es ein Anybus-Modul. Es ermöglicht die Kommunikation über alle gängigen Feldbusse und Industrial-Ethernet-Netzwerke und entlastet so die Computing Performance der MCU.
6. Memory
Ein hochpräzises KI-Modell basiert typischerweise auf einer extrem hohen Anzahl von Datensätzen. Für mobile und batteriebetriebene Geräte steht jedoch der sparsame Umgang mit Speicherressourcen im Fokus. Um sowohl Big Data als auch die Inferenzdaten sicher auf diesen Geräten ablegen zu können, gilt es, die Speicherperipherie für die KI-Realisierung zu optimieren.
Im RUTDevKit-STM32L5 bieten 412 kB Flash, 64 Mbit PSRAM und 128 Mbit NOR-Flash on Chip der MCU plus der Option einer SD-Karte im GB-Bereich mit geschütztem Bereich optimale Voraussetzungen für Machine-Learning-Anwendungen.
Fazit
Für viele Anwendungen ist es sinnvoll, KI-Modelle nicht in der Cloud, sondern im Endgerät an der Edge auszuführen. Mit seiner jüngsten Entwicklung, dem RUTDevKit-STM32L5, leistet Rutronik einen entscheidenden Beitrag für sichere, autonome Systeme mit ausreichender Konnektivität. Die Komplettlösung für KI-basierte Applikationen an der Edge, die auf einer MCU-Plattform ausgeführt werden, ermöglicht es Hardware- und Firmware-Entwicklern, innerhalb kürzester Zeit Proof-of-Concepts zu realisieren. Sie steigert die Systemeffizienz und Skalierbarkeit bei kürzerer Entwicklungszeit und niedrigeren Kosten.
Das RUTDevKit-STM32L5 bildet die Basis für eine modulare Tool-Welt. Arduino-kompatible Plug-in-Boards, die jeweils für spezifische Endapplikationen einen praktikablen Lösungsansatz bieten, sind in der Entwicklung.
Edge-Intelligence-IoT-MCU-Plattform - das RUTDevKit-STM32L5
Das RUTDevKit-STM32L5 bietet Hard- und Firmware-Entwicklern eine Komplettlösung für die eigene Entwicklung von KI-basierten Applikationen an der Edge. Die BOM enthält ausschließlich Komponenten aus dem Rutronik-Portfolio. Sie ist unter www.rutronik.com/development-stories/rutdevkit-stm32l5 zu finden und lässt sich einfach für jede Applikation adaptieren. Die Komponenten im Überblick:
Hardware
- STM32L562ZET6Q Ultra-Low-Power-IoT-Controller (110 MHz), ARM Cortex-M33 TrustZone mit 512 kB Flash, on-Chip PSRAM und NOR-Flash verbunden über Octo-SPI, Arduino-Pin-Anschlüsse, Zugang zu Mikrocontroller-IO-Pins, ST-Link USB-Debugger
- APS6408L 64 Mbit Octo-SPI PSRAM
- EN25QH128A 128 Mbit Quad-SPI NOR-Flash
- CAN FD mit TLE9251VLE-Treiber
- USB-C-Stromversorgung mit Schutz-IC TCPP01-M12
- RS-485-Schnittstelle mit ST3485EDBR-Treiber
- Micro-SD-Kartensockel
- Arduino-Interface
- 4-Layer-Design
Software
- CAN-FD-Testmodi-Demo
- RS-485-Modbus-Demo
- Demo zur USB-Stromversorgung
- Dual-Bank-Flash-Bootloader-Demo
- TrustZone-Demo
- Demo zur Erkennung von Manipulationen
Erfahren Sie mehr über das DevKit auf unserer Zielseite.
Bleiben Sie auf dem Laufenden, indem Sie unseren Newsletter abonnieren.