Mehr Sicherheit und weniger Energie mit Edge AI

Ein aktuelles Whitepaper der Plattform Lernende Systeme gibt einen Überblick über Stärken und Schwächen von Edge AI.

Foto: Plattform Lernende Systeme

Künstliche Intelligenz (KI) lokal auf dem Smartphone, im Fahrzeug oder Industrieroboter einzusetzen, bietet enorme Chancen für die deutsche Wirtschaft und Gesellschaft. Im Vergleich zu großen KI-Modellen, die zentral auf großen Recheninfrastrukturen betrieben werden, benötigt die sogenannte Edge AI deutlich weniger Energie, schützt die Privatsphäre sowie Daten der Nutzenden und ermöglicht zuverlässige Anwendungen in Echtzeit. Die Plattform Lernende Systeme bescheinigt Deutschland eine gute Ausgangsposition im internationalen Wettbewerb, um das Potenzial der Technologie auszuschöpfen. Allerdings stehen Forschung und Entwicklung vor technischen Herausforderungen sowie Hürden beim Transfer in die Praxis. Ein aktuelles Whitepaper gibt einen Überblick über Stärken und Schwächen von Edge AI und diskutiert Optionen, wie die Technik in die Anwendung gebracht werden kann.

Schnelle Reaktion ist möglich

Mithilfe von Edge AI lässt sich der Gesundheitszustand von Patientinnen und Patienten in Echtzeit überwachen. Fahrerassistenzsysteme können blitzschnell auf Hindernisse reagieren und so die Sicherheit im Straßenverkehr erhöhen. Ziel der Technik ist es, Daten möglichst dort zu verarbeiten und zu analysieren, wo sie entstehen, also nahe am Endgerät. Weil die Daten auf diese Weise nicht über große Distanzen an Rechenzentren übertragen werden müssen, können die KI-Systeme schneller reagieren. Die Daten von Personen oder Unternehmen verbleiben sicher beim Nutzenden. Dies eröffnet vielfältige Einsatzmöglichkeiten überall dort, wo ein Betrieb in Echtzeit wünschenswert ist, und sensible Daten verarbeitet werden, etwa Gesundheitsdaten in der Medizin oder wertvolle Unternehmensdaten. Allerdings bieten Edge AI-Systeme auf vielen Endgeräten unter Umständen mehr Angriffsflächen für Cyberattacken als ein gut geschütztes Rechenzentrum.

Edge AI muss besonders energieeffizient arbeiten

Aktuell dominieren die spektakulären generativen KI-Modelle die öffentliche Diskussion. Sie basieren auf immer größeren zentral verarbeiteten Datenmengen und immer höheren Rechenkapazitäten. Ihre Kosten und ihr Energieverbrauch sind hoch: Ein Bildgenerator benötigt beim Erstellen eines Bildes so viel Energie wie für das Aufladen eines Handyakkus notwendig ist. Edge AI muss mit einer sehr begrenzten Rechenleistung und Speicherkapazität auf dem Endgerät auskommen und daher besonders energieeffizient arbeiten. Die Autorinnen und Autoren des Whitepapers erachten diese Beschränkungen sowohl als Herausforderung für die Entwicklung als auch als Chance, weil sie Treiber für ressourcenschonende KI-Innovationen seien.

Edge AI kann den Datenschutz verbessern. Die Technik ist aber auch mit Herausforderungen für die Cybersicherheit verbunden. Grafik: Plattform Lernende Systeme

Edge AI sei ein technischer Baustein, um Herausforderungen wie den Klimawandel, digitale Souveränität oder die Energieversorgung zu bewältigen, heißt es im Whitepaper. So können Edge AI-basierte Stromzähler zu einer stabilen Versorgung mit erneuerbaren Energien beitragen. Sensoren in Recyclinganlagen können mithilfe der Technik Wertstoffe im Abfall erkennen. Unternehmen ermöglicht Edge AI, unabhängiger von meist außereuropäischen Cloud-Anbietern zu agieren, weil Datenströme an der Quelle verarbeitet werden.

„Nur mit dem Wissen der Anwendung können die Edge AI-Maschinen effizient gestaltet werden.“ Wolfgang Ecker

„Die genannten Vorteile öffnen eine Vielzahl von Potenzialen gerade in deutschen Leitindustrien wie Automobil, Maschinenbau und Medizintechnik. Auch wenn es bereits Erfolge vorzuweisen gibt, so nutzen wir das verfügbare Potenzial aber bei weitem noch nicht aus. Die Gestaltung der Netze, das Trainieren der Netze, die Übersetzung der Netze und die Hardware-Architekturen zur Berechnung der Netze werden weitgehend unabhängig betrachtet. Eine holistische Herangehensweise ist notwendig, um eine leistungsstarke Edge AI-Technik bereitzustellen“, sagt Wolfgang Ecker, Distinguished Engineer bei Infineon Technologies und Mitglied der Arbeitsgruppe Technologische Wegbereiter und Data Science der Plattform Lernende Systeme. „Und ebenso müssen Technik und Anwendungen gemeinsam betrachtet werden. Nur mit dem Wissen der Anwendung können die Edge AI-Maschinen effizient gestaltet werden und im Gegenzug können nur mit dem Wissen der Leistungsfähigkeit der Edge AI-Technik neue Anwendungen entwickelt werden.“

Transfer in die Praxis stärken

Die Kombination aus technischem Wissen, Expertise in den ansässigen Industriezweigen und Erfahrung in der Entwicklung physischer Produkte mache Deutschland und Europa zu einem idealen Standort, um das Potenzial von Edge AI auszuschöpfen, so die Autorinnen und Autoren des Whitepapers. Allerdings lassen sich die Softwarelösungen für eine bestimmte Hardware meist nicht einfach auf ein anderes Endgerät übertragen. Zudem fehlen Expertinnen und Experten für das Hardware-Design. Beides bremst den Einsatz von Edge AI in der Praxis. Die Autorinnen und Autoren empfehlen, Plattformen zu entwickeln, auf denen Basisbausteine für Edge AI bereitgestellt werden, die je nach Bedarf an die verschiedenen Branchen angepasst werden können. Dies setzt eine entsprechende Standardisierung voraus. Auch sollte die Forschung zu ressourcenschonender Datenverarbeitung innerhalb der Grenzen der Endgeräte vorangetrieben werden.