KI ist nicht automatisch ein Hochrisiko

Künstliche Intelligenz gilt als Treiber für die Zukunfts- und Innovationsfähigkeit der Industrie. Bild: Pantermedia/nils.ackermann@gmail.com

Künstliche Intelligenz (KI) ist laut ZVEI (Zentralverband Elektrotechnik- und Elektronikindustrie e. V.) ein wesentlicher Treiber für die Zukunfts- und Innovationsfähigkeit der Unternehmen in Deutschland und Europa. Deshalb unterstützt der Verband die grundlegende Absicht der EU-Kommission, einheitliche Regeln für die Nutzung von KI aufzustellen. „Der heute vorgelegte Regulierungsentwurf ist ein erster Schritt in die richtige Richtung. Er bedarf aber einer weiteren ausdifferenzierteren Betrachtung”, sagt Wolfgang Weber, Vorsitzender der ZVEI-Geschäftsführung. KI-Software, KI-Sicherheitskomponenten und andere Produkte mit sicherheitsrelevanter KI würden nahezu unterschiedslos als “Hochrisiko”-Anwendungsbereiche betrachtet, die hohe Anforderungen zu erfüllen haben. „Diese Überbewertung von möglichen Risiken hemmt Innovationen und trifft insbesondere unsere mittelständischen Unternehmen.“

Maschinen mit KI sind bereits sicher

Die Klassifizierung des Einsatzes von KI in Maschinen als „Hochrisiko-KI“ kritisiert auch der VDMA (Verband Deutscher Maschinen- und Anlagenbau e.V.). Der neueste Vorschlag sei ein klarer Fall von Doppelregulierung und gehe zu weit, meint Prof. Claus Oetter, Geschäftsführer des VDMA Software und Digitalisierung zu dem Gesetzesentwurf der Europäischen Kommission. Aus Sicht der europäischen Maschinen- und Anlagenbauer sei dies eine völlig überzogene Einordnung. „Es existieren bereits umfangreiche Sicherheitsgesetze, nach denen Hersteller zu einer systematischen und umfassenden Sicherheitsanalyse verpflichtet sind. Demnach sind Maschinen mit KI-Technologien ohnehin schon sicher. Es ist absurd, hier den Begriff Hochrisiko zu verwenden“, erklärt Prof. Oetter. „Wir fordern daher, das KI-Gesetz auf die wirklich risikoreichen gesellschaftlichen Auswirkungen zu fokussieren und bereits regulierte Bereiche wie den Maschinenbau auszunehmen.“

Prof. Claus Oetter,VDMA: „Vor allem kleine und mittlere Unternehmen werden sich zukünftig häufiger fragen, ob sie nicht lieber auf Künstliche Intelligenz in ihren Programmcodes verzichten, weil der Verwaltungsaufwand zu groß wird.“ Bild: VDMA/Team Uwe Nölke

Der ZVEI bemängelt weiter, dass der Regulierungsentwurf beim Versuch gescheitert sei, KI zu definieren. Statt Klarheit zu schaffen, verliere er sich in weitgefasster Beliebigkeit. „Schon konventionelle Algorithmen oder statistische Methoden geraten bei der EU-Kommission in den Verdacht, eine risikobehaftete KI zu sein“, kritisiert Weber weiter. „Dies erhöht die Rechtsunsicherheit für Hersteller und Anwender weiter und ist schädlich im globalen Wettbewerb.“ 

Vorschlag muss überarbeitet werden

Der ZVEI sieht, wie es heißt, eine Überarbeitung des Regulierungsvorschlags als notwendig an, um zukunftsweisende Techniken im Bereich von KI zu ermöglichen. „KI verdient eine differenzierte Chancen-Risiko-Betrachtung“, so Weber. „Die vermeintliche Komplexität von KI darf nicht dazu führen, dass wir uns in Europa leichtfertig selbst die Chancen nehmen, die KI für innovative industrielle Anwendungen und Medizinprodukte bereithält.“

Wie der VDMA ausführt, sorgen viele offene Fragen im Gesetzesentwurf für Unsicherheit. Unklar sei etwa, wann der Einsatz von KI-Methoden regulierungsrelevant ist. In der Praxis bedeute dies: Es bleib offen, ob jeder KI-Code in einem Unterprogramm bereits ein „Hoch-Risiko“ darstelle und ob diese Codezeile damit registriert werden müsse, auch wenn sich die Autonomie des Systems nicht ändere.

Die Rechtsunsicherheiten und neue Auflagen gefährden aus Sicht des VDMA wieder einmal die Entwicklung einer Zukunftstechnologie in Europa: „Vor allem kleine und mittlere Unternehmen werden sich zukünftig häufiger fragen, ob sie nicht lieber auf Künstliche Intelligenz in ihren Programmcodes verzichten, weil der Verwaltungsaufwand zu groß wird“, erklärt Oetter. „Innovationsfreundliche Regulierung sieht anders aus.“