Künstliche Intelligenz 12.12.2024, 07:00 Uhr

KI erklärt maschinelles Lernen für Laien

MIT-Forscher haben ein System entwickelt, das komplexe Erklärungen des maschinellen Lernens (ML) in einfach verständliche Erzählungen umwandelt. Mithilfe von fortschrittlichen Sprachmodellen (LLMs) soll das zweiteilige System Nutzenden dabei helfen, die Vorhersagen von KI-Modellen besser nachzuvollziehen und fundierte Entscheidungen zu treffen, wann sie den Ergebnissen vertrauen können.

Eine Hand mit einem Smartphone über dem ein Hologramm schwebt.

KI kann helfen, die Erklärungen von ML verständlich auszudrücken.

Foto: PantherMedia / Jirsak

Die Verbreitung von maschinellem Lernen in verschiedenen Anwendungsbereichen wirft die Frage auf, wie Menschen die oftmals komplexen Vorhersagen dieser Systeme verstehen und einordnen können. Wissenschaftlerinnen und Wissenschaftler haben deshalb Methoden entwickelt, die Nutzenden Einblicke in die Entscheidungsfindung der Modelle gewähren sollen. Allerdings sind die Erklärungen oft sehr technisch und für Laien schwer verständlich. Sie enthalten mitunter Informationen über Hunderte von Merkmalen. Um das zu umgehen, haben Forschende des Massachusetts Institute of Technology (MIT) nun einen neuen Ansatz erprobt: Sie nutzen Technologien der künstlichen Intelligenz (KI), um die komplizierten Erklärungen des maschinellen Lernens in leicht verständliche Sprache zu übersetzen. Ziel ist es, auch Nutzenden ohne Fachwissen Zugang zu den Entscheidungsprozessen der Modelle zu ermöglichen.

Künstliche Intelligenz übersetzt ML-Erklärungen in verständliche Sprache

Das von den MIT-Forschern entwickelte System, genannt EXPLINGO, besteht aus zwei Komponenten. Die erste, NARRATOR genannt, basiert auf einem leistungsstarken Sprachmodell (LLM) und ist in der Lage, Erklärungen des maschinellen Lernens in natürliche Sprache zu „übersetzen“. Dazu wandelt NARRATOR die kryptischen Erläuterungen zunächst in einen zusammenhängenden Absatz um. Durch die Eingabe beispielhafter Erklärungen können die Forschenden den Sprachstil an die Vorlieben der Nutzenden oder die Anforderungen bestimmter Anwendungen anpassen. Die zweite Komponente des Systems, GRADER, nutzt ebenfalls KI, um die Qualität der von NARRATOR erzeugten Erklärungen zu bewerten. Anhand von vier Metriken – Prägnanz, Genauigkeit, Vollständigkeit und Flüssigkeit – gibt GRADER dem Endnutzer Hinweise, inwieweit er den Erklärungen vertrauen kann.

Der Ansatz der MIT-Forschenden konzentriert sich auf eine bekannte Methode, die als SHAP (SHapley Additive exPlanations) bekannt ist. Bei SHAP wird jedem Merkmal, das in die Vorhersage eines Modells einfließt, ein spezifischer Wert zugewiesen. Dieser Wert gibt an, wie stark das jeweilige Merkmal das Gesamtergebnis beeinflusst hat – sei es in positiver oder negativer Richtung. Ein anschauliches Beispiel sind Modelle zur Prognose von Immobilienpreisen: Dabei könnte etwa der Standort einer Immobilie als wichtiges Merkmal identifiziert werden. Die SHAP-Werte werden etwa als Balkendiagramme visualisiert, um die Bedeutung der einzelnen Merkmale zu veranschaulichen. Bei Modellen mit einer Vielzahl von Merkmalen stoßen solche Diagramme aber an ihre Grenzen. Dort setzt die Idee des MIT-Teams an, die SHAP-Erklärungen mithilfe von künstlicher Intelligenz verständlich zu übersetzen.

Präzise Erklärungen durch Kombination von KI-Technologien

Anstatt die Erklärungen komplett von einem großen Sprachmodell generieren zu lassen, wählten die Forschenden einen interessanten Zwischenweg: Sie nutzen das LLM lediglich für den Part, der die Übersetzung in natürliche Sprache erfordert. Dadurch verringert sich das Risiko, dass die künstliche Intelligenz Ungenauigkeiten in die Erklärungen einbringt. NARRATOR generiert die Erläuterungen, GRADER prüft die erzeugten Erzählungen anschließend nicht nur auf ihre sprachliche Qualität, sondern gleicht sie mit den ursprünglichen SHAP-Erklärungen ab. Die Kombination dieser beiden KI-Komponenten gewährleistet hohe Präzision und gute Verständlichkeit.

Stellenangebote im Bereich Softwareentwicklung

Softwareentwicklung Jobs
Netzgesellschaft Potsdam GmbH-Firmenlogo
Projektingenieur (m/w/d) Energietechnik - Umspannwerke/Hochspannungsfreileitung - Netzgesellschaft Potsdam GmbH
Potsdam Zum Job 
Albtal-Verkehrs-Gesellschaft mbH-Firmenlogo
Projektleiter*in Elektrotechnik Verkehrsanlagen (m/w/d) Elektroingenieur*in oder Techniker*in Albtal-Verkehrs-Gesellschaft mbH
Karlsruhe Zum Job 
Die Autobahn GmbH des Bundes Niederlassung Nordbayern-Firmenlogo
Ingenieur Elektrotechnik / Bauingenieur (w/m/d) Ladeinfrastruktur Die Autobahn GmbH des Bundes Niederlassung Nordbayern
Nürnberg Zum Job 
Bayerisches Staatsministerium für Wohnen, Bau und Verkehr-Firmenlogo
Traineeprogramm - Bachelor Fachrichtung Maschinenbau / Energie- und Gebäudetechnik (m/w/d) Bayerisches Staatsministerium für Wohnen, Bau und Verkehr
bayernweit Zum Job 
Bayerisches Staatsministerium für Wohnen, Bau und Verkehr-Firmenlogo
Traineeprogramm - Bachelor Fachrichtung Maschinenbau / Energie- und Gebäudetechnik (m/w/d) Bayerisches Staatsministerium für Wohnen, Bau und Verkehr
Nord-Micro GmbH & Co. OHGa part of Collins Aerospace-Firmenlogo
Projekt- / Produktingenieur (m/w/d) Nord-Micro GmbH & Co. OHGa part of Collins Aerospace
Frankfurt am Main Zum Job 
Fresenius Kabi-Firmenlogo
Instandhalter (m/w/d) Prozesstechnik - API Herstellung Fischöl Fresenius Kabi
Friedberg (Hessen) Zum Job 
B. Braun Melsungen AG-Firmenlogo
Project Manager (w/m/d) Pre-Development B. Braun Melsungen AG
Melsungen Zum Job 
Hamburger Stadtentwässerung AöR ein Unternehmen von HAMBURG WASSER-Firmenlogo
Ingenieur (m/w/d) Elektrotechnik als Projektleiter Hamburger Stadtentwässerung AöR ein Unternehmen von HAMBURG WASSER
Hamburg Zum Job 
THOST Projektmanagement GmbH-Firmenlogo
Wirtschaftsjurist*in / Ingenieur*in (m/w/d) für Contract & Claimsmanagement in Projektender Energiewende THOST Projektmanagement GmbH
Stuttgart, Mannheim Zum Job 
RES Deutschland GmbH-Firmenlogo
Head of Engineering / Leitung technische Planung Wind- & Solarparks (m/w/d) RES Deutschland GmbH
Vörstetten Zum Job 
MEWA Textil-Service SE & Co. Management OHG-Firmenlogo
Projektmanager (m/w/d) PMO Business Transformation MEWA Textil-Service SE & Co. Management OHG
Wiesbaden Zum Job 
MEWA Textil-Service SE & Co. Management OHG-Firmenlogo
Projektingenieur (m/w/d) Elektrotechnik MEWA Textil-Service SE & Co. Management OHG
Wiesbaden Zum Job 
KÜBLER GmbH-Firmenlogo
Techniker / Ingenieur / Fachplaner / TGA (m/w/d) Heizungstechnik und Elektro KÜBLER GmbH
Ludwigshafen Zum Job 
WPW JENA GmbH-Firmenlogo
Projektingenieur Elektroplanung (m/w/d) WPW JENA GmbH
Jena, hybrides Arbeiten Zum Job 
RHEINMETALL AG-Firmenlogo
Verstärkung für unsere technischen Projekte im Bereich Engineering und IT (m/w/d) RHEINMETALL AG
deutschlandweit Zum Job 
fbw | Fernwärmegesellschaft Baden-Württemberg mbH-Firmenlogo
Elektroingenieur (m/w/d) (Ingenieur für Elektrotechnik, Energie- oder Versorgungstechnik o. ä.) fbw | Fernwärmegesellschaft Baden-Württemberg mbH
Stuttgart Zum Job 
Varex Imaging Deutschland AG-Firmenlogo
Elektroniker ( m/w/d) oder Mechatroniker (m/w/d) als Teamleitung im Bereich Messtechnik Varex Imaging Deutschland AG
Eckelmann AG-Firmenlogo
Systemingenieur Echtzeit-Programmierung/-Entwicklung (m/w/d) Eckelmann AG
Wiesbaden Zum Job 
ECKELMANN AG-Firmenlogo
Applikationsingenieur Automatisierungstechnik (m/w/d) Schwerpunkt Walzwerke ECKELMANN AG
Wiesbaden Zum Job 

Bei der Entwicklung von EXPLINGO standen die Forschenden vor einer Herausforderung: Das Sprachmodell musste so angepasst werden, dass es natürlich klingende Erzählungen erstellt, ohne die Inhalte fachlich zu verändern. Je mehr Vorgaben sie zur Steuerung des Erzählstils machten, desto größer war die Gefahr, dass das LLM Fehler in die Erklärungen einbaute. Entsprechend war ein aufwendiges Feintuning vonnöten, um jeden Fehler aufzuspüren und zu beheben. Um das System gründlich zu testen, ließ das Team verschiedene Personen zu neun Datensätzen des maschinellen Lernens eigene Erzählungen verfassen. Anhand dieser Beispiele konnten sie beurteilen, wie gut  NARRATOR unterschiedliche Schreibstile imitieren kann. Zudem setzten sie GRADER ein, um die  Erzählungen nach den definierten Metriken zu bewerten. Die Ergebnisse belegen, dass das System qualitativ hochwertige Erklärungen liefert und verschiedene Stile effektiv nachahmt.

Künstliche Intelligenz als Wegbereiter vertrauenswürdiger ML-Modelle

Die Resultate der Studie zeigen, welches Potenzial in der Kombination verschiedener KI-Technologien steckt. Schon wenige manuell erstellte Beispielerzählungen reichen aus, um die Qualität der generierten Erklärungen zu steigern. Allerdings müssen diese Beispiele mit Bedacht formuliert sein. So kann etwa die Verwendung vergleichender Begriffe dazu führen, dass GRADER eigentlich korrekte Erläuterungen als fehlerhaft einstuft. Aufbauend auf diesen Erkenntnissen wollen die Forschenden des MIT Techniken entwickeln, die dem System einen besseren Umgang mit solchen Vergleichen ermöglichen. Auch eine Erweiterung von EXPLINGO um zusätzliche Funktionen ist denkbar.

Die Möglichkeit, mit einem KI-Modell in einen Dialog über seine Entscheidungen zu treten, birgt großes Potenzial für die praktische Anwendung. Wenn Menschen die Vorhersage eines Systems anzweifeln, könnten sie durch gezielte Nachfragen schnell herausfinden, ob ihre eigene Intuition oder die des Modells zutreffend ist und worauf die Diskrepanz beruht. „Das würde bei der Entscheidungsfindung in vielerlei Hinsicht helfen“, sagt Alexandra Zytek, Hauptautorin der Studie. Die Doktorandin im Fachbereich Elektrotechnik und Informatik des MIT sieht in der Forschung einen ersten Schritt, um Nutzern ein besseres Verständnis der Funktionsweise von KI-Systemen zu vermitteln. Wenn Menschen dank leichter nachvollziehen können, wie Modelle zu ihren Prognosen gelangen, kann das dazu beitragen, Vertrauen in diese Technologie zu schaffen.

Ein Beitrag von:

  • Julia Klinkusch

    Julia Klinkusch ist seit 2008 selbstständige Journalistin und hat sich auf Wissenschafts- und Gesundheitsthemen spezialisiert. Seit 2010 gehört sie zum Team von Content Qualitäten. Ihre Themen: Klima, KI, Technik, Umwelt, Medizin/Medizintechnik.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.