Inhalte aus der realen Welt integriert 01.07.2022, 07:00 Uhr

Maschinelle Lernmodelle werden endlich nutzerfreundlicher

Maschinelle Lernmodelle ermöglichen Fortschritt. Doch wie sieht es mit dem Vertrauen in die Ergebnisse aus? Hier gibt es durchaus noch Potenzial. Forschende beschäftigen sich deshalb damit, solche Modelle nutzerfreundlicher und verständlicher zu gestalten. Das ist einer Gruppe vom MIT nun gelungen.

abstrakte Darstellung künstlicher Intelligenz

Nutzerfreundliche Begriffe machen maschinelle Lernmodelle zu besseren Helfern. Sie werden verständlicher.

Foto: panthermedia.net/monsit

Eine Forschergruppe, bestehend aus Wissenschaftlerinnen und Wissenschaftlern der Elektrotechnik, Informatik, für Informations- und Entscheidungssysteme (LIDS), Expertinnen und Experten für künstliche Intelligenz (KI) und Datenwissenschaften, beschäftigt sich seit einiger Zeit damit, Modelle für maschinelles Lernen besser zu erklären. „Wir haben festgestellt, dass in der realen Welt, obwohl wir modernste Methoden zur Erklärung von Modellen für maschinelles Lernen verwendet haben, immer noch viel Verwirrung aufgrund der Merkmale und nicht des Modells selbst besteht“, sagt Alexandra Zytek, Doktorandin der Elektrotechnik und Informatik am Massachusetts Institute of Technology (MIT). Um das zu verändern, hat sie das Verfahren der Taxonomie in Betracht gezogen. Es dient der Klassifizierung von Objekten, die dann in Kategorien eingeordnet werden. Das Ziel lautet: Die Wissenschaftler wollen Entwicklern und Entwicklerinnen helfen, Funktionen zu erstellen, die es der Zielgruppe leichter machen, Ergebnisse und Zusammenhänge zu verstehen.

Geräte mit KI sind gefragt, doch eine gewisse Skepsis bleibt

Maschinelle Lernmodelle sind in der Lage, Vorhersagen zu treffen. Ein Beispiel: In einem Krankenhaus kommt ein solches Modell auf einer Intensivstation zum Einsatz. Es soll den Ärztinnen und Ärzten dabei helfen, das Risiko für Komplikationen vorherzusagen, die bei Patienten und Patientinnen nach einer Herzoperation entstehen können. Dazu nutzt das Modell zum Beispiel den Trend der Herzfrequenz eines Patienten in einem bestimmten Zeitraum als Merkmal. Ein paar solcher Merkmale wurden dazu als sogenannte aggregierte Werte dargestellt. Aggregierte Daten, auch Makrodaten genannt, fassen eine große Zahl an Einzelbeobachtungen (Mikrodaten) in einem Wert zusammen. Ein solcher aggregierter Wert ist zum Beispiel das Bruttoinlandsprodukt. Die Ärztinnen und Ärzte konnten aber nicht verstehen, wie die Risikovorhersagen auf Basis der Daten zustande kamen. Sie präferierten eher einen Bezug der aggregierten Merkmale zu den ursprünglichen Werten, um so die Abweichungen innerhalb der Herzfrequenz eines Patienten erkennen zu können.

Maschinelle Lernmodelle: Taxonomie als Schlüssel für den Erfolg

Daraus ergab sich für die Forschenden folgendes Bild: Wenn es darum geht, Daten zu interpretieren, passt nicht eine Größe für alle. Es gilt, unterschiedliche Bedürfnisse zu berücksichtigen. Auch die Interpretierbarkeit an sich beinhaltet viele Ebenen. Deshalb war für das Forscher-Team die Taxonomie der Schlüssel zum Erfolg. Es ließen sich auf diese Art und Weise Eigenschaften definieren, die Funktionen für verschiedene Entscheidungsträger mehr oder weniger interpretierbar machen können. Darüber hinaus ließe sich eingrenzen, welche Eigenschaften für die Benutzergruppen wohl am relevantesten seien.

Stellenangebote im Bereich IT/TK-Projektmanagement

IT/TK-Projektmanagement Jobs
WIRTGEN GROUP Branch of John Deere GmbH & Co. KG-Firmenlogo
Project Manager Surveying and Designfor Machine Control (m/w/d) WIRTGEN GROUP Branch of John Deere GmbH & Co. KG
Ludwigshafen am Rhein Zum Job 
Prognost Systems GmbH-Firmenlogo
Technischer Kundenbetreuer / Elektroingenieur (m/w/d) im Customer Support Prognost Systems GmbH
Die Autobahn GmbH des Bundes-Firmenlogo
Ingenieur (w/m/d) C-ITS Entwicklung Die Autobahn GmbH des Bundes
Frankfurt am Main Zum Job 
Hamburger Stadtentwässerung AöR ein Unternehmen von HAMBURG WASSER-Firmenlogo
Ingenieur (m/w/d) Elektrotechnik als Projektleiter Hamburger Stadtentwässerung AöR ein Unternehmen von HAMBURG WASSER
Hamburg Zum Job 
RHEINMETALL AG-Firmenlogo
Verstärkung für unsere technischen Projekte im Bereich Engineering und IT (m/w/d) RHEINMETALL AG
deutschlandweit Zum Job 
IMS Messsysteme GmbH-Firmenlogo
Systemingenieur (m/w/i) für Oberflächeninspektion IMS Messsysteme GmbH
Heiligenhaus Zum Job 
Bisping & Bisping GmbH & Co. KG-Firmenlogo
Projektleiter (m/w/d) Internetkommunikation / Telekommunikation Bisping & Bisping GmbH & Co. KG
Lauf an der Pegnitz Zum Job 
Bisping & Bisping GmbH & Co. KG-Firmenlogo
Projektleiter (m/w/d) Glasfaserausbau Bisping & Bisping GmbH & Co. KG
Lauf an der Pegnitz Zum Job 
MEWA Textil-Service SE & Co. Management OHG-Firmenlogo
Projektmanager (m/w/d) PMO Business Transformation MEWA Textil-Service SE & Co. Management OHG
Wiesbaden Zum Job 
Eckelmann AG-Firmenlogo
Systemingenieur Echtzeit-Programmierung/-Entwicklung (m/w/d) Eckelmann AG
Wiesbaden Zum Job 
Schleifring GmbH-Firmenlogo
Entwicklungsingenieur FPGA / VHDL (m/w/d) Schleifring GmbH
Fürstenfeldbruck Zum Job 
Patent- und Rechtsanwälte Andrejewski, Honke-Firmenlogo
Ingenieur (m/w/d) zur Ausbildung zum deutschen Patentanwalt (m/w/d) und European Patent Attorney Patent- und Rechtsanwälte Andrejewski, Honke
Westfälische Hochschule-Firmenlogo
Professur Smarte Robotik und KI (W2) Westfälische Hochschule
Bocholt Zum Job 
Hochschule Esslingen - University of Applied Sciences-Firmenlogo
Professur (W2) für das Lehrgebiet "Daten und IoT-Systeme" Hochschule Esslingen - University of Applied Sciences
Esslingen am Neckar Zum Job 
Bundesamt für Bauwesen und Raumordnung (BBR)-Firmenlogo
Ingenieurin / Ingenieur (w/m/d) der Elektro- bzw. Informationstechnik für die Erneuerung der Kulturbauten Bundesamt für Bauwesen und Raumordnung (BBR)
Wirtgen GmbH-Firmenlogo
Software-Testingenieur (m/w/d) Testautomatisierung -Steuerungssoftware für mobile Arbeitsmaschinen Wirtgen GmbH
Windhagen Zum Job 
Safran Data Systems GmbH-Firmenlogo
Embedded Software Engineer (m/w/d) Safran Data Systems GmbH
Bergisch Gladbach Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Ingenieur (w/m/d) Informationssicherheit Die Autobahn GmbH des Bundes
Frankfurt Zum Job 
Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA)-Firmenlogo
Doktorandin / Doktorand (w/m/d) im Themenfeld: Künstliche Intelligenz Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA)
Dortmund Zum Job 
Hochschule Bielefeld-Firmenlogo
W2-Professur Software Engineering Hochschule Bielefeld
Gütersloh Zum Job 

Mit ihrem Ansatz hoffen die Forschenden, Entwickler von maschinellen Lernmodellen anzuregen, interpretierbare Funktionen schon von Anfang an in den Entwicklungsprozess einzubinden, statt sie nachträglich einzuarbeiten, um das System verständlicher zu gestalten. Schließlich dienten Funktionen, die von Menschen auf natürliche und verständliche Weise beschrieben würden, der Usability. Und wenn solche Modelle einfacher zu nutzen sind, sorge das auch für das notwendige Vertrauen in die Technik.

Maschinelle Lernmodelle müssen verständlich sein

Damit sich Funktionen in maschinelle Lernmodelle integrieren lassen, müssen Daten zum Beispiel aggregiert oder Werte normalisiert werden. Das erledigen meistens Datenwissenschaftler und -wissenschaftlerinnen. Doch diese Ergebnisse dann auf die eigene Arbeit zu transferieren und daraus Lösungen abzuleiten, ist für Laien nahezu unmöglich. Deshalb stand für das Forschungsteam vor allem eine bessere Interpretation im Mittelpunkt. Genau dabei können menschliche Begriffe helfen, wie die Wissenschaftlerinnen und Wissenschaftler herausfanden. Wenn bei Datenspannen immer die gleiche Anzahl von Jahren enthalten ist, ließe sich das trotzdem nicht unbedingt gut interpretieren. Füge man aber Begriffe wie Säugling, Kleinkind, Kind und Teenager hinzu, ließen sich die Daten auf Basis dessen gruppieren.

Das Ergebnis stimmt das Forscher-Team hoffnungsvoll. „In vielen Bereichen ist der Kompromiss zwischen interpretierbaren Merkmalen und Modellgenauigkeit tatsächlich sehr gering. Als wir beispielsweise mit Mitarbeitenden der Kinderfürsorge zusammengearbeitet haben, trainierten wir das Modell neu, indem wir nur Funktionen verwendeten, die unseren Definitionen für Interpretierbarkeit entsprachen und die Leistungseinbuße war fast vernachlässigbar“, erklärt Alexandra Zytek. Auf Basis dieser Ergebnisse haben die Forschenden ein System entwickelt, mit dem ein Modellentwickler künftig komplexe Merkmaltransformationen effizienter handhaben kann, um nutzerorientierte Erklärungen für maschinell lernende Modelle zu erstellen.

Mehr zum Thema maschinelles Lernen:

Ein Beitrag von:

  • Nina Draese

    Nina Draese hat unter anderem für die dpa gearbeitet, die Presseabteilung von BMW, für die Autozeitung und den MAV-Verlag. Sie ist selbstständige Journalistin und gehört zum Team von Content Qualitäten. Ihre Themen: Automobil, Energie, Klima, KI, Technik, Umwelt.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.