Vergleichende Studie 08.04.2024, 10:02 Uhr

Manuelle Transkription schlägt KI – zumindest derzeit noch

Manuelle Transkription ist derzeit noch besser als KI – das ist das Ergebnis einer Studie, die das CISPA Helmholtz-Zentrum durchgeführt hat. Stand der Technik ist allerdings der Dezember 2022, darauf weisen die Forschenden einschränkend hin.

Transkription

Manuelle Transkriptionen sind derzeit noch fehlerfreier als KI, das ist das Ergebnis einer Studie.

Foto: CISPA

Ein Team des Empirical Research Support (ERS) am CISPA Helmholtz-Center for Information Security hat Transkriptionsdienste untersucht. Zum ersten Mal haben sie die bekanntesten Anbieter systematisch verglichen. Im Fokus standen elf manuelle und KI-basierte Dienste. Die Studie zeigt: KI-Dienste liefern gute Qualität, haben aber Probleme bei der Sprecherzuordnung. Zudem treten sinnverzerrende Abweichungen auf. Unter den KI-Anbietern konnte sich Whisper AI von OpenAI als bestes Tool durchsetzen.

Wichtiges Werkzeug in der Forschung

Interviews sind ein wichtiges Werkzeug in der Forschung. Sie werden grundsätzlich in zwei Typen eingeteilt: quantitative und qualitative. Quantitative Interviews nutzen standardisierte Fragebögen, um statistisch auswertbare Daten zu sammeln. Qualitative Interviews dagegen zielen darauf ab, interpretierbare Daten zu gewinnen.

Eine spezielle Methode ist das Leitfadeninterview. Hierbei gibt es zwar einen Fragenkatalog, doch können die Gesprächspartner davon abweichen. „In der Cybersicherheitsforschung kommen diese Interviews zum Einsatz, wenn es um die Erschließung von Handlungs- und Deutungsmustern von Akteuren geht, die digital vermittelt handeln“, sagt Soziologe Dr. Rafael Mrowczynski vom  Team des Empirical Research Support (ERS) am CISPA. Das ERS-Team berät die Forschenden des Zentrums bei Methodenfragen.

Transkription in der Datenanalyse

Die Transkription ist ein zentraler Schritt in der qualitativen Datenanalyse. Die Standardprozedur ist, dass die Audioaufnahmen der Interviews in Text überführt werden. „Wichtig für die Qualität der Daten ist, dass die Transkriptionen adäquat sind“, erklärt Mrowczynski. Unterschiedliche Forschungsbereiche haben ihre eigenen Standards. „In der Cybersicherheitsforschung wird meist mit Transkripten gearbeitet, die präzise den Gesprächsinhalt wiedergeben“, so Mrowczynski weiter. Ein gutes Transkript enthält nur das Wesentliche.

Stellenangebote im Bereich Softwareentwicklung

Softwareentwicklung Jobs
ATLAS TITAN Mitte GmbH-Firmenlogo
Ingenieur Elektrotechnik (m/w/d) Schwerpunkt Automatisierungstechnik ATLAS TITAN Mitte GmbH
Braunschweig Zum Job 
ATLAS TITAN Mitte GmbH-Firmenlogo
Projektleiter Leitungsbau Schutztechnik (m/w/d) ATLAS TITAN Mitte GmbH
Stadtwerke Schneverdingen-Neuenkirchen GmbH-Firmenlogo
Leitender Ingenieur (m/w/d) Netzbau und -betrieb Strom und Breitband Stadtwerke Schneverdingen-Neuenkirchen GmbH
Schneverdingen Zum Job 
SPITZKE SE GVZ Berlin Süd-Firmenlogo
Bauleiter Elektrotechnik (m/w/d) SPITZKE SE GVZ Berlin Süd
Großbeeren Zum Job 
WIRTGEN GmbH-Firmenlogo
System- und Softwarearchitekt (m/w/d) - mobile Arbeitsmaschinen WIRTGEN GmbH
Windhagen (Raum Köln/Bonn) Zum Job 
WIRTGEN GmbH-Firmenlogo
Embedded Anwendungs-Softwareentwickler (m/w/d) - mobile Arbeitsmaschinen WIRTGEN GmbH
Windhagen (Raum Köln/Bonn) Zum Job 
Albtal-Verkehrs-Gesellschaft mbH-Firmenlogo
Projektleiter*in Elektrotechnik, Elektroingenieur*in oder Techniker*in (m/w/d) Albtal-Verkehrs-Gesellschaft mbH
Karlsruhe Zum Job 
WBS Training AG-Firmenlogo
Technische Trainer:in Automatisierungstechnik - CAD/CAM-Programmierung (m/w/d) WBS Training AG
remote (deutschlandweit) Zum Job 
IMS Messsysteme GmbH-Firmenlogo
Projektleiter (m/w/i) für Röntgen-, Isotopen- und optische Messsysteme IMS Messsysteme GmbH
Heiligenhaus Zum Job 
ILF Beratende Ingenieure GmbH-Firmenlogo
Senior Ingenieur Mess-, Steuerungs- und Regelungstechnik (m/w/d) ILF Beratende Ingenieure GmbH
Bremen, Berlin, Hamburg, München, Essen Zum Job 
ILF Beratende Ingenieure GmbH-Firmenlogo
Junior Ingenieur Mess-, Steuerungs- und Regelungstechnik (m/w/d) ILF Beratende Ingenieure GmbH
München Zum Job 
IPH Institut "Prüffeld für elektrische Hochleistungstechnik" GmbH-Firmenlogo
Ingenieur Elektrotechnik (m/w/d) für Transformatoren IPH Institut "Prüffeld für elektrische Hochleistungstechnik" GmbH
ME MOBIL ELEKTRONIK GMBH-Firmenlogo
Support- und Applikationsingenieur (m/w/d) ME MOBIL ELEKTRONIK GMBH
Langenbrettach Zum Job 
FERCHAU GmbH-Firmenlogo
Konstruktiver Elektroingenieur (m/w/d) FERCHAU GmbH
PFISTERER Kontaktsysteme GmbH-Firmenlogo
Technical Support High Voltage Accessories (m/w/d) PFISTERER Kontaktsysteme GmbH
Winterbach Zum Job 
B. Braun Melsungen AG-Firmenlogo
Global Lead (w/m/d) Operational Technology (OT) B. Braun Melsungen AG
Melsungen Zum Job 
WIRTGEN GmbH-Firmenlogo
Duales Studium Software Engineering - Bachelor of Engineering (m/w/d) WIRTGEN GmbH
Windhagen, Remagen Zum Job 
Infraserv GmbH & Co. Höchst KG-Firmenlogo
Ingenieur (w/m/d) Anlagen- & Prozesssicherheit Infraserv GmbH & Co. Höchst KG
Frankfurt am Main Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Lösungsentwickler (w/m/d) im Digitallabor Geoinformatik Die Autobahn GmbH des Bundes
Schluchseewerk AG-Firmenlogo
Ingenieur (m/w/d) Schwerpunkt Konformität Schluchseewerk AG
Laufenburg Zum Job 

Forschende können Transkripte selbst erstellen oder extern (an Drittanbieter) in Auftrag geben. Manuelle und KI-gestützte Transkriptionen sind gängige Optionen, wenn es um Drittanbieter geht. KI-gestützte Transkriptionen haben hierbei in letzter Zeit dank großer technologischer Fortschritte an Popularität gewonnen. Das CISPA-ERS-Team hat untersucht, welche Anbieter die besten Ergebnisse liefern. Ziel war es, eine Empfehlung für die Verwendung von Transkriptionen in qualitativen Interviews abzugeben.

So ist das Forschungsteam vorgegangen

Für ihr Forschungsprojekt erstellten Mrowczynski und sein Team, bestehend aus Dr. Maria Hellenthal, Dr. Rudolf Siegel und Dr. Michael Schilling, ein Set aus zehnminütigen Interviews und Gruppengesprächen. Diese waren auf Deutsch und Englisch und drehten sich um Cybersicherheit. „Wichtig war, dass Fachbegriffe aus der Community fallen, um daran die Präzision der Transkription überprüfen zu können“, erklärt Mrowczynski. Manche Interviews enthielten extra Hintergrundgeräusche. Das machte sie realitätsnäher.

Im Dezember 2022 schickten sie die Daten an elf Anbieter. Darunter waren Amberscript, GoTranscript, QualTranscribe, Rev, Scribble sowie KI-Dienste wie Amazon Transcribe, AssemblyAI, Audiotranskription.de, Google Cloud, Microsoft Azure und Whisper AI. Als Grundlage für den Vergleich erstellten sie ein Referenztranskript. Die Analyse konzentrierte sich auf zwei Hauptaspekte: die Wortfehlerrate und die qualitative Abweichung vom Original.

Ergebnis der Studie

Mrowczynski und sein Team untersuchten in ihrer Studie die Genauigkeit von manuellen und KI-basierten Transkriptionsdiensten. Das Fazit: Manuelle Transkriptionsdienste liefern meist gute Ergebnisse. KI-basierte Dienste hingegen neigen zu bedeutungsverzerrenden Abweichungen zwischen Aufnahme und Transkription.

Besonders problematisch ist laut Forschungsteam die Transkription von Fachbegriffen. So wurde in einem Beispiel „hashes“ fälschlicherweise als „ashes“ transkribiert. Im Vergleich der KI-Anbieter schnitt Whisper AI von OpenAI am besten ab. Englisch wurde von den meisten Anbietern besser transkribiert als Deutsch. Drei Anbieter boten gar keine deutsche Transkription an.

Ein weiteres Ergebnis der Studie: Hintergrundgeräusche wirkten sich generell negativ auf die Transkriptionsgenauigkeit aus. Schwierigkeiten hatten die KI-Anbieter außerdem mit der Sprecherzuordnung. Zudem waren die KI-Transkripte oft nicht formatiert, was die Weiterverarbeitung in Analyse-Software erschwerte.

Einschränkend bemerken die Forschenden, dass ihre Untersuchung den Stand der Technik im Dezember 2022 widerspiegelt und aktuelle Entwicklungen nicht berücksichtigt werden konnten.

Ein Beitrag von:

  • Dominik Hochwarth

    Redakteur beim VDI Verlag. Nach dem Studium absolvierte er eine Ausbildung zum Online-Redakteur, es folgten ein Volontariat und jeweils 10 Jahre als Webtexter für eine Internetagentur und einen Onlineshop. Seit September 2022 schreibt er für ingenieur.de.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.