Vergleichende Studie 08.04.2024, 10:02 Uhr

Manuelle Transkription schlägt KI – zumindest derzeit noch

Manuelle Transkription ist derzeit noch besser als KI – das ist das Ergebnis einer Studie, die das CISPA Helmholtz-Zentrum durchgeführt hat. Stand der Technik ist allerdings der Dezember 2022, darauf weisen die Forschenden einschränkend hin.

Transkription

Manuelle Transkriptionen sind derzeit noch fehlerfreier als KI, das ist das Ergebnis einer Studie.

Foto: CISPA

Ein Team des Empirical Research Support (ERS) am CISPA Helmholtz-Center for Information Security hat Transkriptionsdienste untersucht. Zum ersten Mal haben sie die bekanntesten Anbieter systematisch verglichen. Im Fokus standen elf manuelle und KI-basierte Dienste. Die Studie zeigt: KI-Dienste liefern gute Qualität, haben aber Probleme bei der Sprecherzuordnung. Zudem treten sinnverzerrende Abweichungen auf. Unter den KI-Anbietern konnte sich Whisper AI von OpenAI als bestes Tool durchsetzen.

Wichtiges Werkzeug in der Forschung

Interviews sind ein wichtiges Werkzeug in der Forschung. Sie werden grundsätzlich in zwei Typen eingeteilt: quantitative und qualitative. Quantitative Interviews nutzen standardisierte Fragebögen, um statistisch auswertbare Daten zu sammeln. Qualitative Interviews dagegen zielen darauf ab, interpretierbare Daten zu gewinnen.

Eine spezielle Methode ist das Leitfadeninterview. Hierbei gibt es zwar einen Fragenkatalog, doch können die Gesprächspartner davon abweichen. „In der Cybersicherheitsforschung kommen diese Interviews zum Einsatz, wenn es um die Erschließung von Handlungs- und Deutungsmustern von Akteuren geht, die digital vermittelt handeln“, sagt Soziologe Dr. Rafael Mrowczynski vom  Team des Empirical Research Support (ERS) am CISPA. Das ERS-Team berät die Forschenden des Zentrums bei Methodenfragen.

Transkription in der Datenanalyse

Die Transkription ist ein zentraler Schritt in der qualitativen Datenanalyse. Die Standardprozedur ist, dass die Audioaufnahmen der Interviews in Text überführt werden. „Wichtig für die Qualität der Daten ist, dass die Transkriptionen adäquat sind“, erklärt Mrowczynski. Unterschiedliche Forschungsbereiche haben ihre eigenen Standards. „In der Cybersicherheitsforschung wird meist mit Transkripten gearbeitet, die präzise den Gesprächsinhalt wiedergeben“, so Mrowczynski weiter. Ein gutes Transkript enthält nur das Wesentliche.

Stellenangebote im Bereich Softwareentwicklung

Softwareentwicklung Jobs
Albtal-Verkehrs-Gesellschaft mbH-Firmenlogo
Projektleiter*in Elektrotechnik Verkehrsanlagen (m/w/d) Elektroingenieur*in oder Techniker*in Albtal-Verkehrs-Gesellschaft mbH
Karlsruhe Zum Job 
Die Autobahn GmbH des Bundes Niederlassung Nordbayern-Firmenlogo
Ingenieur Elektrotechnik / Bauingenieur (w/m/d) Ladeinfrastruktur Die Autobahn GmbH des Bundes Niederlassung Nordbayern
Nürnberg Zum Job 
Bayerisches Staatsministerium für Wohnen, Bau und Verkehr-Firmenlogo
Traineeprogramm - Bachelor Fachrichtung Maschinenbau / Energie- und Gebäudetechnik (m/w/d) Bayerisches Staatsministerium für Wohnen, Bau und Verkehr
bayernweit Zum Job 
Bayerisches Staatsministerium für Wohnen, Bau und Verkehr-Firmenlogo
Traineeprogramm - Bachelor Fachrichtung Maschinenbau / Energie- und Gebäudetechnik (m/w/d) Bayerisches Staatsministerium für Wohnen, Bau und Verkehr
Nord-Micro GmbH & Co. OHGa part of Collins Aerospace-Firmenlogo
Projekt- / Produktingenieur (m/w/d) Nord-Micro GmbH & Co. OHGa part of Collins Aerospace
Frankfurt am Main Zum Job 
Fresenius Kabi-Firmenlogo
Instandhalter (m/w/d) Prozesstechnik - API Herstellung Fischöl Fresenius Kabi
Friedberg (Hessen) Zum Job 
B. Braun Melsungen AG-Firmenlogo
Project Manager (w/m/d) Pre-Development B. Braun Melsungen AG
Melsungen Zum Job 
Hamburger Stadtentwässerung AöR ein Unternehmen von HAMBURG WASSER-Firmenlogo
Ingenieur (m/w/d) Elektrotechnik als Projektleiter Hamburger Stadtentwässerung AöR ein Unternehmen von HAMBURG WASSER
Hamburg Zum Job 
THOST Projektmanagement GmbH-Firmenlogo
Wirtschaftsjurist*in / Ingenieur*in (m/w/d) für Contract & Claimsmanagement in Projektender Energiewende THOST Projektmanagement GmbH
Stuttgart, Mannheim Zum Job 
RES Deutschland GmbH-Firmenlogo
Head of Engineering / Leitung technische Planung Wind- & Solarparks (m/w/d) RES Deutschland GmbH
Vörstetten Zum Job 
MEWA Textil-Service SE & Co. Management OHG-Firmenlogo
Projektmanager (m/w/d) PMO Business Transformation MEWA Textil-Service SE & Co. Management OHG
Wiesbaden Zum Job 
MEWA Textil-Service SE & Co. Management OHG-Firmenlogo
Projektingenieur (m/w/d) Elektrotechnik MEWA Textil-Service SE & Co. Management OHG
Wiesbaden Zum Job 
KÜBLER GmbH-Firmenlogo
Techniker / Ingenieur / Fachplaner / TGA (m/w/d) Heizungstechnik und Elektro KÜBLER GmbH
Ludwigshafen Zum Job 
WPW JENA GmbH-Firmenlogo
Projektingenieur Elektroplanung (m/w/d) WPW JENA GmbH
Jena, hybrides Arbeiten Zum Job 
Bundesamt für Bauwesen und Raumordnung-Firmenlogo
Ingenieurin/Ingenieur (w/m/d) für die Koordination der Fachrichtung Elektrotechnik bzw. Nachrichtentechnik Bundesamt für Bauwesen und Raumordnung
RHEINMETALL AG-Firmenlogo
Verstärkung für unsere technischen Projekte im Bereich Engineering und IT (m/w/d) RHEINMETALL AG
deutschlandweit Zum Job 
fbw | Fernwärmegesellschaft Baden-Württemberg mbH-Firmenlogo
Elektroingenieur (m/w/d) (Ingenieur für Elektrotechnik, Energie- oder Versorgungstechnik o. ä.) fbw | Fernwärmegesellschaft Baden-Württemberg mbH
Stuttgart Zum Job 
Varex Imaging Deutschland AG-Firmenlogo
Elektroniker ( m/w/d) oder Mechatroniker (m/w/d) als Teamleitung im Bereich Messtechnik Varex Imaging Deutschland AG
Eckelmann AG-Firmenlogo
Systemingenieur Echtzeit-Programmierung/-Entwicklung (m/w/d) Eckelmann AG
Wiesbaden Zum Job 
ECKELMANN AG-Firmenlogo
Applikationsingenieur Automatisierungstechnik (m/w/d) Schwerpunkt Walzwerke ECKELMANN AG
Wiesbaden Zum Job 

Forschende können Transkripte selbst erstellen oder extern (an Drittanbieter) in Auftrag geben. Manuelle und KI-gestützte Transkriptionen sind gängige Optionen, wenn es um Drittanbieter geht. KI-gestützte Transkriptionen haben hierbei in letzter Zeit dank großer technologischer Fortschritte an Popularität gewonnen. Das CISPA-ERS-Team hat untersucht, welche Anbieter die besten Ergebnisse liefern. Ziel war es, eine Empfehlung für die Verwendung von Transkriptionen in qualitativen Interviews abzugeben.

So ist das Forschungsteam vorgegangen

Für ihr Forschungsprojekt erstellten Mrowczynski und sein Team, bestehend aus Dr. Maria Hellenthal, Dr. Rudolf Siegel und Dr. Michael Schilling, ein Set aus zehnminütigen Interviews und Gruppengesprächen. Diese waren auf Deutsch und Englisch und drehten sich um Cybersicherheit. „Wichtig war, dass Fachbegriffe aus der Community fallen, um daran die Präzision der Transkription überprüfen zu können“, erklärt Mrowczynski. Manche Interviews enthielten extra Hintergrundgeräusche. Das machte sie realitätsnäher.

Im Dezember 2022 schickten sie die Daten an elf Anbieter. Darunter waren Amberscript, GoTranscript, QualTranscribe, Rev, Scribble sowie KI-Dienste wie Amazon Transcribe, AssemblyAI, Audiotranskription.de, Google Cloud, Microsoft Azure und Whisper AI. Als Grundlage für den Vergleich erstellten sie ein Referenztranskript. Die Analyse konzentrierte sich auf zwei Hauptaspekte: die Wortfehlerrate und die qualitative Abweichung vom Original.

Ergebnis der Studie

Mrowczynski und sein Team untersuchten in ihrer Studie die Genauigkeit von manuellen und KI-basierten Transkriptionsdiensten. Das Fazit: Manuelle Transkriptionsdienste liefern meist gute Ergebnisse. KI-basierte Dienste hingegen neigen zu bedeutungsverzerrenden Abweichungen zwischen Aufnahme und Transkription.

Besonders problematisch ist laut Forschungsteam die Transkription von Fachbegriffen. So wurde in einem Beispiel „hashes“ fälschlicherweise als „ashes“ transkribiert. Im Vergleich der KI-Anbieter schnitt Whisper AI von OpenAI am besten ab. Englisch wurde von den meisten Anbietern besser transkribiert als Deutsch. Drei Anbieter boten gar keine deutsche Transkription an.

Ein weiteres Ergebnis der Studie: Hintergrundgeräusche wirkten sich generell negativ auf die Transkriptionsgenauigkeit aus. Schwierigkeiten hatten die KI-Anbieter außerdem mit der Sprecherzuordnung. Zudem waren die KI-Transkripte oft nicht formatiert, was die Weiterverarbeitung in Analyse-Software erschwerte.

Einschränkend bemerken die Forschenden, dass ihre Untersuchung den Stand der Technik im Dezember 2022 widerspiegelt und aktuelle Entwicklungen nicht berücksichtigt werden konnten.

Ein Beitrag von:

  • Dominik Hochwarth

    Redakteur beim VDI Verlag. Nach dem Studium absolvierte er eine Ausbildung zum Online-Redakteur, es folgten ein Volontariat und jeweils 10 Jahre als Webtexter für eine Internetagentur und einen Onlineshop. Seit September 2022 schreibt er für ingenieur.de.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.