Manuelle Transkription schlägt KI – zumindest derzeit noch
Manuelle Transkription ist derzeit noch besser als KI – das ist das Ergebnis einer Studie, die das CISPA Helmholtz-Zentrum durchgeführt hat. Stand der Technik ist allerdings der Dezember 2022, darauf weisen die Forschenden einschränkend hin.
Ein Team des Empirical Research Support (ERS) am CISPA Helmholtz-Center for Information Security hat Transkriptionsdienste untersucht. Zum ersten Mal haben sie die bekanntesten Anbieter systematisch verglichen. Im Fokus standen elf manuelle und KI-basierte Dienste. Die Studie zeigt: KI-Dienste liefern gute Qualität, haben aber Probleme bei der Sprecherzuordnung. Zudem treten sinnverzerrende Abweichungen auf. Unter den KI-Anbietern konnte sich Whisper AI von OpenAI als bestes Tool durchsetzen.
Wichtiges Werkzeug in der Forschung
Interviews sind ein wichtiges Werkzeug in der Forschung. Sie werden grundsätzlich in zwei Typen eingeteilt: quantitative und qualitative. Quantitative Interviews nutzen standardisierte Fragebögen, um statistisch auswertbare Daten zu sammeln. Qualitative Interviews dagegen zielen darauf ab, interpretierbare Daten zu gewinnen.
Eine spezielle Methode ist das Leitfadeninterview. Hierbei gibt es zwar einen Fragenkatalog, doch können die Gesprächspartner davon abweichen. „In der Cybersicherheitsforschung kommen diese Interviews zum Einsatz, wenn es um die Erschließung von Handlungs- und Deutungsmustern von Akteuren geht, die digital vermittelt handeln“, sagt Soziologe Dr. Rafael Mrowczynski vom Team des Empirical Research Support (ERS) am CISPA. Das ERS-Team berät die Forschenden des Zentrums bei Methodenfragen.
Transkription in der Datenanalyse
Die Transkription ist ein zentraler Schritt in der qualitativen Datenanalyse. Die Standardprozedur ist, dass die Audioaufnahmen der Interviews in Text überführt werden. „Wichtig für die Qualität der Daten ist, dass die Transkriptionen adäquat sind“, erklärt Mrowczynski. Unterschiedliche Forschungsbereiche haben ihre eigenen Standards. „In der Cybersicherheitsforschung wird meist mit Transkripten gearbeitet, die präzise den Gesprächsinhalt wiedergeben“, so Mrowczynski weiter. Ein gutes Transkript enthält nur das Wesentliche.
Forschende können Transkripte selbst erstellen oder extern (an Drittanbieter) in Auftrag geben. Manuelle und KI-gestützte Transkriptionen sind gängige Optionen, wenn es um Drittanbieter geht. KI-gestützte Transkriptionen haben hierbei in letzter Zeit dank großer technologischer Fortschritte an Popularität gewonnen. Das CISPA-ERS-Team hat untersucht, welche Anbieter die besten Ergebnisse liefern. Ziel war es, eine Empfehlung für die Verwendung von Transkriptionen in qualitativen Interviews abzugeben.
So ist das Forschungsteam vorgegangen
Für ihr Forschungsprojekt erstellten Mrowczynski und sein Team, bestehend aus Dr. Maria Hellenthal, Dr. Rudolf Siegel und Dr. Michael Schilling, ein Set aus zehnminütigen Interviews und Gruppengesprächen. Diese waren auf Deutsch und Englisch und drehten sich um Cybersicherheit. „Wichtig war, dass Fachbegriffe aus der Community fallen, um daran die Präzision der Transkription überprüfen zu können“, erklärt Mrowczynski. Manche Interviews enthielten extra Hintergrundgeräusche. Das machte sie realitätsnäher.
Im Dezember 2022 schickten sie die Daten an elf Anbieter. Darunter waren Amberscript, GoTranscript, QualTranscribe, Rev, Scribble sowie KI-Dienste wie Amazon Transcribe, AssemblyAI, Audiotranskription.de, Google Cloud, Microsoft Azure und Whisper AI. Als Grundlage für den Vergleich erstellten sie ein Referenztranskript. Die Analyse konzentrierte sich auf zwei Hauptaspekte: die Wortfehlerrate und die qualitative Abweichung vom Original.
Ergebnis der Studie
Mrowczynski und sein Team untersuchten in ihrer Studie die Genauigkeit von manuellen und KI-basierten Transkriptionsdiensten. Das Fazit: Manuelle Transkriptionsdienste liefern meist gute Ergebnisse. KI-basierte Dienste hingegen neigen zu bedeutungsverzerrenden Abweichungen zwischen Aufnahme und Transkription.
Besonders problematisch ist laut Forschungsteam die Transkription von Fachbegriffen. So wurde in einem Beispiel „hashes“ fälschlicherweise als „ashes“ transkribiert. Im Vergleich der KI-Anbieter schnitt Whisper AI von OpenAI am besten ab. Englisch wurde von den meisten Anbietern besser transkribiert als Deutsch. Drei Anbieter boten gar keine deutsche Transkription an.
Ein weiteres Ergebnis der Studie: Hintergrundgeräusche wirkten sich generell negativ auf die Transkriptionsgenauigkeit aus. Schwierigkeiten hatten die KI-Anbieter außerdem mit der Sprecherzuordnung. Zudem waren die KI-Transkripte oft nicht formatiert, was die Weiterverarbeitung in Analyse-Software erschwerte.
Einschränkend bemerken die Forschenden, dass ihre Untersuchung den Stand der Technik im Dezember 2022 widerspiegelt und aktuelle Entwicklungen nicht berücksichtigt werden konnten.
Ein Beitrag von: