Maschinelle Übersetzung

Maschinelle Übersetzung (MÜ oder MT für engl. machine translation) bezeichnet die selbständige Übersetzung von Texten aus einer Sprache in eine andere Sprache durch ein Computerprogramm. Während die menschliche Übersetzung Gegenstand der angewandten Sprachwissenschaft ist, wird die maschinelle Übersetzung als Teilbereich der künstlichen Intelligenz in der Computerlinguistik erforscht.

Funktionsweise MÜ verwendet oft ein großes künstliches neuronales Netzwerk (siehe neuronale MÜ), das von der Eingabe bis zur Ausgabe der Übersetzung ausgebildet ist und die Fähigkeit hat, gut auf sehr lange Wortfolgen zu verallgemeinern. Bei klassiches MÜ gab es viele einzelne Bausteine. Dies bedeutet, dass das Modell nicht ausdrücklich große Satz-Tabellen und Sprachmodelle speichern muss, wie im Fall herkömmlicher MÜ. Daher hat dieses Modell einen geringen Speicheraufwand. Schließlich ist die Implementierung der Dekodierer im Gegensatz zu den hoch komplizierten Dekodierern von herkömmlicher MÜ einfach.

Außerdem hat das Konzept der „Aufmerksamkeit“ seit 2017 an Beliebtheit gewonnen. Dadurch können KI-Modelle besser erkennen, welche Informationen zusammengehören – zum Beispiel welche Bildteile zu bestimmten Wörtern oder welche gesprochenen Wörter zu Text passen.Minh-Thang Luong, Hieu Pham, Christopher D. Manning, Computer Science Department, Stanford University: Effective Approaches to Attention-based Neural Machine Translation

Mathematische Zusammenhänge Ein Netzwerk für neuronale MÜ (Neural Machine Translation, NMT) modelliert die bedingte Wahrscheinlichkeit , dass ein Quellsatz in einen Zielsatz übersetzt wird. Die Grundform der NMT besteht aus einem Kodierer, der eine Darstellung für jeden Quellsatz berechnet und einem Dekodierer, der jeweils ein Zielwort erzeugt und die bedingte Wahrscheinlichkeit wie folgt zerlegt:

Man kann die Wahrscheinlichkeit der Dekodierung (Rückübersetzung) jedes Wortes mithilfe der Softmax-Funktion als parametrisieren, wobei die Transformationsfunktion ist, die einen Vektor ausgibt und ist die verborgene Einheit des rekurrenten neuronalen Netzes, abstrakt berechnet als , wobei die Funktion den aktuellen verborgenen Zustand aus dem vorherigen verborgenen Zustand berechnet.

Modelle mit Aufmerksamkeitsmechanismus leiten einen Kontextvektor ab, der die Vorhersage des aktuellen Zielworts unterstützt. Diese Modelle unterscheiden sich zwar in der Art und Weise, wie der Kontextvektor abgeleitet wird, haben jedoch dieselben Folgeschritte. Die Informationen aus dem Kontextvektor und dem versteckten Zielvektors werden kombiniert und erzeugen wie folgt einen verborgenen Aufmerksamkeitsvektor:

Der Aufmerksamkeitsvektor wird dann durch die Schicht mit der Softmax-Funktion geleitet, um die prädiktive Verteilung wie folgt zu erzeugen:

Geschichte Das Verstehen einer Sprache, ohne sie gelernt zu haben, ist ein alter Menschheitstraum (Turmbau zu Babel, J. Bechers numerische Interlingua, Timerio, Babelfisch, Pfingstwunder, Science-Fiction-Geschichten). Die Erfindung der Computer in Verbindung mit der Beschäftigung mit der Sprachwissenschaft hat zum ersten Mal einen greifbaren Weg zur Erfüllung dieses Traums geöffnet.

Bis zum heutigen Tag hat das militärische Interesse den Weg der MÜ entscheidend geprägt. Eines der frühesten Projekte war ein Russisch-Englisch-Übersetzungsprogramm für das US-Militär. Trotz seiner anekdotenhaft schlechten Qualität genoss das Programm hohe Beliebtheit unter US-Militärs, die sich zum ersten Mal ohne den Umweg über Dritte (Dolmetscher und Übersetzer) selbst zumindest einen Eindruck vom Inhalt russischer Schriftstücke verschaffen konnten.

Der 1966 für das Verteidigungsministerium der Vereinigten Staaten erstellte ALPAC-BerichtJohn R. Pierce, John B. Carroll et al.: Language and Machines – Computers in Translation and Linguistics. ALPAC report, National Academy of Sciences, National Research Council, Washington, DC, 1966. bescheinigte der MÜ grundsätzliche Undurchführbarkeit und brachte mit einem Schlag die Forschung für fast 20 Jahre praktisch ganz zum Erliegen. Erst in den 1980er Jahren begannen Elektrokonzerne wie die Siemens AG (Metal-Projekt) erneut mit der Forschung. Zu diesen Vorhaben zählt auch die Forschungsarbeit im Sonderforschungsbereich „Elektronische Sprachforschung“ an der Universität des Saarlandes. Hier wurde das System „SUSY“ entwickelt, das in der Lage war, aus dem Deutschen und ins Deutsche zu übersetzen.H.-D. Maas: Das Saarbrücker Übersetzungssystem SUSY. In: Sprache und Datenverarbeitung. 1978 (1). Ein weiteres System des Sonderforschungsbereichs war ASCOF, in dem neben morpho-syntaktischen auch semantische Informationen für die Übersetzung herangezogen wurden.Axel Biewer et al.: A modular multilevel system for French-German translation. In: Computational Linguistics (Special issue on machine translation). Bd. 11, Nr. 2–3, April–September 1985, S. 137–154. In der gleichen Zeit stieß die japanische Regierung das Fünfte-Generation-Projekt an, bei dem MÜ vom Englischen ins Japanische zunächst auf der Grundlage der Programmiersprache Prolog implementiert wurde. Die enge Zusammenarbeit zwischen Universitäten, Elektrokonzernen und Regierung führte zu den weltweit ersten kommerziellen MÜ-Programmen für PCs und hat Japan in die Führungsposition der MÜ-Forschung weltweit gebracht. In den 1990er Jahren lief in Deutschland das BMBF-Leitprojekt Verbmobil, dessen Ziel es war, deutsche, englische und japanische gesprochene Dialogsprache zu dolmetschen. Das Verbmobil-System sollte gesprochene Spontansprache erkennen, die Eingabe analysieren, übersetzen, einen Satz erzeugen und ihn aussprechen. In den 2000er Jahren kamen vermehrt statistische Verfahren zum Einsatz. So bietet Google seit 2006 ein statistisches Übersetzungssystem an.statistical machine translation live. Och, Franz: Google Research Blog. Abgerufen am 21. Juli 2013. Auch regelbasierte Ansätze wurden weiterentwickelt. Eines der bekanntesten Forschungsprojekte dieser Art ist Apertium, eine freie Software die von der spanischen Regierung und der Regierung von Katalonien finanziert und an der Universität Alicante weiterentwickelt wird.

Seit 2007 gab es den Machine Translation Marathon.

Der Stand der MÜ im Jahr 2010 wurde von vielen Menschen als unbefriedigend bewertet. Grundsätzlich versteht die Wissenschaft menschliche Sprache aber noch unzureichend. Die meisten Sprachwissenschaftler gingen gar davon aus, dass maschineller Übersetzung ohne über das reine Sprachverständnis weit hinausgehende Fähigkeiten automatischer Systeme grundsätzliche Grenzen gesetzt sind, da viele Übersetzungen zudem große Mengen an Handlungswissen, Metawissen sowie Kenntnisse über die Bedingungen menschlicher Umwelt allgemein und über die unausgesprochene Regeln im menschlichen Miteinander erfordern.

Seit dem Jahr 2016 werden für Übersetzungsprogramme zunehmend künstliche neuronale Netze, d. h. künstliche Intelligenzen eingesetzt (siehe neuronale MÜ), wodurch der Fortschritt rasant zunahm. Beispiele sind DeepL, Google Übersetzer, Yandex.Translate sowie der Bing Translator, die fortan deutlich bessere Ergebnisse erzielten. Im März 2018 teilte Microsoft mit, durch eine KI Chinesisch-Englisch-Übersetzungen mit der Qualität eines professionellen menschlichen Übersetzers zu erreichen; das sei ein Durchbruch bei der maschinellen Übersetzung, den Microsoft nicht so früh erwartet habe.KI übersetzt so gut wie ein Mensch, golem.de vom 16. März 2018, vrodo.de vom 15. März 2018 Weitere Durchbrüche bei der neuronalen MÜ wurden durch den Einsatz von großen Sprachmodellen (Large Language Models) erzielt. Diese Modelle analysieren und integrieren massive Textkorpora, darunter auch nicht-parallele Daten, um die Nuancen der Sprache zu erfassen. Dadurch erfassen sie Bedeutungszusammenhänge, kulturelle Bezüge und sogar Humor, was zu präziseren und natürlicheren Übersetzungen führt.

Der Bedarf an MÜ-Anwendungen steigt weiter: Viele Texte sind heute digital verfügbar (also leicht für den Computer zu verarbeiten). Die Globalisierung erfordert die Übertragung von immer mehr Texten in immer mehr Sprachen (der Markt für Übersetzung verdoppelt sich alle vier Jahre), während die Beliebtheit des Berufs des Übersetzers/Dolmetschers auf der Stelle tritt. Gerade von nur wenigen Westeuropäern/Amerikanern gesprochene beziehungsweise für diese schwierig zu erlernende Sprachen aus Regionen, deren Bewohner ihrerseits kaum westliche Sprachen sprechen, werden immer wichtiger: wirtschaftlich wichtig: die ostasiatischen Sprachen Chinesisch, Koreanisch und Japanisch; sowie Thai. militärisch wichtig: Sprachen der internationalen Konfliktregionen, vor allem mit Beteiligung des US-Militärs. 2003 haben gleich mehrere US-Software-Unternehmen Übersetzungsprogramme für Arabisch und Paschtu (eine der Sprachen in Afghanistan und Grenzregionen Pakistans) herausgebracht. Ebenfalls 2003 hat die DARPA einen Blind-Wettbewerb für eine unbekannte Ausgangssprache durchgeführt. 2011 wurde das BOLT-Programm gestartet, das zum Ziel hat, die Erforschung der Übersetzung chinesischer und arabischer Texte ins Englische zu fördern.

Übersetzungs-Methoden Die neuronale maschinelle Übersetzung (NMT) ist die am weitesten entwickelte Methode automatisierter Übersetzungen. Diese Methode kann durch selbstständiges Lernen Ergebnisse von hoher Übersetzungsqualität liefern. Die Technologie wird seit 2016 von den führenden Übersetzungsdiensten wie Google Übersetzer, Yandex.Translate, Bing Translator, DeepL und Amazon Translate genutzt. Die meisten Übersetzungssysteme setzen seit 2017 Transformationsarchitektur ein.

Neuronale MÜ (Neural Machine Translation, NMT)

Neuronale MÜ stützt sich wie statistische MÜ auf die Untersuchungvon zweisprachigen Texten. Diese Texte werden von einem künstlichen neuronalen Netz angelernt und dabei die Zusammenhänge zwischen Ausgangs- und Zielsprache erfasst.Dzmitry Bahdanau et al.: Neural Machine Translation by Jointly Learning to Align and Translate. In Proceedings of the International Conference on Learning Representations (ICLR), San Diego, CA, 2015. Es kann bei der Übersetzung allerdings nicht nachvollzogen werden, wie das Ergebnis zustande kam, obwohl neuronale MÜ viele Texte präziser als andere Methoden der MÜ zu übersetzen scheint. Die neuronale MÜ wird seit 2016 von den führenden Übersetzungsdiensten wie Google Übersetzer, Yandex.Translate, Bing Translator, DeepL und Amazon Translate verwendet.

Mitarbeiter von Google Brain hatten 2016 herausgefunden, dass sich eine Sprache „ziemlich gut in nur etwa tausend Dimensionen darstellen“ lässt. Seit Ende 2016 arbeitet deshalb der Google Übersetzer mit künstlichen neuronalen Netzwerken. Diese Technologie entwickelt sich eigenständig weiter, d. h. sie lernt eigenständig. In einigen Sprachen werden Worte nicht einzeln, sondern satzweise übersetzt.

Regelbasierte Methoden Direkte Maschinenübersetzung Die Wörter des Quelltextes werden mit dem Wörterbuch Wort für Wort und in der gleichen Reihenfolge in die Zielsprache übertragen. Anschließend werden Satzstellung und Flexion nach den Regeln der Zielsprache angepasst. Dies ist die älteste und einfachste MÜ-Methode, die beispielsweise auch obigem Russisch-Englisch-System zugrunde lag.

Transfer-Methode Die Transfer-Methode ist die klassische MÜ-Methode mit drei Schritten: Untersuchung des Textes, Übertragung (Transfer), Texterzeugung. Der zweite Schritt hat der ganzen Methode den Namen gegeben. Zunächst wird die grammatische Struktur des Quelltextes analysiert, oft in einer Baumstruktur. Abhängig von der gewählten Transfermethode wird daraus oft eine semantische Struktur abgeleitet. Danach werden die Strukturen in die Zielsprache übertragen (=transferiert). Schließlich werden in der Zielsprache aus den Strukturen mit grammatischen Regeln wiederum Sätze erzeugt und so der Zieltext erzeugt (=generiert).

Interlingua-Methode