Mašininis vertimas lietuvių kalbai

DANIELIUS ALGIRDAS RALYS Uniwersytet Wileński TŁUMACZENIE MASZYNOWE NA JĘZYK LITEWSKI1 SŁOWA KLUCZOWE: język litewski, historia, lingwistyka komputerowa, tłumaczenie maszynowe, sieci neuronowe, sztuczna inteligencja. WSTĘP Obecnie coraz więcej tekstów tłumaczą komputery. Takie automatyczne tłumaczenie komputerowe najczęściej nazywa się tłumaczeniem maszynowym (TM). Zazwyczaj tłumaczenie maszynowe wykonuje się, aby jak najszybciej zorientować się w ogromnym strumieniu informacji w wielu językach, a także by jak najszerzej rozpowszechnić własne informacje. Wymiana informacji elektronicznych między narodami i językami staje się ważną częścią codziennego życia, otwiera nowe możliwości dla naszego języka, stawia przed nim nowe wyzwania i problemy. Terminu „tłumaczenie maszynowe” (ang. machine translation) jako pierwszy użył w połowie ubiegłego wieku Warren Weaver, proponując wykorzystanie dopiero co powstałych komputerów do tłumaczenia tekstów (Weaver 1949: 1). W. Weaver sugerował, by spojrzeć na tekst napisany w innym języku jak na szyfrogram, który można odszyfrować. Osiągnięcia kryptograficzne brytyjskich i amerykańskich specjalistów podczas niedawno zakończonej drugiej wojny światowej budziły optymizm. Wówczas szczerze wierzono, że maszyny elektroniczne w ciągu kilku lat pomogą przezwyciężyć klątwę wieży Babel. Niestety tłumaczenie rozwijało się powoli, a jakość tłumaczenia maszynowego nawet w przybliżeniu nie dorównywała jakości tłumaczenia wykonywanego przez człowieka. Po siedemdziesięciu latach, po niewątpliwych sukcesach i rozczarowaniach, po wielu wykonanych pracach, w środowisku tłumaczenia maszynowego znów przeważają optymistyczne nastroje. Tym razem nadzieje wiąże się ze sztucznymi sieciami neuronowymi i szybkim postępem w rozwoju sztucznej inteligencji. Tłumaczenie maszynowe nie ominęło również języka litewskiego. Obecnie łatwo dostępne internetowe narzędzia do tłumaczenia maszynowego tłumaczą z najpopularniejszych języków na litewski i odwrotnie. Jakość tłumaczenia większości narzędzi jest nadal dość słaba, a przetłumaczone przez nie teksty trzeba redagować. Lepszą jakością wyróżnia się jedynie narzędzie tłumaczeniowe Google Translate2, w którym zaczęto stosować 1 Artykuł przygotowano na podstawie referatu „Tłumaczenie maszynowe na język litewski”, wygłoszonego w Wilnie 29 września 2017 r. podczas 24. międzynarodowej konferencji im. Jonasa Jablonskisa „Cyfrowe zasoby językowe, kierunki ich rozwoju i możliwości wykorzystania”. 2 Dostęp online https://translate.google.com. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351-7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 2 technologii tłumaczenia neuronowego. Większość zdań przetłumaczonych za pomocą tego narzędzia zachowuje znaczenie obecne w języku oryginału. Tłumaczenie maszynowe jest szeroko wykorzystywane do rozpowszechniania informacji w innych językach. Często wyniki tłumaczenia maszynowego są nieodpowiedzialnie publikowane w przestrzeni elektronicznej bez jakiejkolwiek redakcji. Skutki takich działań są już widoczne: internet roi się od kiepskich tekstów po litewsku, zawierających zniekształcone informacje, które automatycznie wygenerował taki czy inny program do tłumaczenia maszynowego3. Stopniowo takie teksty mogą przeniknąć również do korpusów. Tłumaczenie maszynowe stało się już codziennością — czasem zaskakującą, a czasem wręcz rażącą — która zasługuje nie tylko na baczniejsze spojrzenie językoznawców, lecz także na ich większe zaangażowanie w rozwój tłumaczenia maszynowego. W niniejszym artykule krótko przedstawiono historię tłumaczenia maszynowego (MV) oraz omówiono niektóre idee, które wpłynęły na jego rozwój. Zaprezentowano wyniki osiągane w języku litewskim przez różne technologie tłumaczeniowe. Przeanalizowano możliwości zastosowania tłumaczenia maszynowego w języku litewskim za pomocą metod regułowych, statystycznych i neuronowych. Ze względu na brak miejsca pominięto próby połączenia kilku z tych metod w jednym systemie tłumaczeniowym. 1. POCZĄTKI TŁUMACZENIA MASZYNOWEGO Dobre tłumaczenie z innego języka zawsze stanowi pewne wyzwanie intelektualne, a tłumaczenie nigdy nie było łatwym zajęciem. Nic dziwnego, że dążono do tego, by jakoś je zautomatyzować. W latach 1932–1935 francuski inżynier Georges Artsrouni wynalazł i skonstruował uniwersalne urządzenie mechaniczne, które nazwał mechanicznym mózgiem (franc. cerveau mécanique); wśród innych funkcji umożliwiało ono tłumaczenie wpisywanego tekstu na kilka języków (Hutchins 2004a: 12). W tym elektromechanicznym urządzeniu obracała się długa (do 40 metrów) taśma pamięciowa wykonana z elastycznego kartonu. Zapisano na niej wielojęzyczny słownik, obejmujący nawet kilkadziesiąt tysięcy słów. Francuskie słowo wpisane na klawiaturze było mechanicznie kodowane, a taśma pamięciowa obracała się do odpowiedniego miejsca zgodnie z tym kodem. Po kilkunastu sekundach urządzenie wyświetlało tłumaczenie wprowadzonego słowa (Daumas 1965: 294–295). Urządzenie zaprezentowano na paryskiej wystawie światowej w 1937 r.; wzbudziło duże zainteresowanie i otrzymało Grand Prix. W rzeczywistości był to pierwszy na świecie 3 Jonathan Swift (Jonathan Swift) w Podróżach Guliwera sarkastycznie opisuje maszynę układającą bezsensowne kombinacje słów, które nieustannie skrupulatnie zapisywano w księgach. W dzisiejszych czasach równie bezwartościowy bełkot można wytworzyć znacznie szybciej... BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 3 działający słownik mechaniczny. G. Artsrouni później nadal udoskonalał swoje urządzenie, jednak problemy mechaniczne i wybuch II wojny światowej przerwały prace. W 1933 r. w Związku Radzieckim Piotr Smirnow-Trojanski uzyskał świadectwo autorskie na elektromechaniczną maszynę tłumaczącą4. Chociaż maszyna ta nigdy nie została zbudowana, wynalazca sformułował wiele cennych idei dotyczących tłumaczenia maszynowego, które zrealizowano dopiero wiele lat później, po pojawieniu się komputerów. P. Smirnow-Trojanski mówił po rosyjsku, dlatego dobrze rozumiał cechy języków fleksyjnych. Zaproponował podzielenie procesu tłumaczenia na trzy etapy: w pierwszym człowiek powinien sprowadzić tekst do lem i opatrzyć je znacznikami morfosyntaktycznymi (etap analizy); następnie, w drugim etapie, maszyna automatycznie odnajduje lemy w jednym lub kilku językach docelowych i przypisuje im te same znaczniki (etap transformacji); w trzecim etapie redaktor ma przygotować płynny tekst przekładu na podstawie lem i ich znaczników (etap generowania). P. Smirnow-Trojanski proponował również różne metody tłumaczenia synonimów, homonimów i idiomów. Idee P. Smirnowa-Trojanskiego nie zostały docenione w jego ojczyźnie; nie doczekał się ery komputerów5, jednak idee wynalazcy nie popadły w zapomnienie, a później stały się znane również na Zachodzie. Era praktycznego tłumaczenia maszynowego rozpoczęła się wraz z pojawieniem się komputerów. W 1947 r. W. Weaver napisał list do genialnego językoznawcy i konstruktora komputerów Norberta Wienera, pytając, czy najnowsze osiągnięcia kryptografii i właśnie skonstruowane komputery6 można wykorzystać do tłumaczenia języków. W. Weaver twierdził, że każdy tekst rosyjski można potraktować jako zakodowaną cyrylicą wiadomość angielską. Sądził, że komputery mogą po prostu tę wiadomość odszyfrować. Niestety odpowiedź N. Wienera była sceptyczna. W 1949 r. W. Weaver rozesłał do szerszego grona odbiorców memorandum, w którym zaproponował wykorzystanie komputerów do tłumaczenia tekstów (Weaver 1949: 7)7. W tym czasie w różnych laboratoriach amerykańskich i brytyjskich dominowały koncepcje prostego, dosłownego tłumaczenia maszynowego. Uczony był przekonany, że komputery mogą tłumaczyć znacznie lepiej. W memorandum W. Weaver zaproponował cztery kierunki rozwiązywania problemów tłumaczeniowych i prowadzenia badań. Przede wszystkim zaproponował statystyczną analizę najbliższego otoczenia tłumaczonego słowa, aby rozwiązać problemy polisemii. Ta intuicja stanowi dziś podstawę statystycznego tłumaczenia maszynowego. Druga propozycja opierała się na założeniu, że w języku 4 W świadectwie autorskim narzędzie to nazwano „maszyną do dobierania i drukowania słów podczas tłumaczenia z jednego języka na inny lub na kilka języków jednocześnie”. 5 P. Smirnow-Trojanski zmarł w 1950 r. 6 Pierwszy brytyjski komputer elektroniczny Colossus rozpoczął działanie na początku 1944 r.; pierwszy amerykański elektroniczny komputer cyfrowy ENIAC zbudowano pod koniec 1945 r. Pierwszy radziecki komputer MESM zbudowano w 1950 r. 7 W memorandum W. Weavera użyty termin tłumaczenie maszynowe (ang. machine translation) szybko się przyjął. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 4 mają naturę elementów logicznych, dlatego przy użyciu modeli sieci neuronowych (McCulloch, Pitts 1943: 115–133) powinno być możliwe wywnioskowanie przekładu z przesłanek zawartych w języku oryginału. Czas pokazał genialność tej intuicji — dziś neuronowa metoda tłumaczenia maszynowego zapewnia najwyższą jakość przekładu. Trzeci kierunek rozwiązywania problemów powinno stanowić zastosowanie metod kryptograficznych do tłumaczenia języków. Po czterdziestu latach zostało to zrealizowane w algorytmach statystycznego tłumaczenia maszynowego. Aby zilustrować czwartą propozycję, W. Weaver narysował alegoryczny obraz, na którym ludzie mieszkają w wysokich, zamkniętych wieżach symbolizujących różne języki. Ludzie z trudem potrafią porozumiewać się, nawołując się przez grube ściany wież. Na szczęście wieże mają wspólny fundament i podziemia; wystarczy tam zejść, a wtedy porozumiewanie powinno być łatwiejsze. W. Weaver twierdził, że w językach świata kryje się pewna wspólna struktura głęboka, którą trzeba jeszcze odkryć. Ta ostatnia propozycja badacza skłoniła do podjęcia poszukiwań i konstruowania uniwersalnego języka — interlingwy tłumaczenia maszynowego8. Po memorandum W. Weavera tłumaczenie maszynowe szybko nabrało rozpędu. W 1954 r. w Nowym Jorku publicznie zaprezentowano system tłumaczenia maszynowego opracowany we współpracy korporacji IBM i Uniwersytetu Georgetown. Tłumaczono z języka rosyjskiego na angielski. System zawierał zaledwie sześć zaprogramowanych reguł gramatycznych, a do tłumaczenia wykorzystywano około 250 słów (Hutchins 2004b: 102). System był ukierunkowany na tematykę chemii organicznej, a przykłady przekładu starannie przygotowano z wyprzedzeniem. Po eksperymencie żywiono nadzieję, że za kilka lat maszyny będą tłumaczyć doskonale, a na kontynuację prac przyznano hojne finansowanie. Tłumaczenie maszynowe zaczęto intensywnie rozwijać w Stanach Zjednoczonych Ameryki (USA) i Związku Radzieckim, aby uzyskać przewagę strategiczną w zimnej wojnie. Najpopularniejszymi językami przekładu były rosyjski i angielski. 2. REGUŁOWE TŁUMACZENIE MASZYNOWE W połowie lat pięćdziesiątych ubiegłego wieku pojawiły się systemy tłumaczenia maszynowego (komputerowego), które zaczęto nazywać systemami regułowymi (ang. rule-based). Tworzono je w oparciu o założenie, że język można opisać za pomocą określonego zbioru reguł (w tym gramatycznych). W tej metodzie zdanie w języku oryginału jest analizowane do pewnego wybranego poziomu, określa się jego strukturę, która zgodnie z opracowanymi regułami zostaje przekształcona w równoważną strukturę języka docelowego, a na jej podstawie generowane jest zdanie w języku docelowym. Struktury zdań w różnych językach mogą się znacznie różnić i mieć rozmaite cechy, które należy odzwierciedlić w systemie tłumaczenia maszynowego 8 Nie należy ich mylić z interlingwami języków naturalnych — esperanto, ido, volapük i podobnymi. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 5 W systemie. Problemy przedstawiania struktur składniowych zdań w języku litewskim w sposób odpowiedni do tłumaczenia maszynowego badała Daiva Šveikauskienė (2005: 411–417). Istnieją różne odmiany regułowych systemów tłumaczenia maszynowego, które różnią się głębokością analizy (rys. 19). Im głębsza analiza zdania, tym prostsze przekształcenie. W idealnym przypadku, gdy tekst jest analizowany do poziomu interlingwy, nie byłoby już potrzebne żadne przekształcenie — interlingwistyczna reprezentacja tekstu powinna być taka sama we wszystkich językach. RYS. 1. Trójkąt Vauquois regułowego tłumaczenia maszynowego Problemy regułowego tłumaczenia maszynowego próbowano rozwiązywać zarówno metodami empirycznymi, jak i lingwistycznymi. W obozie empirystów najpopularniejszą metodą było tłumaczenie bezpośrednie. Przy takim tłumaczeniu między dwoma językami wykorzystywany jest wyłącznie słownik i proste reguły programowe, a analiza językowa ani reorganizacja składniowa praktycznie nie są przeprowadzane (metoda ta odpowiada najniższemu poziomowi na rys. 1). W latach pięćdziesiątych ubiegłego wieku w USA zespół badaczy kierowany przez Erwina Reiflera opracowywał specjalne słowniki do tłumaczenia maszynowego, w których obok ekwiwalentów leksykalnych zamieszczono również lokalne reguły zmiany szyku wyrazów. Podawano także tłumaczenia licznych fraz oraz terminy nadrzędne (ang. cover terms), aby rozwiązywać problemy polisemii. W 1964 r. rozpoczął działanie system bezpośredniego tłumaczenia z rosyjskiego na angielski Mark II, opracowany na zlecenie Sił Powietrznych USA. Wykorzystano w nim słownik E. Reiflera obejmujący ponad 170 000 słów (Reifler 1960: 312). Metody lingwistyczne szerzej stosowano na Uniwersytecie Georgetown, gdzie zgromadziły się liczne zespoły badaczy tłumaczenia maszynowego, podzielone na kilka grup stosujących różne metody 9 Takie ilustracje często nazywa się trójkątem Vauquois; tę metodę ilustracji zaproponował Bernard Vauquois (1976: 335), pionier francuskiego tłumaczenia maszynowego. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 6 grup. W zespole kierowanym przez Michaela Zarechnaka opracowano system automatycznego tłumaczenia z Georgetown (ang. GAT – Georgetown Automatic Translation). Wykonywał on analizę na trzech poziomach: morfologicznym (obejmującym także identyfikację idiomów), składniowym oraz syntagmatycznym. Zmodyfikowany system GAT zaczęto z powodzeniem stosować w Euratomie (Ispra, Włochy) w 1963 r. oraz w amerykańskiej Komisji Energii Atomowej w 1964 r. Znacznie dłużej trwało stworzenie systemu tłumaczenia maszynowego działającego na podstawie interlingwy. System tłumaczenia maszynowego KANT o wartości komercyjnej pojawił się dopiero w ostatniej dekadzie ubiegłego wieku (Mitamura i in. 1991: 105–118). System służył do tłumaczenia niektórych tekstów technicznych. Interlingwa do wyrażania języka ogólnego nigdy nie powstała. Przez całą dekadę po prezentacji systemu tłumaczenia maszynowego IBM–Georgetown podejmowano intensywne wysiłki, by zasadniczo poprawić jakość tłumaczenia maszynowego10, jednak postęp był bardzo niewielki. W 1966 r. w USA powołany komitet ALPAC (ang. Automatic Language Processing Advisory Committee) uznał, że tłumaczenie maszynowe nie ma w najbliższej przyszłości perspektyw, ponieważ jest niskiej jakości, a tłumacz i tak musi je redagować, poświęcając na to więcej czasu niż na tłumaczenie bez użycia jakichkolwiek maszyn. Komitet ALPAC nie uwzględnił faktu, że tłumaczenie maszynowe pomaga tłumaczyć ogromne ilości informacji, a wielu użytkownikom wystarcza niskiej jakości przekład, który jedynie w przybliżeniu oddaje sens. Po negatywnych wnioskach komitetu finansowanie projektów tłumaczenia maszynowego w USA zostało praktycznie wstrzymane na kilka dziesięcioleci, a finansowanie zmalało także w innych krajach. Pomimo sceptycznego podejścia do tłumaczenia maszynowego, w tej dziedzinie stale dokonywał się postęp. Opracowywany od 1968 r. w USA system tłumaczenia opartego na regułach SYSTRAN (Toma 1977: 569–581) był nieustannie udoskonalany, a później stał się systemem komercyjnym. Zaczęto go stosować w Departamencie Obrony USA, NASA, Euratomie, Komisji Europejskiej i wielu innych miejscach. Na mocy umowy handlowej z 1975 r. Komisja Europejska uzyskała prawo do rozwijania systemu na własne potrzeby. System dość dobrze tłumaczył teksty z niektórych dziedzin na wiele języków. Od 2010 r. SYSTRAN zaczął wykorzystywać technologie hybrydowe. Dobrze działające systemy tłumaczenia maszynowego powstały także w innych krajach: ARIANE (w Grenoble we Francji), podobny do niej system MU (w Kioto w Japonii), a także SUSY (w Saarbrücken w Niemczech). Europejski projekt EUROTRA (1982–1992), którego koszt przekroczył 50 000 000 ECU11, zakończył się niepowodzeniem – setki specjalistów nie zdołały stworzyć działającego systemu tłumaczenia maszynowego. Tak rozpoczął się poważny kryzys tłumaczenia maszynowego opartego na regułach. Przez wiele kolejnych lat nie posuwano się naprzód. 10 W USA w tym okresie wydano około 20 mln dolarów na tworzenie i udoskonalanie systemów tłumaczenia maszynowego. 11 W sprawozdaniu Komisji Wspólnot Europejskich z 1994 r. (ang. CEC – Commission of the European Communities) przedstawiono dane dotyczące finansowania EUROTRA – w latach 1982–1992 Komisja przeznaczyła na projekt 37,5 mln ECU (CEC 1994: 3.10), a rządy różnych krajów przekazały dodatkowo ponad 20 mln ECU szesnastu ośrodkom EUROTRA (CEC 1994: A4.2). BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 7 Tłumaczenie maszynowe oparte na regułach pojawiło się na Litwie dopiero w obecnym stuleciu. W latach 2003–2004 system tłumaczenia maszynowego Česilko (Hajič i in. 2000: 10–12) przystosowano do języka litewskiego (Homola, Rimkutė 2004: 77–81). W tym okresie Petras Homola i Erika Rimkutė badali możliwości tłumaczenia maszynowego przez ten system między językiem czeskim a litewskim. W latach 2005–2007 Uniwersytet Witolda Wielkiego realizował finansowany z funduszy strukturalnych Unii Europejskiej projekt „Internetowe narzędzie do tłumaczenia informacji”. Strukturę projektowanego systemu tłumaczenia maszynowego opisał Vidas Daudaravičius (2006: 7–18). Stworzono publiczne internetowe narzędzie do tłumaczenia z języka angielskiego na litewski12. Silnik tłumaczeniowy dostarczyła rosyjska firma PROMT. Część komponentów językowych systemu przygotowano na Litwie. System bardzo dobrze tłumaczył tylko niektóre typy zdań; dobre przekłady stanowiły mniejszość. W 2007 r. przeprowadzono ocenę językową tego systemu tłumaczenia maszynowego (Rimkutė, Kovalevskaitė 2008: 257–264). Audronė Daubarienė i Greta Ziezvytė (2013: 55–61) oceniły zgodność tłumaczeń systemu tłumaczenia maszynowego Uniwersytetu Witolda Wielkiego ze standardami tekstualności (De Beaugrande, Dressler 1981: 3). Autorki stwierdziły, że zbadane teksty tłumaczeń maszynowych z różnych gatunków, ze względu na liczne błędy semantyczne, nie spełniały kryteriów koherencji ani niektórych innych standardów tekstualności, dlatego takie przekłady nie mogą być akceptowalne ani informatywne dla czytelnika. W miarę upływu dziesięcioleci, a właściwie dreptania w miejscu, zaczęto dostrzegać, że język jest niezwykle złożonym zjawiskiem, które bardzo trudno opisać za pomocą reguł. Aby rozwiązać problemy wieloznaczności i tłumaczenia anafor, proponowano wykorzystywanie pozajęzykowej wiedzy o strukturze świata i jego logice (Bar-Hillel 1958: 197–207). Takiego uporządkowanego zasobu informacji jednak po prostu nie było, a formalny opis znaczenia tekstu wydawał się trudniejszym zadaniem niż samo tłumaczenie. Było oczywiste, że problemy tłumaczenia maszynowego wymagały rewolucyjnych rozwiązań. 2. STATYSTYCZNE TŁUMACZENIE MASZYNOWE W 1988 r. grupa naukowców IBM (Brown i in. 1988: 71–76) zaproponowała wykorzystanie w tłumaczeniu maszynowym informacji zawartej w korpusach równoległych, aby wyszukiwać najbardziej prawdopodobne warianty przekładu. Zaproponowany model tłumaczenia opiera się na założeniu, że w kanale zakłóconym następuje przekształcenie zdania w języku oryginału f w zdanie e w języku docelowym. Zakłócenia w kanale statystycznie zniekształcają zdanie w języku oryginału f, dlatego na wyjściu kanału możemy otrzymać różne zdania e, o najróżniejszej długości, mające jakiś sens w języku docelowym albo pozbawione go całkowicie. Ponieważ kanał ten dąży do poprawnego tłumaczenia, przez zakłócenia coraz częściej przedostają się prawidłowe warianty przekładu. 12 Dostęp w Internecie http://vertimas.vdu.lt/twsas/. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351-7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 8 W tym modelu zakłada się, że gdy do kanału zostaje wysłane zdanie f, najodpowiedniejszym wariantem przekładu ê spośród wszystkich e jest ten, którego warunkowe prawdopodobieństwo pojawienia się na wyjściu kanału p(e|f) jest największe, czyli ê = argmaxe p(e|f). Pojawia się tu problem polegający na tym, że aby znaleźć najlepszy wariant przekładu ê, trzeba przeanalizować nie tylko wszystkie możliwe zdania w języku docelowym, lecz także wszelkie możliwe kombinacje wyrazów w tym języku. Obliczenie takiej liczby prawdopodobieństw jest bardzo trudne. Po zastosowaniu twierdzenia Bayesa otrzymuje się łatwiejsze do obliczenia wyrażenie równoważne (Koehn i in. 2003: 127): argmaxe p(e|f) = argmaxe p(f|e) p(e) Ši lygtis yra pamatinė statistinio mašininio vertimo lygtis (Brown ir kt. 1993). Joje sąlyginė tikimybė p(f|e) parodo tikimybę, kad kanalu buvo pasiųstas sakinys f, jei išėjime pasirodė sakinys e. Šis lygties narys vadinamas vertimo modeliu, kuris apskaičiuojamas iš dvikalbių tekstynų. Antrasis lygties narys p(e) parodo sakinio e tikimybę vertimo kalboje. Šis narys aprašo kalbos modelį, kuris apskaičiuojamas iš vienkalbių vertimo kalbos tekstynų13. RYS. 2. Trójkąt Vauquois statystycznego tłumaczenia maszynowego Metoda tłumaczenia zaproponowana przez naukowców IBM od razu zaczęła konkurować z tłumaczeniem regułowym pod względem jakości przekładu. Twórców statystycznych systemów tłumaczenia maszynowego fascynowała możliwość tłumaczenia na wiele języków bez znajomości ani przekładu, ani gramatyki; wystarczyło wytrenować tworzone systemy na dostępnych korpusach tekstów. W klasycznym tłumaczeniu statystycznym nie przeprowadza się żadnej 13 Model językowy ogranicza zakres obliczeń, ponieważ pomaga od razu odrzucać zdania nieobecne w korpusach, ułatwia wybór najbardziej płynnego przekładu, a także pośrednio pokazuje, dlaczego literaturę piękną lepiej tłumaczy tłumacz(ka), którego(której) językiem docelowym jest język ojczysty. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 9 analizy zdań w języku oryginału ani syntezy zdań w języku docelowym (rys. 2); tłumaczenie odbywa się wyłącznie na podstawie prawdopodobieństw określonych podczas trenowania systemu. Zaproponowane przez Petera Browna i jego współpracowników modele pięciu układów wyrazów w przekładach nie były wystarczająco elastyczne: pozwalały przetłumaczyć wyraz języka oryginału jednym lub kilkoma wyrazami albo w ogóle go nie tłumaczyć. W 2003 r. zaproponowano (P. Koehn i in. 2003: 127–133) bardziej elastyczny model tłumaczenia maszynowego, zdolny do tłumaczenia także fraz z języka oryginału. W tym okresie szybko udoskonalano metody automatycznej oceny jakości tłumaczenia maszynowego, ponieważ bardzo ważne było szybkie ustalenie, która wersja dostrajanego systemu tłumaczenia maszynowego przekłada najlepiej. Dążono również do tego, aby taka ocena umożliwiała obiektywne porównywanie jakości przekładów różnych systemów. Z czasem jedną z najpopularniejszych stała się metryka BLEU (akronim angielskiego wyrażenia bilingual evaluation understudy) (Papineni i in. 2002: 311–318), która automatycznie porównuje, jak bardzo tekst tłumaczenia maszynowego odbiega od przekładu ludzkiego. Metryka ta nie uwzględnia zrozumiałości tekstu ani poprawności gramatycznej; zlicza jedynie dokładnie zgodne wyrazy lub frazy. Przy obliczaniu metryki zgodne frazy mają względnie większą wagę statystyczną niż pojedyncze zgodne wyrazy. W zależności od zadania do oceny jakości tłumaczenia maszynowego często stosuje się również inne metryki, uwzględniające jedną lub drugą korzystną właściwość: F-measure, METEOR (Banerjee, Lavie 2005: 62–72), NIST (Doddington 2002: 138–145), TER (Snover i in. 2006: 223–231) i wiele innych. Pomimo popularności statystycznego tłumaczenia maszynowego coraz wyraźniej ujawniały się ograniczenia tej metody w przypadku tłumaczenia na języki morfologicznie bogate (fleksyjne). W równoległych korpusach języków fleksyjnych najczęściej nie występują wszystkie możliwe formy fraz, a nawet poszczególnych rzadszych wyrazów. Jeśli niektórych możliwych form nie uwzględniono podczas trenowania systemu tłumaczenia maszynowego, formy te nie będą tłumaczone. Ta wada klasycznego tłumaczenia maszynowego wynika z niedostatku danych, który po wytrenowaniu systemu prowadzi do uzyskania rzadkiej macierzy prawdopodobieństw przekładu. Aby przezwyciężyć tę wadę, Philip Koehn i Hieu Hoang zaproponowali faktoryzowane statystyczne tłumaczenie maszynowe (Koehn, Hoang 2007a: 868–876). Zaproponowano włączenie dodatkowych informacji lingwistycznych do systemu tłumaczenia poprzez anotowanie równoległych korpusów znacznikami analizy lingwistycznej, które następnie wykorzystywano do trenowania systemu. W 2007 r. P. Koehn i jego współpracownicy udostępnili szerokiemu gronu odbiorców kompletny pakiet statystycznego tłumaczenia maszynowego Moses na otwartej licencji (Koehn i in. 2007b: 177–180). Zastosowanie faktoryzowanego statystycznego tłumaczenia maszynowego nieco poprawiało jakość przekładu na języki fleksyjne, zwykle o 1–2 procent BLEU (Bojar 2007: 235–236; Skadinš i in. 2010: 128–129). Od 25 września 2008 r. Google Translate, system statystycznego tłumaczenia maszynowego, zaczął tłumaczyć także na język litewski. W latach 2012–2014 Uniwersytet Wileński realizował projekt w ramach funduszy strukturalnych Unii Europejskiej BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 10 finansowany projekt „Stworzenie systemu tłumaczenia maszynowego angielsko-litewsko-angielskiego i francusko-litewsko-francuskiego opartego na metodach statystycznych”. Większość prac projektowych wykonała spółka UAB Tilde. Stworzono system MT ALPMAVIS i udostępniono publiczną internetową usługę statystycznego tłumaczenia maszynowego (https://www.versti.eu/)14. Według testów przeprowadzonych w 2014 r. oceny jakości tłumaczenia tekstów ogólnych (w metryce BLEU) ponad dwukrotnie przewyższały wyniki litewskiego tłumaczenia opartego na regułach i były praktycznie równe wynikom systemu tłumaczeniowego Google Translate. ALPMAVIS szczególnie dobrze tłumaczy teksty prawne. 3. JAKOŚĆ TŁUMACZENIA MASZYNOWEGO NA JĘZYK LITEWSKI Pojawienie się nowego zjawiska językowego — litewskich tekstów tłumaczonych maszynowo — sprawiło, że interesujące stało się ocenienie jakości takiego tłumaczenia w odniesieniu do języka ogólnego. Do oceny wybrano tekst ogólny, ponieważ lepiej odzwierciedla on język ogólny, a do pomiaru jakości tłumaczenia zastosowano metrykę BLEU. Do testowania jakości tłumaczenia wybrano tekst ogólny opublikowany w internecie15. Obliczenia BLEU przeprowadzono na podstawie dłuższego dokumentu niż jego fragmenty przedstawione poniżej, ponieważ oceny BLEU na poziomie zdań słabo korelują z ludzką oceną jakości (Kos, Bojar 2009: 140). Podane informacje pomogą czytelnikowi zrozumieć, jak procentowe oceny BLEU CI (obliczane bez rozróżniania wielkich i małych liter) wiążą się z jakością tłumaczenia maszynowego. Z drugiej strony, nawet nie patrząc na liczby, czytelnik może sam wyrobić sobie opinię o tym, jak tłumaczą systemy tłumaczenia maszynowego działające według wcześniej opisanych modeli. Poniżej przedstawiono warianty tłumaczenia tego samego tekstu oryginalnego, uzyskane przy użyciu różnych metod tłumaczenia. Przed przetłumaczonym tekstem podano metodę tłumaczenia, datę tłumaczenia w internecie oraz procentową ocenę BLEU CI. Tekst oryginalny w języku angielskim: Każdy pragnie długiego, szczęśliwego i zdrowego życia, a naukowcy robią wszystko, co w ich mocy, aby to umożliwić. Zajmują się niektórymi z najważniejszych obecnych problemów zdrowotnych, a także pojawiającymi się zagrożeniami, takimi jak rosnący wpływ choroby Alzheimera, cukrzycy i opornych na antybiotyki „superbakterii”. Inwestycje w badania i innowacje w dziedzinie zdrowia pomogą nam zachować aktywność, opracować nowe, bezpieczniejsze i skuteczniejsze metody leczenia oraz wesprą nasze systemy ochrony zdrowia i opieki 14 ALPMAVIS jest również dostępna za pośrednictwem zintegrowanego systemu informacyjnego zasobów języka i piśmiennictwa litewskiego Raštija.lt (www.raštija.lt). 15 Iš programos HORIZON 2020. Europos Komisijos Mokslinių tyrimų ir inovacijų generalinis direktoratas 2014. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 11 wykonalne. Zapewni lekarzom narzędzia potrzebne do bardziej spersonalizowanej medycyny oraz zintensyfikuje profilaktykę i leczenie chorób przewlekłych i zakaźnych. Tłumaczenie wykonane przez tłumacza: Wszyscy chcą żyć długo i szczęśliwie oraz cieszyć się zdrowiem, a naukowcy dokładają wszelkich starań, by stało się to możliwe. Próbują rozwiązać niektóre z najważniejszych istniejących problemów zdrowotnych i pojawiających się zagrożeń, takich jak narastające problemy związane z chorobą Alzheimera, cukrzycą i mikroorganizmami odpornymi na antybiotyki. Inwestycje w badania naukowe i innowacje w opiece zdrowotnej pomogą nam pozostać aktywnymi, opracowywać nowe, bezpieczniejsze i skuteczniejsze metody leczenia oraz utrzymać żywotność naszego systemu opieki zdrowotnej. Zapewnią lekarzom narzędzia niezbędne do dobierania leków do indywidualnych potrzeb pacjentów; przyczynią się także do profilaktyki i leczenia chorób przewlekłych i zakaźnych. Regułowe tłumaczenie maszynowe VDU, 2014 09 19, BLEU – 8,54: Każdy pragnie długiego, szczęśliwego i zdrowego życia, a naukowcy starają się, aby było to możliwe. Zajmują się niektórymi z najważniejszych aktualnych problemów zdrowotnych, a także pojawiającymi się zagrożeniami, takimi jak nasilający się wpływ choroby Alzheimera, cukrzycy i odpornych na antybiotyki „superbakterii”. Inwestycje w badania nad zdrowiem i innowacje pomogą nam pozostać aktywnymi, rozwijać nowe, bezpieczniejsze i skuteczniejsze metody leczenia oraz utrzymać nasze systemy opieki zdrowotnej w dobrej kondycji. Zapewni to lekarzom narzędzia potrzebne do bardziej spersonalizowanej medycyny oraz zwiększy możliwości zapobiegania chorobom przewlekłym i zakaźnym i ich leczenia. Statystyczne tłumaczenie maszynowe ALPMAVIS, 2014 09 19, BLEU – 17,59: Wszyscy pragną długiego, szczęśliwego i zdrowego życia, a naukowcy starają się, by stało się to możliwe. Zajmują się niektórymi z najważniejszych problemów zdrowotnych i pojawiającymi się zagrożeniami, takimi jak nasilający się wpływ choroby Alzheimera, cukrzycy i odpornych na antybiotyki „superbakterii”. Inwestycje w badania nad zdrowiem i innowacje pomogą nam pozostać aktywnymi, opracowywać nowe, bezpieczniejsze i skuteczniejsze metody leczenia oraz wspierać żywotność systemów opieki zdrowotnej. Zapewni to lekarzom narzędzia potrzebne do bardziej spersonalizowanej medycyny oraz pobudzi profilaktykę i leczenie chorób przewlekłych i zakaźnych. Google – statystyczne tłumaczenie maszynowe, 2014 09 19, BLEU – 17,10: Każdy z nas dąży do długiego, zdrowego i szczęśliwego życia, a naukowcy dokładają wszelkich starań, by to osiągnąć. Zajmują się niektórymi z najważniejszych problemów zdrowotnych, a także nowymi zagrożeniami, takimi jak nasilający się wpływ choroby Alzheimera, cukrzycy i „superbakterii” odpornych na antybiotyki. Inwestycje w badania naukowe i innowacje w dziedzinie zdrowia pomogą nam pozostać aktywnymi, opracowywać nowe, bezpieczniejsze i skuteczniejsze metody leczenia oraz wspierać trwałość naszych systemów opieki zdrowotnej. Zapewni to lekarzom narzędzia potrzebne do praktykowania bardziej spersonalizowanej medycyny oraz podejmowania większych starań na rzecz zapobiegania chorobom zakaźnym i przewlekłym oraz ich leczenia. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351-7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 12 Microsoft Translator (Bing) tłumaczenie maszynowe statystyczne, 2017 09 27, BLEU −16,68: Każdy pragnie długiego, szczęśliwego i zdrowego życia, a naukowcy robią wszystko, aby to było możliwe. Walczą z niektórymi z głównych problemów zdrowotnych współczesności, a także z nowymi zagrożeniami, takimi jak choroba Alzheimera, cukrzyca i rosnące skutki działania superbakterii odpornych na antybiotyki. Inwestycje w badania naukowe i innowacje w dziedzinie zdrowia pomogą nam pozostać aktywnymi, opracowywać nowe, bezpieczniejsze i skuteczniejsze metody leczenia oraz utrzymywać w dobrej kondycji nasze zdrowie i systemy opieki zdrowotnej. Zapewniają one narzędzia niezbędne do bardziej spersonalizowanej medycyny, a także wzmocnią profilaktykę i leczenie chorób przewlekłych i zakaźnych. Przedstawione fragmenty tłumaczenia maszynowego odzwierciedlają typową jakość tłumaczenia maszynowego w przypadku tekstów ogólnych. Znacznie lepsze tłumaczenia tekstów ogólnych uzyskuje się tylko wtedy, gdy tłumaczony tekst został wcześniej wykorzystany do trenowania systemu. Obiektywna ocena jakości tłumaczenia systemu TM jest możliwa wyłącznie przy użyciu tekstów, które nigdy nie były wykorzystywane do jego trenowania. Trzeba przyznać, że działające obecnie systemy statystycznego i opartego na regułach tłumaczenia maszynowego nadal słabo tłumaczą teksty ogólne na język litewski. 4. NEURONOWE TŁUMACZENIE MASZYNOWE W 2013 r. Nal Kalchbrenner i Phil Blunsom zaproponowali wykorzystanie sieci neuronowych do tłumaczenia maszynowego (Kalchbrenner, Blunsom 2013: 1700–1709). Pomysł wykorzystania procesorów graficznych komputerów do obliczeń sieci neuronowych otworzył możliwości rozwiązywania rzeczywistych problemów, w tym wykonywania tłumaczenia maszynowego. Do realizacji neuronowego tłumaczenia maszynowego (NTM) wykorzystuje się miliony sztucznych neuronów. Koncepcja NTM jest dość prosta — koder przekształca całe zdanie w języku źródłowym w wektor w przestrzeni o kilkuset wymiarach, zwany wektorem myśli16, składający się z ciągu liczb, który w ten sposób przedstawia znaczenie zdania. W istocie wektor ten jest zwektoryzowaną myślą zawartą w zdaniu. Kierunki wektorów przedstawiających pokrewne przedmioty i idee niewiele się różnią17. Dekoder generuje tłumaczenie na podstawie wektora myśli. Zarówno koder, jak i dekoder są konstruowane w oparciu o rekurencyjne sieci neuronowe (Sutskever ir kt. 2014: 3104–3112; Cho ir kt. 2014: 1724–1734). 16 Termin spopularyzował Geoffrey Hinton, jeden z najwybitniejszych twórców sztucznej inteligencji. 17 Można się o tym przekonać, eksperymentując na przykład z narzędziem do wektoryzacji word2vec (Mikolov ir kt. 2013: 3111–3119). BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 13 RYS. 3. Trójkąt Vauquoisa w neuronowym tłumaczeniu maszynowym Na rys. 3 przedstawiono schemat neuronowego tłumaczenia maszynowego według trójkąta Vauquoisa18. Należy zwrócić uwagę, że automatycznie osiągany jest wysoki poziom analizy, zbliżony do interlingwy. System NTM jest trenowany przy użyciu tekstów równoległych. Podczas trenowania rekurencyjne sieci neuronowe automatycznie kodują informacje morfologiczne, składniowe i semantyczne zawarte w zdaniach, wraz z wykrytymi prawidłowościami o różnym stopniu ogólności. Wreszcie tłumaczenie maszynowe stało się nieodłącznym elementem rozwoju sztucznej inteligencji. Neuronowe tłumaczenie maszynowe szybko się rozwija i daje znacznie lepsze wyniki niż tłumaczenie maszynowe oparte na regułach lub statystyczne. Badając możliwości NTM, szybko natrafiono na nowe zjawisko — sieci neuronowe potrafiły tłumaczyć między parami języków, dla których nie były bezpośrednio trenowane. Jeżeli system NTM został wytrenowany do tłumaczenia z języka A na język B, a także z języka A na język C, potrafi również tłumaczyć z języka B na język C (Johnson 2017: 339–351), choć jakość tłumaczenia jest nieco niższa. Zjawisko to można określić jako tłumaczenie zero-shot (ang. zero-shot translation). Oznacza to, że podczas trenowania sieć neuronowa systemu TM tworzy własną interlingwę, zrozumiałą tylko dla niej samej. Pod koniec 2016 r. Google Translate (GT) zaczął wykorzystywać tłumaczenie neuronowe. Oto jak wygląda neuronowe tłumaczenie naszego przykładu ilustracyjnego (Google neuronowe tłumaczenie maszynowe 2017 09 14, BLEU CI – 25,94): 18 Przedstawienie neuronowego tłumaczenia maszynowego według trójkąta Vauquoisa opublikowano w 2016 r. w internetowej publikacji SYSTRAN „Pure Neural Machine Translation”. Dostęp online: http://www.systransoft.com/download/white-papers/systran-white-paper-PNMT-12-2016_2.pdf, (dostęp: 2017 11 06). BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 14 Wszyscy pragną długiego, szczęśliwego i zdrowego życia, a naukowcy robią wszystko, aby było to możliwe. Dzięki nim rozwiązywane są niektóre z najważniejszych współczesnych problemów zdrowotnych, a także pojawiające się zagrożenia, takie jak rosnący wpływ choroby Alzheimera, cukrzycy i odpornych na antybiotyki „superbugs”. Inwestycje w badania naukowe i innowacje w dziedzinie zdrowia pomogą nam zachować aktywność, opracowywać nowe, bezpieczniejsze i skuteczniejsze metody leczenia, a nasze systemy zdrowia i opieki będą mogły sprawnie funkcjonować. Zapewni to lekarzom narzędzia potrzebne do bardziej zindywidualizowanej medycyny, a tym samym usprawni profilaktykę i leczenie chorób przewlekłych oraz zakaźnych. Trzeba przyznać, że nasz przykład sieć neuronowa przetłumaczyła nieporównanie lepiej niż systemy maszynowego tłumaczenia oparte na regułach czy statystyce. Jak dotąd GT nie wszystko tłumaczy równie dobrze; na przykład po próbie przetłumaczenia Beauty requires no ornaments otrzymano – Grožis nereikalingas papuošalams. Podobne eksperymenty pozwalają wykryć wiele przypadków, w których GT tłumaczy bardzo źle, a zatem wciąż jest co udoskonalać. Uniwersytet Wileński zamierza w 2018 roku rozpocząć wdrażanie nowej generacji neuronowego tłumaczenia maszynowego dla języków angielskiego, litewskiego, polskiego, francuskiego, rosyjskiego i niemieckiego. System tłumaczenia zostanie zintegrowany z automatyczną konwersją tekstu na mowę oraz tłumaczeniem tekstu dyktowanego po litewsku. 5. UWAGI KOŃCOWE Postęp w dziedzinie tłumaczenia maszynowego jest dziś już nierozerwalnie związany z osiągnięciami w rozwoju sztucznej inteligencji. Pod względem jakości tłumaczenia wszystkie klasyczne metody TM wymagają udoskonalenia; ich możliwości nie zostały wyczerpane i nie wiadomo, gdzie przebiegają ich granice. Romantyczny okres łatwych osiągnięć dobiegł końca; heurystyczne metody matematyczne czy inżynieryjne nie zawsze pomagają. Dzieci uczą się języka jakby automatycznie, bez wysiłku, ale później ich język doskonali się jedynie poprzez naukę gramatyki i studiowanie literatury. Wydaje się, że dalsze udoskonalanie tłumaczenia maszynowego jest trudne do wyobrażenia bez większego zaangażowania językoznawców. Zaangażowanie to ułatwiają narzędzia do tłumaczenia maszynowego udostępniane na platformach open source: np. Apertium do tłumaczenia opartego na regułach (Forcada i in. 2011: 127–144); Moses (Koehn i in. 2007b: 177–180), LetsMT! (Vasiljevs i in. 2012: 43–48) – do tłumaczenia statystycznego, TensorFlow, OpenNMT – do tłumaczenia neuronowego. Należy mieć nadzieję, że litewscy językoznawcy połączą wysiłki, by sprostać współczesnym wyzwaniom lingwistyki komputerowej, ponieważ niektóre z nich mają egzystencjalne znaczenie dla naszego języka. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 15 LITERATŪRA Banerjee S., Lavie A. 2005: METEOR: An Automatic Metric for MT Evaluation with Improved Correlation with Human Judgments. – Proceedings of Workshop on Intrinsic and Extrinsic Evaluation Measures for MT and/or Summarization at the 43th Annual Meeting of the Association of Computational Linguistics (ACL-2005), Ann Arbor, Michigan, 62–72. Bar-Hillel Y. 1958: Some linguistic obstacles to machine translation. – Proceedings of the Second International Congress on Cybernetics, Namur, 197–207. Bojar O. 2007: English-to-Czech factored machine translation. – Proceedings of the Second Workshop on Statistical Machine Translation, Prague, Czech Republic, 232–239. Brown P. F., Cocke J., Della Pietra S. A., Della Pietra V. J., Jelinek F., Mercer R. L., Roossin P. S. 1988: A statistical approach to language translation. – Proceedings of COLING 1988: The 12th International Conference on Computational Linguistics, Budapest, 71–76. Brown P. F., Della Pietra S. A., Della Pietra V. J., Mercer R. L. 1993: Mathematics of statistical machine translation: Parameter estimation. – Computational Linguistics 19(2), 263–311. Cho K., Bart van Merrienboer, Gulcehre C., Bougares F., Schwenk H., Bengio Y. 2014: Learning phrase representations using RNN encoder-decoder for statistical machine translation. – Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), Association for Computational Linguistics, Doha, Qatar, 1724–1734. Commission of the European Communities 1994: Final Evaluation Of The Results Of Eurotra: A Specific Programme Concerning The Preparation Of The Development Of An Operational Eurotra System For Machine Translation. DIANE Publishing Company, 1995, 194. Daubarienė A., Ziezytė G. 2013: Machine translation: translated texts in terms of standards of textuality. – Kalbų studijos 22, 55–61. Daudaravičius V., 2006: Pradžia į begalybę. Mašininis vertimas ir lietuvių kalba. – Darbai ir dienos: Pažangos šuoliai 45, 7–18. Daumas M. 1965: Les machines à traduire de Georges Artsrouni. – Revue d'histoire des sciences et de leurs applications, tome 18, n°3, 283–302. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 16 De Beaugrande R. A., Dressler W. U. 1981: Introduction to Text Linguistics, London: Longman, 270. Doddington G. 2002: Automatic Evaluation of Machine Translation Quality Using Ngram Co-occurrence Statistics. – Proceedings of the Second International Conference on Human Language Technology Research, San Francisco, CA, USA., Morgan Kaufmann Publishers Inc., 138–145. Forcada M. L, Ginestí-Rosell M., Nordfalk J., O'Regan J., Ortiz-Rojas S., Pérez-Ortiz J. A., Sánchez-Martínez F., Ramírez-Sánchez G., Tyers F. M. 2011: Apertium: a free/open-source platform for rule-based machine translation. – Machine Translation 25 (2), Free/Open-Source Machine Translation (June 2011), 127–144. Hajič J., Hric J., Kuboň V. 2000: Machine Translation of Very Close Languages. – Proceedings of the 6th Applied Natural Language Processing Conference, Association for Computational Linguistics, 7–12. Homola P., Rimkutė E. 2004: Artimų kalbų mašininis vertimas. – Kalbų studijos 6, 77–81. Hutchins J. 2004a: Two precursors of machine translation: Artsrouni and Trojanskij. – International Journal of Translation 16(1), 11–31. Hutchins J. 2004b: The Georgetown-IBM experiment demonstrated in January 1954. – Proceedings of the 6th Conference of the Association for Machine Translation in the Americas, AMTA, Washington, DC, 102–114. Johnson M., Schuster M., Le V. Q., Krikun M., Wu Y., Chen Z., Thorat N., Viégas F. B., Wattenberg M., Corrado G., Hughes M., Dean J. 2017: Google's Multilingual Neural Machine Translation System: Enabling Zero-Shot Translation. – Transactions of the Association of Computational Linguistics 5 (1), 339–351. Kalchbrenner N., Blunsom P. 2013: Recurrent Continuous Translation Models. – Proc. of EMNLP, October, Association for Computational Linguistics, Seattle, Washington, USA, 1700–1709. Koehn P., Hoang H. 2007a: Factored translation models. – Proceedings of the Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning, ACL, 868–876. Koehn P., Hoang H., Birch A., Callison-Burch C., Federico M., Bertoldi N., Cowan B., Shen W., Moran C., Zens R., Dyer C., Bojar O., Constantin A., Herbst E. 2007b: Moses: Open source toolkit for statistical machine BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351-7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 17 translation. – 45th Annual Meeting of the Association for Computational Linguistics (ACL), Companion Volume, 177–180. Koehn P., Och F. J., Marcu D. 2003: Statistical phrase-based translation. – Proceedings of HLT-NAACL, 127–133. Kos K., Bojar O. 2009: Evaluation of Machine Translation Metrics for Czech as the Target Language. – Prague Bull. Math. Linguistics 92, 135–148. McCulloch W., Pitts W. 1943: A logical calculus of the ideas immanent in nervous activity. – Bulletin of Mathematical Biophysics 5, 115–133. Mikolov T., Sutskever I., Chen K., Corrado G. S., Dean J. 2013: Distributed Representations of Words and Phrases and their Compositionality – Proceedings of the 26th International Conference on Neural Information Processing Systems, Lake Tahoe, Nevada, Vol. 2, 3111–3119. Mitamura T., Nyberg E., Carbonell J. 1991: An efficient interlingua translation system for multi-lingual document production. – Proceedings of Machine Translation Summit III, Washington, DC. Perspausdinta: – Progress in Machine Translation, ed. S. Nirenburg, IOS Press, (1993), 105–118. Papineni K., Roukos S. Ward T., Zhu W. J. 2002: BLEU: a method for automatic evaluation of machine translation. – ACL-2002: 40th Annual meeting of the Association for Computational Linguistics, 311–318. Reifler E. 1960: The solution of MT linguistic problems through lexicography. – Proceedings of the National Symposium on Machine Translation, (February 2–5, 1960), ed. H.P. Edmunson, London: Prentice-Hall, (1961), 312–316. Rimkutė E., Kovalevskaitė J. 2008: Linguistic Evaluation of the First English-Lithuanian Machine Translation System. – Proceedings of the Third Baltic Conference on Human Language Technologies (2007), Kaunas, 257–264. Skadinš R., Goba K., Šics V. 2010: Improving SMT for Baltic Languages with Factored Models. – Proceedings of the Fourth International Conference Baltic HLT, Frontiers in Artificial Intelligence and Applications, Vol. 219, IOS Press, 125–132. Snover M., Dorr B., Schwartz R., Micciulla L., Makhoul J. 2006: A Study of Translation Edit Rate with Targeted Human Annotation. – Proceedings of the 7th Conference of the Association for Machine Translation in the Americas, Morristown, NJ, USA, 223–231. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 18 Sutskever I., Vinyals O., V. Le Q. V. 2014: Sequence to sequence learning with neural networks. – Proceedings of the 27th International Conference on Neural Information Processing Systems, Montreal, Canada, Vol. 2, MIT Press Cambridge, MA, USA, 3104–3112. Šveikauskienė D. 2005: Graph Representation of the Syntactic Structure of the Lithuanian Sentence. – Informatica 16 (3), 407–418. Toma P. 1977: Systran as a multilingual machine translation system. – Proceedings of the Third European Congress on Information Systems and Networks, Overcoming the language barrier, München, 569–581. Vasiljevs A., Skadiņš R., Tiedemann J. 2012: LetsMT!: a cloud-based platform for do-it-yourself machine translation – Proceedings of the ACL, System Demonstrations, Jeju Island, Korea, 43–48. Vauquois B. 1976: Automatic translation – A survey of different approaches. – COLING-76, Ottawa. Perspausdinta: – Readings in machine translation, eds. S. Nirenburg, H. L. Somers, Y. Wilks, MIT Press, (2003), 333–337. Weaver W. 1949: Translation. – Perspausdinta: – Machine Translation of Languages, MIT Press, Cambridge, MA. (1955), 15–23. Įteikta 2017 11 13 Priimta 2017 12 20 MACHINE TRANSLATION FOR LITHUANIAN LANGUAGE Summary The paper presents a historical overview as well as current state of the art of the machine translation. Translation from another language is always a certain intellectual challenge. In 1949 Warren Weaver suggested using computers to translate texts. The term "machine translation" (MT) appears. Machine translation has been rapidly developing during the first decades in order to gain a strategic advantage in the Cold War. Most popular translated languages were Russian and English. Word-to-word translation and large bilingual dictionaries covering more than 170,000 words prevailed. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Masininis vertimas lietuvių kalbai | 19 In the 1950s and 1960s, machine translation systems appeared which could be called rule-based. They are based on the assumption that a language can be described using a set of rules (including grammatical). It was a rather optimistic period – it was expected to create a perfect machine translation in a few years. But a computer hardly "understands" grammar. Highly inflected languages require tens of thousands thoroughly hand-tuned and mutually consistent rules. Nobody has done this properly yet. The most advanced systems were the SYSTRAN MT system, launched in the European Commission and the Russian PROMT translation system. Subsequently, the rule-based MT progress slowed down. The EUROTRA project (1982–1992), by some estimates costing more than 50,000,000 ECU, fails – even hundreds of recruited specialists failed to create a functioning MT system. This marked a serious rule-based MT crisis. Development simply stalled for many forthcoming years. The question was raised: if we cannot write so many rules, can it be translated without grammar at all? In 1990 a new breakthrough emerges – the research team at the IBM Thomas J. Watson Research Center formulates the basics of statistical machine translation. The translation process has been considered as a transmission of a certain message over a noisy channel. Decoding then has been performed on the basis of the Bayesian theorem. Translation is based on text corpora, especially on large parallel bilingual text corpora. There was a rapid improvement of statistical MT. The EuroMatrix project, supported by the European Commission, has created a universal open source machine translation software package MOSES, based on industry-level MT systems. Good results have been obtained – it turns out that you can translate without any dictionary or grammar! This method has greatly facilitated the translation of highly inflected languages too. The achievements of machine translation today are effectively applied to the Lithuanian language as well. During 2005–2007 Vytautas Magnus University has carried out an EU-funded project "Internet Information Translator". The result was a public online translation service from English to Lithuanian. (http://vertimas.vdu.lt/twsas/). The rule-based translation engine was provided by the Russian company PROMT, while other linguistic resources were prepared in Lithuania. The overall quality of text translation in BLEU metrics (in percent) is about 10. In practice, this means that only every third sentence can be adequately understood. This translation tool still has considerable potential for improving, for example by expanding phrase dictionary. Since September 25, 2008 Google Translate also supports Lithuanian. According to the results of the tests (2014), the BLEU translation quality was estimated to be around 17. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351-7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 20 2012–2014 Vilnius University implemented the EU-funded project "Creation of English-Lithuanian-English and French-Lithuanian-French machine translation system based on statistical methods". The result was a public online translation service (https://www.versti.eu/). According to the tests carried out in 2014, the BLEU estimates of the translation quality exceeded more than twice the rule-based translation results and were practically equivalent to the Google translation system. When translating the documents of certain domain (such as law) the achieved BLEU score is roughly twice as high as translating general texts and far exceeds Google's results (19-09-2014). However, even the best machine translations often require human intervention and final editing in order to get the perfect translation. So, can machines ultimately translate fine? The last few years promise new breakthroughs using a neural machine translation. Neural networks themselves construct transformation rules. It is likely that in the near future the neural MT systems will translate better than an average translator. In 2018 Vilnius University is preparing to launch the EU-funded project of a new generation neural machine translation of English, Lithuanian, Polish, French, Russian and German. Thus, the latest achievements in machine translation apply to the Lithuanian language as well. KEYWORDS: Lithuanian, machine translation, computational linguistics, history, neural networks, artificial intelligence. DANIELIUS ALGIRDAS RALYS Vilniaus universiteto Taikomųjų mokslų institutas M. K. Čiurlionio g. 29, 03100 Vilnius [email protected] BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351-7204