कंप्यूटर-सहायक अनुवाद के लिए तंत्रिका गुणवत्ता अनुमान और स्वचालित अनुवाद-पश्चात संपादन

विषय-सूची

1. परिचय

न्यूरल मशीन अनुवाद के उदय ने मशीन द्वारा अनुवाद उत्पन्न करने की प्रतिमान में बदलाव लाया। हालांकि, NMT आउटपुट और मानव मानक के बीच गुणवत्ता का अंतर, मैनुअल पोस्ट-एडिटिंग को एक आवश्यक लेकिन समय लेने वाली प्रक्रिया बना देता है। यह पेपर एक एंड-टू-एंड डीप लर्निंग फ्रेमवर्क प्रस्तावित करता है जो एकीकृत करता हैगुणवत्ता आकलन与स्वचालित पोस्ट-एडिटिंगइसका लक्ष्य एक व्याख्यात्मक, पदानुक्रमित मॉडल के माध्यम से सुधार सुझाव प्रदान करके मानव अनुवादकों के बोझ को कम करना है, जो मानव पोस्ट-एडिटिंग व्यवहार की नकल करता है।

2. संबंधित कार्य

यह अध्ययन कई अंतर्गुंथित शोध धाराओं पर आधारित है: न्यूरल मशीन अनुवाद, गुणवत्ता अनुमान (संदर्भ अनुवाद के बिना अनुवाद गुणवत्ता की भविष्यवाणी), और स्वचालित पोस्ट-एडिटिंग (मशीन अनुवाद आउटपुट का स्वचालित सुधार)। यह स्वयं को कंप्यूटर-सहायता प्राप्त अनुवाद पारिस्थितिकी तंत्र के भीतर स्थापित करता है, जिसका उद्देश्य स्वतंत्र मशीन अनुवाद या गुणवत्ता अनुमान प्रणालियों से आगे बढ़कर एक एकीकृत, निर्णय-संचालित प्रक्रिया की ओर अग्रसर होना है।

3. पद्धति

The core innovation is a hierarchical model comprising three delegated modules, which are tightly integrated into the Transformer neural network.

3.1 स्तरित मॉडल आर्किटेक्चर

मॉडल सबसे पहले एक सूक्ष्म-दानेदार गुणवत्ता अनुमान मॉड्यूल के माध्यम से मशीन अनुवाद उम्मीदवार वाक्यों को छानता है। पूर्वानुमानित समग्र गुणवत्ता स्कोर के आधार पर, वाक्यों को सशर्त रूप से दो पोस्ट-एडिटिंग पथों में से एक पर रूट किया जाता है।

3.2 गुणवत्ता आकलन मॉड्यूल

यह मॉड्यूल विस्तृत टोकन-स्तरीय त्रुटियों (जैसे, गलत अनुवाद, छूटे हुए अनुवाद) का पूर्वानुमान लगाता है, और उन्हें वाक्य-स्तरीय समग्र गुणवत्ता स्कोर में संक्षेपित करता है। यह स्रोत वाक्य और मशीन अनुवाद आउटपुट का विश्लेषण करने के लिए ट्रांसफॉर्मर-आधारित एनकोडर का उपयोग करता है।

3.3 जेनरेटिव पोस्ट-एडिटिंग

गुणवत्ता अनुमान मॉड्यूल द्वारानिम्न गुणवत्तावाक्यों के लिए, अनुवाद को पूरी तरह से पुनर्व्यक्त और पुनर्लेखित करने के लिए एक अनुक्रम-से-अनुक्रम जनरेटिव मॉडल (Transformer-आधारित) का उपयोग किया जाता है। यह प्रश्न खंड के लिए पूर्ण पुनः-अनुवाद के समान है।

3.4 एटॉमिक ऑपरेशन पोस्ट-एडिटिंग

छोटी-छोटी त्रुटियों वालेउच्च गुणवत्तावाक्यों के लिए, एक अधिक कुशल मॉड्यूल का उपयोग किया जाता है। यह टोकन स्तर पर परमाणु संपादन संचालन (जैसे,बनाए रखना、डिलीट、रिप्लेस विथ _X), ताकि मूल मशीन अनुवाद आउटपुट में न्यूनतम परिवर्तन किया जा सके। स्थिति $t$ पर ऑपरेशन $o_t$ की संभावना को इस प्रकार मॉडल किया जा सकता है: $P(o_t | \mathbf{s}, \mathbf{mt}_{1:t}) = \text{Softmax}(\mathbf{W} \cdot \mathbf{h}_t + \mathbf{b})$, जहाँ $\mathbf{h}_t$ मॉडल की छिपी हुई अवस्था है, $\mathbf{s}$ स्रोत वाक्य है, और $\mathbf{mt}$ मशीन अनुवाद आउटपुट है।

4. प्रयोग और परिणाम

4.1 डेटासेट और प्रयोगात्मक सेटअप

मूल्यांकन किया गयाWMT 2017 APE साझा कार्यके अंग्रेजी-जर्मन डेटासेट पर किया गया। मानक मेट्रिक्स BLEU (जितना अधिक उतना बेहतर) और TER (अनुवाद संपादन दर, जितना कम उतना बेहतर) का उपयोग किया गया।

4.2 मात्रात्मक परिणाम (BLEU/TER)

प्रस्तावित पदानुक्रमित मॉडल ने WMT 2017 APE कार्य पर अत्याधुनिक प्रदर्शन हासिल किया, जो BLEU और TER स्कोर दोनों में शीर्ष रैंकिंग विधियों से बेहतर है। यह सशर्त रूटिंग रणनीति और दोहरी पोस्ट-एडिटिंग पद्धति की प्रभावशीलता को प्रमाणित करता है।

4.3 मानवीय मूल्यांकन

एक नियंत्रित मानव मूल्यांकन में, प्रमाणित अनुवादकों से मशीन अनुवाद आउटपुट का इस APE प्रणाली की सहायता से और बिना सहायता के पोस्ट-संपादन करने को कहा गया। परिणामों से पता चला कि APE सुझावों का उपयोग करने पर,पोस्ट-संपादन समय में उल्लेखनीय कमी आई।, जिसने वास्तविक दुनिया के कंप्यूटर-सहायता प्राप्त अनुवाद कार्यप्रवाह में इस प्रणाली की व्यावहारिक उपयोगिता की पुष्टि की।

5. तकनीकी विश्लेषण एवं ढांचा

5.1 मूल अंतर्दृष्टि एवं तार्किक प्रवाह

मूल अंतर्दृष्टि: इस लेख की मूलभूत सफलता केवल एक और APE मॉडल नहीं है; बल्कि यह है किमानव-सहायित अनुवाद संपादन की संज्ञानात्मक प्रक्रियारणनीतिक रूप से न्यूरल नेटवर्क द्वारा निष्पादित किए जा सकने वाले निर्णय वृक्षों में विघटित। वे एक एकल "सुधार" मॉडल अपनाने के बजाय, पेशेवर अनुवादक के पहले चरण का अनुकरण करते हैं:मूल्यांकन करें, फिर उचित कार्रवाई करें. यह उन्नत रोबोटिक्स और सुदृढीकरण सीखने में आम "पहले अनुमान लगाओ, फिर कार्य करो" प्रवाह को दर्शाता है, और इसे भाषा सुधार पर लागू करता है। जेनरेटिव संपादन और परमाणु संपादन के बीच चयन, मानव द्वारा एक अजीब पैराग्राफ को फिर से लिखने या केवल एक वर्तनी त्रुटि को सुधारने के निर्णय के सीधे अनुरूप है।

तार्किक प्रवाह: यह प्रवाह सुंदरता से अनुक्रमिक लेकिन सशर्त है।1) निदान (गुणवत्ता आकलन): एक सूक्ष्म-दानेदार, टोकन-स्तरीय त्रुटि पहचान प्रणाली एक नैदानिक उपकरण के रूप में कार्य करती है। यह वाक्य-स्तरीय स्कोरिंग से अधिक उन्नत है, जो समस्या का एक "हीटमैप" प्रदान करती है।2) ट्रायेज: निदान के परिणाम एक द्विआधारी निर्णय में संक्षेपित किए जाते हैं: क्या यह एक "रोगग्रस्त" वाक्य (निम्न गुणवत्ता) है या मामूली "लक्षणों" वाला एक "स्वस्थ" वाक्य (उच्च गुणवत्ता) है?3) उपचार: गंभीर मामलों (निम्न गुणवत्ता) को जेनरेटिव मॉडल द्वारा "गहन देखभाल" प्राप्त होती है - समस्या वाले खंडों का पूर्ण पुनः अनुवाद किया जाता है। स्थिर मामलों (उच्च गुणवत्ता) पर परमाणु संचालन के माध्यम से "न्यूनतम आक्रामक सर्जरी" की जाती है। यह प्रवाह सुनिश्चित करता है कि कंप्यूटेशनल संसाधनों का कुशल आवंटन हो, यह सिद्धांत सिस्टम ऑप्टिमाइजेशन सिद्धांत से उधार लिया गया है।

5.2 लाभ और कमियाँ

लाभ:

1. मानव-केंद्रित डिज़ाइन: इसकी तीन-मॉड्यूल संरचना सबसे बड़ा लाभ है। यह APE को एक ब्लैक-बॉक्स टेक्स्ट-टू-टेक्स्ट समस्या के रूप में नहीं देखता, बल्कि इसे व्याख्यात्मक उप-कार्यों (गुणवत्ता आकलन, प्रमुख पुनर्लेखन, सूक्ष्म संपादन) में विघटित करता है, जिससे सिस्टम का आउटपुट पेशेवर अनुवादकों के लिए अधिक विश्वसनीय और डीबग करने में आसान हो जाता है। यह महत्वपूर्ण अनुप्रयोगों में व्याख्यात्मक कृत्रिम बुद्धिमत्ता की दिशा में प्रयासों के अनुरूप है।
2. संसाधन दक्षता: सशर्त निष्पादन समझदारी है। एक शब्द को बदलने के लिए ही क्यों भारी-भरकम जनरेटिव मॉडल चलाएं? यह गतिशील रूटिंग मिश्रित विशेषज्ञ मॉडल या Google के Switch Transformer की याद दिलाती है, जो तैनाती के लिए एक स्केलेबल रास्ता प्रदान करती है।
3. अनुभवजन्य सत्यापन: WMT बेंचमार्क पर ठोस परिणाम, साथ हीवास्तविक मानव मूल्यांकनप्रदर्शित समय की बचत, यह स्वर्ण मानक है। बहुत से शोधपत्र BLEU स्कोर पर ही रुक जाते हैं; उपयोगकर्ता अध्ययन में इसकी प्रभावशीलता साबित करना, इसके व्यावहारिक मूल्य का एक मजबूत सबूत है।

कमियाँ एवं सीमाएँ:

1. द्विआधारी रूटिंग अत्यधिक सरलीकृत है: उच्च/निम्न गुणवत्ता का द्विआधारी विभाजन एक महत्वपूर्ण बाधा है। मानवीय पोस्ट-एडिटिंग एक सातत्य में मौजूद है। एक वाक्य 80% सही हो सकता है, लेकिन उसमें एक महत्वपूर्ण, संदर्भ-विघटनकारी त्रुटि (एक 'उच्च' स्कोर वाला घातक दोष) हो सकती है। द्विआधारी गेट इसे एटॉमिक एडिटिंग के लिए गलत तरीके से रूट कर सकता है, जिससे स्थानीय लेकिन गहन पुनर्जनन की आवश्यकता की अनदेखी होती है। क्वालिटी एस्टीमेशन मॉड्यूल को आत्मविश्वास स्कोर या बहु-श्रेणी त्रुटि गंभीरता लेबल की आवश्यकता होती है।
2. प्रशिक्षण जटिलता और प्रक्रिया नाजुकता: 这是一个多阶段流程（质量估计模型 -> 路由器 -> 两个译后编辑模型之一）。错误会累积。如果质量估计模型校准不当，整个系统的性能就会下降。端到端训练这样的系统 notoriously 困难，通常需要像Gumbel-Softmax（用于路由微分）或强化学习这样的复杂技术，而本文可能未完全解决。
3. डोमेन और भाषा जोड़ी लॉक-इन: अधिकांश डीप लर्निंग मशीन अनुवाद/APE प्रणालियों की तरह, इसका प्रदर्शन विशिष्ट भाषा जोड़ी और डोमेन (उदाहरण के लिए, WMT अंग्रेजी-जर्मन) के समानांतर डेटा की गुणवत्ता और मात्रा पर गंभीर रूप से निर्भर करता है। यह पेपर कम-संसाधन भाषा जोड़ियों या नए डोमेन (उदाहरण के लिए, कानून से चिकित्सा तक) के लिए त्वरित अनुकूलन की खोज नहीं करता है, जो उद्यम-स्तरीय कंप्यूटर-सहायित अनुवाद उपकरणों के लिए एक प्रमुख बाधा है। हाल के NLP शोध में मेटा-लर्निंग या एडाप्टर मॉड्यूल जैसी तकनीकों से सीखना, एक आवश्यक अगला कदम हो सकता है।

5.3 क्रियान्वयन योग्य अंतर्दृष्टियाँ

शोधकर्ताओं के लिए सुझाव:

1. सॉफ्टवेयर राउटिंग का अन्वेषण करें: कठोर द्विआधारी निर्णयों को छोड़ दें। जनरेटिव एडिटर और एटॉमिक एडिटर के नरम, भारित संयोजन का अध्ययन करें, जहां गुणवत्ता अनुमान मॉड्यूल का आउटपुट भार उनके योगदान को निर्धारित करता है। यह गुणवत्ता अनुमान त्रुटियों के प्रति अधिक मजबूत हो सकता है।
2. बाहरी ज्ञान को एकीकृत करें: वर्तमान मॉडल केवल स्रोत वाक्य और मशीन अनुवाद वाक्य पर निर्भर करता है। अनुवाद मेमोरी या शब्दावली डेटाबेस से सुविधाओं को - पेशेवर कंप्यूटर-सहायित अनुवाद सूट में मानक उपकरण - अतिरिक्त संदर्भ के रूप में एकीकृत करें। यह शुद्ध तंत्रिका दृष्टिकोण और पारंपरिक स्थानीयकरण इंजीनियरिंग के बीच की खाई को पाटता है।
3. वास्तविक विश्व कंप्यूटर-सहायित अनुवाद लॉग पर बेंचमार्क स्थापित करें: WMT साझा कार्यों से आगे बढ़कर। अनुवाद एजेंसियों के साथ सहयोग करके, वास्तविक, अव्यवस्थित, बहु-डोमेन अनुवाद परियोजनाओं और अनुवादक इंटरैक्शन लॉग पर परीक्षण करना। इससे वास्तविक विफलता के पैटर्न का पता चलेगा।

उत्पाद डेवलपर्स (कंप्यूटर-सहायित अनुवाद टूल विक्रेताओं) के लिए सिफारिशें:

1. गुणवत्ता गेट के रूप में कार्यान्वित करना: अनुवाद प्रबंधन प्रणाली में गुणवत्ता अनुमान मॉड्यूल को प्री-फिल्टर के रूप में उपयोग करें। कम आत्मविश्वास वाले खंडों को स्वचालित रूप से चिह्नित करें, उन्हें वरिष्ठ समीक्षकों के ध्यान के लिए प्रस्तुत करें, या उन्हें जेनरेटिव APE सुझावों से पहले से भर दें, जिससे समीक्षा वर्कफ़्लो सरल हो जाए।
2. UI एकीकरण के लिए एटॉमिक एडिटर पर ध्यान केंद्रित करें: एटॉमिक ऑपरेशन आउटपुट (रिटेन/डिलीट/रिप्लेस) इंटरैक्टिव इंटरफेस के लिए आदर्श रूप से उपयुक्त है। यह बुद्धिमान, पूर्वानुमानित पाठ संपादन को संचालित कर सकता है, जहां अनुवादक कीबोर्ड शॉर्टकट का उपयोग करके एटॉमिक सुझावों को स्वीकार/अस्वीकार/संपादित करते हैं, जिससे कीस्ट्रोक्स की संख्या में काफी कमी आती है।
3. मॉडल अनुकूलन को प्राथमिकता दें: APE प्रणालियों के लिए कुशल फाइन-ट्यूनिंग या डोमेन एडाप्टेशन प्रक्रियाओं के विकास में निवेश करें। उद्यम ग्राहकों को उनकी विशिष्ट शब्दावली और शैली दिशानिर्देशों के लिए अनुकूलित मॉडल दिनों में, महीनों में नहीं, प्राप्त करने की आवश्यकता है।

विश्लेषणात्मक ढांचा उदाहरण केस

दृश्य: एक कानूनी दस्तावेज़ का अंग्रेजी से जर्मन में अनुवाद।
स्रोत वाक्य: पक्ष को दूसरे पक्ष की सभी हानियों की क्षतिपूर्ति करनी होगी।
बेसलाइन मशीन अनुवाद आउटपुट: "Die Partei wird die andere Partei für alle Verluste entschädigen." (सही है, लेकिन "Partei" का उपयोग किया गया है, जो सख्त अनुबंध संदर्भ में बहुत अनौपचारिक/अस्पष्ट हो सकता है। बेहतर शब्द "Vertragspartei" हो सकता है)।
प्रस्तावित मॉडल वर्कफ़्लो:

1. गुणवत्ता अनुमान मॉड्यूल: इस खंड का विश्लेषण करें। अधिकांश टोकन सही हैं, लेकिन टोकन "Partei" एक संभावित शब्दावली बेमेल है (जरूरी नहीं कि यह एक त्रुटि हो, लेकिन यह एक उप-इष्टतम शब्दावली चयन है)। इस वाक्य को "उच्च गुणवत्ता" स्कोर प्राप्त हुआ।
2. रूटिंग: को भेजा गयाAtomic Operation Post-Editingमॉड्यूल।
3. Atom संपादक: स्रोत वाक्य और संदर्भ के आधार पर, यह कार्रवाई अनुक्रम प्रस्तावित कर सकता है:[रिटेन, रिटेन, रिप्लेस विथ 'Vertragspartei', रिटेन, रिटेन, रिटेन, रिटेन]。
4. आउटपुट: "Die Vertragspartei "wird die andere Vertragspartei für alle Verluste entschädigen." यह एक सटीक, न्यूनतम संपादन है जो कानूनी शब्दावली मानकों के अनुरूप है।

6. भविष्य के अनुप्रयोग एवं दिशाएँ

इस एकीकृत गुणवत्ता-आकलन-स्वचालित पोस्ट-संपादन ढांचे का प्रभाव पारंपरिक अनुवाद से आगे जाता है:

1. अनुकूली मशीन अनुवाद प्रणाली: गुणवत्ता अनुमान संकेत तंत्रिका मशीन अनुवाद प्रणाली को वास्तविक समय में प्रतिक्रिया दे सकते हैं, जिसका उपयोग ऑनलाइन अनुकूलन या सुदृढीकरण शिक्षण के लिए किया जा सकता है, जिससे एक स्व-सुधारात्मक अनुवाद चक्र बनता है।
2. सामग्री मॉडरेशन और स्थानीयकरण: परमाणु संचालन मॉड्यूल को नीति नियमों के आधार पर सांस्कृतिक रूप से उपयुक्त प्रतिस्थापन या संशोधन लागू करने के लिए समायोजित किया जा सकता है, जिससे उपयोगकर्ता-जनित सामग्री का स्वचालित रूप से स्थानीयकरण या मॉडरेशन हो सके।
3. शिक्षा और प्रशिक्षण: यह प्रणाली अनुवाद छात्रों के लिए एक बुद्धिमान शिक्षक के रूप में कार्य कर सकती है, जो विस्तृत त्रुटि विश्लेषण (गुणवत्ता अनुमान मॉड्यूल से) और सुझाए गए सुधार प्रदान करती है।
4. बहुप्रकारी अनुवाद: छवि-आधारित (OCR अनुवाद) या भाषण-से-भाषण अनुवाद प्रणालियों में समान गुणवत्ता आकलन और अनुवाद-पश्चात संपादन सिद्धांतों को एकीकृत करना, जहाँ त्रुटियों की प्रकृति भिन्न मोडलिटी वाली होती है।
5. कम संसाधन एवं अनिरीक्षित परिदृश्य: भविष्य के कार्य को बड़े पैमाने पर समानांतर कोष की अनुपस्थिति में इन सिद्धांतों को लागू करने की चुनौती का समाधान करना होगा, संभवतःCycleGANबिना जोड़ी वाले छवि अनुवाद कार्यों से प्रेरित अनिरीक्षित या अर्ध-निरीक्षित तकनीकें, लेकिन पाठ पर लागू।

7. संदर्भ सूची

1. Wang, J., Wang, K., Ge, N., Shi, Y., Zhao, Y., & Fan, K. (2020). Computer Assisted Translation with Neural Quality Estimation and Automatic Post-Editing. arXiv preprint arXiv:2009.09126.
2. Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., ... & Polosukhin, I. (2017). Attention is all you need. Advances in neural information processing systems, 30.
3. Specia, L., Shah, K., de Souza, J. G., & Cohn, T. (2013). QuEst - A translation quality estimation framework. कम्प्यूटेशनल भाषाविज्ञान संघ की 51वीं वार्षिक बैठक की कार्यवाही में: सिस्टम प्रदर्शन..
4. Junczys-Dowmunt, M., & Grundkiewicz, R. (2016). Log-linear combinations of monolingual and bilingual neural machine translation models for automatic post-editing. मशीन अनुवाद पर प्रथम सम्मेलन की कार्यवाही में..
5. Isola, P., Zhu, J. Y., Zhou, T., & Efros, A. A. (2017). Image-to-image translation with conditional adversarial networks. In Proceedings of the IEEE conference on computer vision and pattern recognition (pp. 1125-1134). (संदर्भ सशर्त, कार्य-विशिष्ट परिवर्तन की अवधारणात्मक सादृश्यता के लिए उपयोग किया गया)।
6. Läubli, S., Fishel, M., Massey, G., Ehrensberger-Dow, M., & Volk, M. (2013). Assessing post-editing efficiency in a realistic translation environment. Proceedings of MT Summit XIV.