एक बड़ा भाषा मॉडल (एलएलएम) एक भाषा मॉडल है जिसमें कई मापदंडों (आमतौर पर अरबों वजन या अधिक) के साथ एक तंत्रिका नेटवर्क होता है, जो स्व-पर्यवेक्षित शिक्षण का उपयोग करके बड़ी मात्रा में बिना लेबल वाले पाठ पर प्रशिक्षित होता है। एलएलएम 2018 के आसपास उभरा और विभिन्न प्रकार के कार्यों में अच्छा प्रदर्शन करता है। इसने प्राकृतिक भाषा प्रसंस्करण अनुसंधान का ध्यान विशिष्ट कार्यों के लिए विशेष पर्यवेक्षित मॉडल के प्रशिक्षण के पिछले प्रतिमान से दूर स्थानांतरित कर दिया है।

गुण
हालाँकि बड़े भाषा मॉडल शब्द की कोई औपचारिक परिभाषा नहीं है, यह अक्सर अरबों या उससे अधिक के क्रम में पैरामीटर गणना वाले गहन शिक्षण मॉडल को संदर्भित करता है। एलएलएम सामान्य प्रयोजन मॉडल हैं जो एक विशिष्ट कार्य (जैसे भावना विश्लेषण, नामित इकाई मान्यता, या गणितीय तर्क) के लिए प्रशिक्षित होने के विपरीत, कार्यों की एक विस्तृत श्रृंखला में उत्कृष्टता प्राप्त करते हैं। जिस कौशल के साथ वे कार्यों को पूरा करते हैं, और कार्यों की सीमा जिसमें वे सक्षम हैं, उन्हें समर्पित संसाधनों की मात्रा (डेटा, पैरामीटर-आकार, कंप्यूटिंग शक्ति) का एक कार्य प्रतीत होता है, जो कि निर्भर नहीं है डिज़ाइन में अतिरिक्त सफलताओं पर।

यद्यपि एक वाक्य में अगले शब्द की भविष्यवाणी करने की तर्ज पर सरल कार्यों पर प्रशिक्षित, पर्याप्त प्रशिक्षण और पैरामीटर गणना के साथ तंत्रिका भाषा मॉडल मानव भाषा के अधिकांश वाक्यविन्यास और शब्दार्थ को पकड़ने के लिए पाए जाते हैं। इसके अलावा, बड़े भाषा मॉडल दुनिया के बारे में काफी सामान्य ज्ञान प्रदर्शित करते हैं, और प्रशिक्षण के दौरान बड़ी मात्रा में तथ्यों को "याद" करने में सक्षम होते हैं।

दु: स्वप्न
मुख्य लेख: मतिभ्रम (कृत्रिम बुद्धिमत्ता)
सामान्य रूप से कृत्रिम बुद्धिमत्ता में, और विशेष रूप से बड़े भाषा मॉडल में, "मतिभ्रम" एक आश्वस्त प्रतिक्रिया है जो मॉडल के प्रशिक्षण डेटा द्वारा उचित प्रतीत नहीं होती है।

उभरती क्षमताएँ

प्रश्न उत्तर देने जैसे कार्यों से जुड़े कई प्राकृतिक भाषा बेंचमार्क पर, मॉडल यादृच्छिक मौके से बेहतर प्रदर्शन नहीं करते हैं जब तक कि वे एक निश्चित पैमाने तक नहीं पहुंच जाते (इस मामले में, प्रशिक्षण गणना द्वारा मापा जाता है), जिस बिंदु पर उनका प्रदर्शन तेजी से बढ़ जाता है। ये उभरती क्षमताओं के उदाहरण हैं.
अप्रत्याशित क्षमताएँ जो बड़े भाषा मॉडल में देखी गई हैं लेकिन जो सरल मॉडल में मौजूद नहीं थीं (और जिन्हें स्पष्ट रूप से मॉडल में डिज़ाइन नहीं किया गया था) उन्हें आमतौर पर "आकस्मिक क्षमताएं" कहा जाता है। शोधकर्ताओं का कहना है कि ऐसी क्षमताओं का "केवल छोटे मॉडलों के प्रदर्शन को एक्सट्रपलेशन करके अनुमान नहीं लगाया जा सकता है"। इन क्षमताओं को प्रोग्राम-इन या डिज़ाइन किए जाने के बजाय खोजा जाता है, कुछ मामलों में एलएलएम को सार्वजनिक रूप से तैनात किए जाने के बाद ही। सैकड़ों उभरती क्षमताओं का वर्णन किया गया है। उदाहरणों में बहु-चरणीय अंकगणित, कॉलेज-स्तरीय परीक्षा देना, किसी शब्द के इच्छित अर्थ की पहचान करना, विचार-श्रृंखला को प्रेरित करना, अंतर्राष्ट्रीय ध्वन्यात्मक वर्णमाला को डिकोड करना, किसी शब्द के अक्षरों को खोलना, हिंग्लिश के पैराग्राफ में आपत्तिजनक सामग्री की पहचान करना (का एक संयोजन) शामिल हैं हिंदी और अंग्रेजी), और किस्वाहिली कहावतों के समान अंग्रेजी समकक्ष उत्पन्न करना।

वास्तुकला और प्रशिक्षण
बड़े भाषा मॉडल में आमतौर पर ट्रांसफॉर्मर आर्किटेक्चर का उपयोग किया जाता है, जो 2018 के बाद से अनुक्रमिक डेटा के लिए मानक गहन शिक्षण तकनीक बन गया है (पहले, एलएसटीएम जैसे आवर्ती आर्किटेक्चर सबसे आम थे)। एलएलएम को अघोषित पाठ पर बिना पर्यवेक्षित तरीके से प्रशिक्षित किया जाता है। पिछले संदर्भ को देखते हुए, प्रशिक्षण डेटा में अगले शब्द को सौंपी गई संभावना को अधिकतम करने के लिए बाएं से दाएं ट्रांसफार्मर को प्रशिक्षित किया जाता है। वैकल्पिक रूप से, एक एलएलएम एक द्विदिश ट्रांसफार्मर का उपयोग कर सकता है (जैसा कि बीईआरटी के उदाहरण में है), जो पूर्ववर्ती और निम्नलिखित दोनों संदर्भों तक पहुंच दिए गए शब्दों पर संभाव्यता वितरण प्रदान करता है। अगले शब्द की भविष्यवाणी करने या "रिक्त स्थान भरने" के कार्य के अलावा, एलएलएम को सहायक कार्यों पर प्रशिक्षित किया जा सकता है जो डेटा वितरण की उनकी समझ का परीक्षण करते हैं जैसे कि अगला वाक्य भविष्यवाणी (एनएसपी), जिसमें वाक्यों के जोड़े प्रस्तुत किए जाते हैं और मॉडल को यह अनुमान लगाना होगा कि क्या वे प्रशिक्षण कोष में साथ-साथ दिखाई देते हैं।

शुरुआती एलएलएम को अरबों शब्दों के क्रम में कॉर्पोरा पर प्रशिक्षित किया गया था। OpenAI की GPT श्रृंखला का पहला मॉडल 2018 में BookCorpus पर प्रशिक्षित किया गया था, जिसमें 985 मिलियन शब्द शामिल थे। उसी वर्ष, BERT को बुककॉर्पस और अंग्रेजी विकिपीडिया के संयोजन पर प्रशिक्षित किया गया, जिसमें कुल 3.3 बिलियन शब्द थे। तब से लेकर अब तक के वर्षों में, एलएलएम के लिए प्रशिक्षण निगम में परिमाण में वृद्धि हुई है, जो सैकड़ों अरबों या खरबों टोकन तक पहुंच गई है।

एलएलएम का प्रशिक्षण कम्प्यूटेशनल रूप से महंगा है। 2020 के एक अध्ययन में अनुमान लगाया गया है कि 1.5 बिलियन पैरामीटर मॉडल (उस समय की अत्याधुनिक स्थिति से छोटे परिमाण के 1-2 ऑर्डर) के प्रशिक्षण की लागत $1.6 मिलियन थी।

2020 के एक विश्लेषण में पाया गया कि तंत्रिका भाषा मॉडल की क्षमता (प्रशिक्षण हानि द्वारा मापी गई) मापदंडों की संख्या, प्रशिक्षण डेटा की मात्रा और प्रशिक्षण के लिए उपयोग की जाने वाली गणना के साथ शक्ति कानून संबंध में सुचारू रूप से बढ़ी है। इन रिश्तों का परीक्षण मूल्यों की एक विस्तृत श्रृंखला (परिमाण के सात आदेशों तक) पर किया गया था और सीमा के उच्चतम अंत में रिश्ते में कोई क्षीणन नहीं देखा गया था (ट्रिलियन मापदंडों तक के नेटवर्क आकार सहित)।

डाउनस्ट्रीम कार्यों के लिए आवेदन
2018 और 2020 के बीच, एक विशिष्ट प्राकृतिक भाषा प्रसंस्करण (एनएलपी) कार्य के लिए एलएलएम का उपयोग करने की मानक विधि अतिरिक्त कार्य-विशिष्ट प्रशिक्षण के साथ मॉडल को ठीक करना था। बाद में यह पाया गया कि GPT-3 जैसे अधिक शक्तिशाली एलएलएम "प्रॉम्पटिंग" तकनीकों के माध्यम से अतिरिक्त प्रशिक्षण के बिना कार्यों को हल कर सकते हैं, जिसमें हल की जाने वाली समस्या को मॉडल के सामने टेक्स्ट प्रॉम्प्ट के रूप में प्रस्तुत किया जाता है, संभवतः इसी तरह के कुछ पाठ्य उदाहरणों के साथ समस्याएं और उनके समाधान.

फ़ाइन ट्यूनिंग
मुख्य लेख: फ़ाइन-ट्यूनिंग (मशीन लर्निंग)
फाइन-ट्यूनिंग एक मौजूदा पूर्व-प्रशिक्षित भाषा मॉडल को एक विशिष्ट कार्य (जैसे भावना विश्लेषण, नामित इकाई पहचान, या भाग-ऑफ-स्पीच टैगिंग) पर प्रशिक्षित करके (पर्यवेक्षित फैशन में) संशोधित करने का अभ्यास है। यह स्थानांतरण अधिगम का एक रूप है। इसमें आम तौर पर भाषा मॉडल की अंतिम परत को डाउनस्ट्रीम कार्य के आउटपुट से जोड़ने वाले भार के एक नए सेट की शुरूआत शामिल होती है। भाषा मॉडल के मूल भार "जमे हुए" हो सकते हैं, जैसे कि उन्हें आउटपुट से जोड़ने वाले भार की केवल नई परत ही प्रशिक्षण के दौरान सीखी जाती है। वैकल्पिक रूप से, मूल वज़न को छोटे अपडेट प्राप्त हो सकते हैं (संभवतः पहले की परतें जमी हुई हों)।

उत्साह
यह भी देखें: त्वरित इंजीनियरिंग और फ्यू-शॉट लर्निंग (प्राकृतिक भाषा प्रसंस्करण)
जीपीटी-3 द्वारा प्रचलित प्रोत्साहन प्रतिमान में, हल की जाने वाली समस्या को एक टेक्स्ट प्रॉम्प्ट के माध्यम से तैयार किया जाता है, जिसे मॉडल को पूर्णता प्रदान करके (अनुमान के माध्यम से) हल करना होगा। "फ्यू-शॉट प्रॉम्प्टिंग" में, प्रॉम्प्ट में समान (समस्या, समाधान) जोड़ियों के उदाहरणों की एक छोटी संख्या शामिल होती है। उदाहरण के लिए, किसी फिल्म समीक्षा की भावना को लेबल करने का भावना विश्लेषण कार्य इस प्रकार किया जा सकता है:

समीक्षा: यह फिल्म बदबूदार है।
भावना: नकारात्मक

समीक्षा: यह फिल्म शानदार है!
भाव:

यदि मॉडल "सकारात्मक" आउटपुट देता है, तो उसने कार्य को सही ढंग से हल कर लिया है। शून्य-शॉट प्रॉम्प्टिंग में, कोई समाधान उदाहरण प्रदान नहीं किए जाते हैं। समान भावना विश्लेषण कार्य के लिए शून्य-शॉट प्रॉम्प्ट का एक उदाहरण होगा "फिल्म समीक्षा से जुड़ी भावना 'यह फिल्म शानदार है!' है"।

एनएलपी कार्यों पर प्रतिस्पर्धी परिणाम प्राप्त करने के लिए एलएलएम के कुछ-शॉट प्रदर्शन को दिखाया गया है, जो कभी-कभी पहले के अत्याधुनिक फाइन-ट्यूनिंग दृष्टिकोणों को पार कर जाता है। ऐसे एनएलपी कार्यों के उदाहरण हैं अनुवाद, प्रश्न उत्तर, क्लोज कार्य, शब्दों को सुलझाना और एक वाक्य में एक नए शब्द का उपयोग करना। ऐसे संकेतों के निर्माण और अनुकूलन को प्रॉम्प्ट इंजीनियरिंग कहा जाता है।

अनुदेश ट्यूनिंग
निर्देश ट्यूनिंग फाइन-ट्यूनिंग का एक रूप है जिसे अधिक प्राकृतिक और सटीक शून्य-शॉट प्रॉम्प्टिंग इंटरैक्शन की सुविधा के लिए डिज़ाइन किया गया है। एक पाठ इनपुट को देखते हुए, एक पूर्व-प्रशिक्षित भाषा मॉडल एक पूर्णता उत्पन्न करेगा जो उस पाठ के वितरण से मेल खाता है जिस पर उसे प्रशिक्षित किया गया था। एक अनुभवहीन भाषा मॉडल ने संकेत दिया "हेमलेट के मुख्य विषयों के बारे में एक निबंध लिखें।" एक पूर्णता प्रदान कर सकता है जैसे "17 मार्च के बाद प्राप्त सबमिशन पर प्रति दिन 10% का विलंब जुर्माना लागू किया जाएगा।" निर्देश ट्यूनिंग में, भाषा मॉडल को उचित प्रतिक्रियाओं के साथ, प्राकृतिक भाषा निर्देशों के रूप में तैयार किए गए कार्यों के कई उदाहरणों पर प्रशिक्षित किया जाता है। अनुदेश ट्यूनिंग के लिए विभिन्न तकनीकों को व्यवहार में लागू किया गया है। ओपनएआई के इंस्ट्रक्टजीपीटी प्रोटोकॉल में मानव-जनित (शीघ्र, प्रतिक्रिया) जोड़े के डेटासेट पर पर्यवेक्षित फाइन-ट्यूनिंग शामिल है, इसके बाद मानव प्रतिक्रिया (आरएलएचएफ) से सुदृढीकरण सीखना शामिल है, जिसमें मानव प्राथमिकताओं के डेटासेट के आधार पर एक इनाम फ़ंक्शन सीखा गया था। एक अन्य तकनीक, "स्व-निर्देश", उदाहरणों के एक प्रशिक्षण सेट पर भाषा मॉडल को ठीक करती है जो स्वयं एलएलएम द्वारा उत्पन्न होते हैं (मानव-निर्मित उदाहरणों के एक छोटे प्रारंभिक सेट से बूटस्ट्रैप किए गए)।

https://en.wikipedia.org/wiki/Large_भाषा_मॉडल
निर्देश ट्यूनिंग फाइन-ट्यूनिंग का एक रूप है जिसे अधिक प्राकृतिक और सटीक शून्य-शॉट प्रॉम्प्टिंग इंटरैक्शन की सुविधा के लिए डिज़ाइन किया गया है।
एक बड़ा भाषा मॉडल (एलएलएम) एक भाषा मॉडल है जिसमें कई मापदंडों (आमतौर पर अरबों वजन या अधिक) के साथ एक तंत्रिका नेटवर्क होता है, जो स्व-पर्यवेक्षित शिक्षण का उपयोग करके बड़ी मात्रा में बिना लेबल वाले पाठ पर प्रशिक्षित होता है। एलएलएम 2018 के आसपास उभरा और विभिन्न प्रकार के कार्यों में अच्छा प्रदर्शन करता है। इसने प्राकृतिक भाषा प्रसंस्करण अनुसंधान का ध्यान विशिष्ट कार्यों के लिए विशेष पर्यवेक्षित मॉडल के प्रशिक्षण के पिछले प्रतिमान से दूर स्थानांतरित कर दिया है।

गुण
हालाँकि बड़े भाषा मॉडल शब्द की कोई औपचारिक परिभाषा नहीं है, यह अक्सर अरबों या उससे अधिक के क्रम में पैरामीटर गणना वाले गहन शिक्षण मॉडल को संदर्भित करता है। एलएलएम सामान्य प्रयोजन मॉडल हैं जो एक विशिष्ट कार्य (जैसे भावना विश्लेषण, नामित इकाई मान्यता, या गणितीय तर्क) के लिए प्रशिक्षित होने के विपरीत, कार्यों की एक विस्तृत श्रृंखला में उत्कृष्टता प्राप्त करते हैं। जिस कौशल के साथ वे कार्यों को पूरा करते हैं, और कार्यों की सीमा जिसमें वे सक्षम हैं, उन्हें समर्पित संसाधनों की मात्रा (डेटा, पैरामीटर-आकार, कंप्यूटिंग शक्ति) का एक कार्य प्रतीत होता है, जो कि निर्भर नहीं है डिज़ाइन में अतिरिक्त सफलताओं पर।

यद्यपि एक वाक्य में अगले शब्द की भविष्यवाणी करने की तर्ज पर सरल कार्यों पर प्रशिक्षित, पर्याप्त प्रशिक्षण और पैरामीटर गणना के साथ तंत्रिका भाषा मॉडल मानव भाषा के अधिकांश वाक्यविन्यास और शब्दार्थ को पकड़ने के लिए पाए जाते हैं। इसके अलावा, बड़े भाषा मॉडल दुनिया के बारे में काफी सामान्य ज्ञान प्रदर्शित करते हैं, और प्रशिक्षण के दौरान बड़ी मात्रा में तथ्यों को "याद" करने में सक्षम होते हैं।

दु: स्वप्न
मुख्य लेख: मतिभ्रम (कृत्रिम बुद्धिमत्ता)
सामान्य रूप से कृत्रिम बुद्धिमत्ता में, और विशेष रूप से बड़े भाषा मॉडल में, "मतिभ्रम" एक आश्वस्त प्रतिक्रिया है जो मॉडल के प्रशिक्षण डेटा द्वारा उचित प्रतीत नहीं होती है।

उभरती क्षमताएँ

प्रश्न उत्तर देने जैसे कार्यों से जुड़े कई प्राकृतिक भाषा बेंचमार्क पर, मॉडल यादृच्छिक मौके से बेहतर प्रदर्शन नहीं करते हैं जब तक कि वे एक निश्चित पैमाने तक नहीं पहुंच जाते (इस मामले में, प्रशिक्षण गणना द्वारा मापा जाता है), जिस बिंदु पर उनका प्रदर्शन तेजी से बढ़ जाता है। ये उभरती क्षमताओं के उदाहरण हैं.
अप्रत्याशित क्षमताएँ जो बड़े भाषा मॉडल में देखी गई हैं लेकिन जो सरल मॉडल में मौजूद नहीं थीं (और जिन्हें स्पष्ट रूप से मॉडल में डिज़ाइन नहीं किया गया था) उन्हें आमतौर पर "आकस्मिक क्षमताएं" कहा जाता है। शोधकर्ताओं का कहना है कि ऐसी क्षमताओं का "केवल छोटे मॉडलों के प्रदर्शन को एक्सट्रपलेशन करके अनुमान नहीं लगाया जा सकता है"। इन क्षमताओं को प्रोग्राम-इन या डिज़ाइन किए जाने के बजाय खोजा जाता है, कुछ मामलों में एलएलएम को सार्वजनिक रूप से तैनात किए जाने के बाद ही। सैकड़ों उभरती क्षमताओं का वर्णन किया गया है। उदाहरणों में बहु-चरणीय अंकगणित, कॉलेज-स्तरीय परीक्षा देना, किसी शब्द के इच्छित अर्थ की पहचान करना, विचार-श्रृंखला को प्रेरित करना, अंतर्राष्ट्रीय ध्वन्यात्मक वर्णमाला को डिकोड करना, किसी शब्द के अक्षरों को खोलना, हिंग्लिश के पैराग्राफ में आपत्तिजनक सामग्री की पहचान करना (का एक संयोजन) शामिल हैं हिंदी और अंग्रेजी), और किस्वाहिली कहावतों के समान अंग्रेजी समकक्ष उत्पन्न करना।

वास्तुकला और प्रशिक्षण
बड़े भाषा मॉडल में आमतौर पर ट्रांसफॉर्मर आर्किटेक्चर का उपयोग किया जाता है, जो 2018 के बाद से अनुक्रमिक डेटा के लिए मानक गहन शिक्षण तकनीक बन गया है (पहले, एलएसटीएम जैसे आवर्ती आर्किटेक्चर सबसे आम थे)। एलएलएम को अघोषित पाठ पर बिना पर्यवेक्षित तरीके से प्रशिक्षित किया जाता है। पिछले संदर्भ को देखते हुए, प्रशिक्षण डेटा में अगले शब्द को सौंपी गई संभावना को अधिकतम करने के लिए बाएं से दाएं ट्रांसफार्मर को प्रशिक्षित किया जाता है। वैकल्पिक रूप से, एक एलएलएम एक द्विदिश ट्रांसफार्मर का उपयोग कर सकता है (जैसा कि बीईआरटी के उदाहरण में है), जो पूर्ववर्ती और निम्नलिखित दोनों संदर्भों तक पहुंच दिए गए शब्दों पर संभाव्यता वितरण प्रदान करता है। अगले शब्द की भविष्यवाणी करने या "रिक्त स्थान भरने" के कार्य के अलावा, एलएलएम को सहायक कार्यों पर प्रशिक्षित किया जा सकता है जो डेटा वितरण की उनकी समझ का परीक्षण करते हैं जैसे कि अगला वाक्य भविष्यवाणी (एनएसपी), जिसमें वाक्यों के जोड़े प्रस्तुत किए जाते हैं और मॉडल को यह अनुमान लगाना होगा कि क्या वे प्रशिक्षण कोष में साथ-साथ दिखाई देते हैं।

शुरुआती एलएलएम को अरबों शब्दों के क्रम में कॉर्पोरा पर प्रशिक्षित किया गया था। OpenAI की GPT श्रृंखला का पहला मॉडल 2018 में BookCorpus पर प्रशिक्षित किया गया था, जिसमें 985 मिलियन शब्द शामिल थे। उसी वर्ष, BERT को बुककॉर्पस और अंग्रेजी विकिपीडिया के संयोजन पर प्रशिक्षित किया गया, जिसमें कुल 3.3 बिलियन शब्द थे। तब से लेकर अब तक के वर्षों में, एलएलएम के लिए प्रशिक्षण निगम में परिमाण में वृद्धि हुई है, जो सैकड़ों अरबों या खरबों टोकन तक पहुंच गई है।

एलएलएम का प्रशिक्षण कम्प्यूटेशनल रूप से महंगा है। 2020 के एक अध्ययन में अनुमान लगाया गया है कि 1.5 बिलियन पैरामीटर मॉडल (उस समय की अत्याधुनिक स्थिति से छोटे परिमाण के 1-2 ऑर्डर) के प्रशिक्षण की लागत $1.6 मिलियन थी।

2020 के एक विश्लेषण में पाया गया कि तंत्रिका भाषा मॉडल की क्षमता (प्रशिक्षण हानि द्वारा मापी गई) मापदंडों की संख्या, प्रशिक्षण डेटा की मात्रा और प्रशिक्षण के लिए उपयोग की जाने वाली गणना के साथ शक्ति कानून संबंध में सुचारू रूप से बढ़ी है। इन रिश्तों का परीक्षण मूल्यों की एक विस्तृत श्रृंखला (परिमाण के सात आदेशों तक) पर किया गया था और सीमा के उच्चतम अंत में रिश्ते में कोई क्षीणन नहीं देखा गया था (ट्रिलियन मापदंडों तक के नेटवर्क आकार सहित)।

डाउनस्ट्रीम कार्यों के लिए आवेदन
2018 और 2020 के बीच, एक विशिष्ट प्राकृतिक भाषा प्रसंस्करण (एनएलपी) कार्य के लिए एलएलएम का उपयोग करने की मानक विधि अतिरिक्त कार्य-विशिष्ट प्रशिक्षण के साथ मॉडल को ठीक करना था। बाद में यह पाया गया कि GPT-3 जैसे अधिक शक्तिशाली एलएलएम "प्रॉम्पटिंग" तकनीकों के माध्यम से अतिरिक्त प्रशिक्षण के बिना कार्यों को हल कर सकते हैं, जिसमें हल की जाने वाली समस्या को मॉडल के सामने टेक्स्ट प्रॉम्प्ट के रूप में प्रस्तुत किया जाता है, संभवतः इसी तरह के कुछ पाठ्य उदाहरणों के साथ समस्याएं और उनके समाधान.

फ़ाइन ट्यूनिंग
मुख्य लेख: फ़ाइन-ट्यूनिंग (मशीन लर्निंग)
फाइन-ट्यूनिंग एक मौजूदा पूर्व-प्रशिक्षित भाषा मॉडल को एक विशिष्ट कार्य (जैसे भावना विश्लेषण, नामित इकाई पहचान, या भाग-ऑफ-स्पीच टैगिंग) पर प्रशिक्षित करके (पर्यवेक्षित फैशन में) संशोधित करने का अभ्यास है। यह स्थानांतरण अधिगम का एक रूप है। इसमें आम तौर पर भाषा मॉडल की अंतिम परत को डाउनस्ट्रीम कार्य के आउटपुट से जोड़ने वाले भार के एक नए सेट की शुरूआत शामिल होती है। भाषा मॉडल के मूल भार "जमे हुए" हो सकते हैं, जैसे कि उन्हें आउटपुट से जोड़ने वाले भार की केवल नई परत ही प्रशिक्षण के दौरान सीखी जाती है। वैकल्पिक रूप से, मूल वज़न को छोटे अपडेट प्राप्त हो सकते हैं (संभवतः पहले की परतें जमी हुई हों)।

उत्साह
यह भी देखें: त्वरित इंजीनियरिंग और फ्यू-शॉट लर्निंग (प्राकृतिक भाषा प्रसंस्करण)
जीपीटी-3 द्वारा प्रचलित प्रोत्साहन प्रतिमान में, हल की जाने वाली समस्या को एक टेक्स्ट प्रॉम्प्ट के माध्यम से तैयार किया जाता है, जिसे मॉडल को पूर्णता प्रदान करके (अनुमान के माध्यम से) हल करना होगा। "फ्यू-शॉट प्रॉम्प्टिंग" में, प्रॉम्प्ट में समान (समस्या, समाधान) जोड़ियों के उदाहरणों की एक छोटी संख्या शामिल होती है। उदाहरण के लिए, किसी फिल्म समीक्षा की भावना को लेबल करने का भावना विश्लेषण कार्य इस प्रकार किया जा सकता है:

समीक्षा: यह फिल्म बदबूदार है।
भावना: नकारात्मक

समीक्षा: यह फिल्म शानदार है!
भाव:

यदि मॉडल "सकारात्मक" आउटपुट देता है, तो उसने कार्य को सही ढंग से हल कर लिया है। शून्य-शॉट प्रॉम्प्टिंग में, कोई समाधान उदाहरण प्रदान नहीं किए जाते हैं। समान भावना विश्लेषण कार्य के लिए शून्य-शॉट प्रॉम्प्ट का एक उदाहरण होगा "फिल्म समीक्षा से जुड़ी भावना 'यह फिल्म शानदार है!' है"।

एनएलपी कार्यों पर प्रतिस्पर्धी परिणाम प्राप्त करने के लिए एलएलएम के कुछ-शॉट प्रदर्शन को दिखाया गया है, जो कभी-कभी पहले के अत्याधुनिक फाइन-ट्यूनिंग दृष्टिकोणों को पार कर जाता है। ऐसे एनएलपी कार्यों के उदाहरण हैं अनुवाद, प्रश्न उत्तर, क्लोज कार्य, शब्दों को सुलझाना और एक वाक्य में एक नए शब्द का उपयोग करना। ऐसे संकेतों के निर्माण और अनुकूलन को प्रॉम्प्ट इंजीनियरिंग कहा जाता है।

अनुदेश ट्यूनिंग
निर्देश ट्यूनिंग फाइन-ट्यूनिंग का एक रूप है जिसे अधिक प्राकृतिक और सटीक शून्य-शॉट प्रॉम्प्टिंग इंटरैक्शन की सुविधा के लिए डिज़ाइन किया गया है। एक पाठ इनपुट को देखते हुए, एक पूर्व-प्रशिक्षित भाषा मॉडल एक पूर्णता उत्पन्न करेगा जो उस पाठ के वितरण से मेल खाता है जिस पर उसे प्रशिक्षित किया गया था। एक अनुभवहीन भाषा मॉडल ने संकेत दिया "हेमलेट के मुख्य विषयों के बारे में एक निबंध लिखें।" एक पूर्णता प्रदान कर सकता है जैसे "17 मार्च के बाद प्राप्त सबमिशन पर प्रति दिन 10% का विलंब जुर्माना लागू किया जाएगा।" निर्देश ट्यूनिंग में, भाषा मॉडल को उचित प्रतिक्रियाओं के साथ, प्राकृतिक भाषा निर्देशों के रूप में तैयार किए गए कार्यों के कई उदाहरणों पर प्रशिक्षित किया जाता है। अनुदेश ट्यूनिंग के लिए विभिन्न तकनीकों को व्यवहार में लागू किया गया है। ओपनएआई के इंस्ट्रक्टजीपीटी प्रोटोकॉल में मानव-जनित (शीघ्र, प्रतिक्रिया) जोड़े के डेटासेट पर पर्यवेक्षित फाइन-ट्यूनिंग शामिल है, इसके बाद मानव प्रतिक्रिया (आरएलएचएफ) से सुदृढीकरण सीखना शामिल है, जिसमें मानव प्राथमिकताओं के डेटासेट के आधार पर एक इनाम फ़ंक्शन सीखा गया था। एक अन्य तकनीक, "स्व-निर्देश", उदाहरणों के एक प्रशिक्षण सेट पर भाषा मॉडल को ठीक करती है जो स्वयं एलएलएम द्वारा उत्पन्न होते हैं (मानव-निर्मित उदाहरणों के एक छोटे प्रारंभिक सेट से बूटस्ट्रैप किए गए)।

https://en.wikipedia.org/wiki/Large_भाषा_मॉडल