بالنظر لهذه الفقرات عن النماذج اللغوية الكبيرة، شو هو ضبط التعليمات؟
Context:نموذج لغوي كبير (LLM) هو نموذج لغوي يتكون من شبكة عصبية مع العديد من المعلمات (عادةً مليارات الأوزان أو أكثر) ، مدربة على كميات كبيرة من النص غير المسمى باستخدام التعلم المراقب الذاتي. ظهرت الـ LLM حوالي عام 2018 و بتعمل بشكل جيد في مجموعة واسعة من المهام. هاد غير تركيز أبحاث معالجة اللغة الطبيعية عن النموذج السابق لتدريب نماذج متخصصة تحت الإشراف لمهام محددة.  خصائص بالرغم من أن مصطلح نموذج لغة كبير ما عنده تعريف رسمي، إلا أنه غالباً يشير إلى نماذج التعلم العميق مع عدد معايير بمليارات أو أكثر. الـ LLM هي نماذج ذات غرض عام تتفوق في مجموعة واسعة من المهام، بدلاً من التدريب على مهمة واحدة محددة (زي تحليل المشاعر، التعرف على الكيانات المسماة، أو التفكير الرياضي). المهارة اللي بينجزوا بها المهام، ومجموعة المهام اللي قادرين عليها، يبدو إنها وظيفة من كمية الموارد (البيانات، حجم المعلمات، قوة الحوسبة) المكرسة لهم، بطريقة لا تعتمد على اختراقات إضافية في التصميم.  بالرغم من تدريبهم على المهام البسيطة على غرار التنبؤ بالكلمة التالية في جملة، فأن نماذج اللغة العصبية مع تدريب كاف وعدد المعلمات تكتشف أنها تلتقط الكثير من تركيب اللغة البشرية وشروطها. بالإضافة، النماذج اللغوية الكبيرة تبين معرفة عامة كبيرة عن العالم، وهي قادرة على "تذكر" كمية كبيرة من الحقائق أثناء التدريب.  هلوسينات المقالة الرئيسية: الهلوسة (ذكاء اصطناعي) في الذكاء الاصطناعي بشكل عام، وفي النماذج اللغوية الكبيرة بشكل خاص، "الهلوسة" هي استجابة واثقة لا تبدو مبررة من خلال بيانات تدريب النموذج.  قدرات ناشئة  على عدد من معايير اللغة الطبيعية التي تتضمن مهام مثل الإجابة على الأسئلة، النماذج ما بتعمل أحسن من فرصة عشوائية حتى تصل إلى مقياس معين (في هذه الحالة، مقاسة بحساب التدريب) ، وفي هذه المرحلة تزيد أدائها بشكل حاد. هاي أمثلة على قدرات ناشئة. القدرات الغير متوقعة اللي لوحظت في نماذج لغات كبيرة لكن ما كانت موجودة في نماذج أبسط (واللي ما تم تصميمها بشكل صريح في النموذج) عادةً ما تسمى "القدرات الناشئة". الباحثين بيقولوا إن القدرات دي "مش ممكن تتوقع ببساطة عن طريق استنتاج أداء نماذج أصغر". هذي القدرات اكتشفت بدل ما تكون مبرمجة أو مصممة، في بعض الحالات بعد ما يتم نشر LLM علناً. تم وصف مئات القدرات الناشئة. الأمثلة بتشمل حسابات متعددة الخطوات، إجراء امتحانات على مستوى الجامعة، تحديد المعنى المقصود لكلمة، تنبيه سلسلة الأفكار، فك تشفير الأبجدية الصوتية الدولية، فك تشفير حروف الكلمة، تحديد المحتوى المهين في فقرات من اللغة الهندية (جمع بين الهندية واللغة الإنجليزية) ، وتوليد ما يعادل المثل الإنجليزية المماثلة للكسواحيلي.  العمارة والتدريب النماذج اللغوية الكبيرة استخدمت في الغالب بنية المحول، والتي، منذ عام 2018، أصبحت تقنية التعلم العميق القياسية للبيانات المتسلسلة (في السابق، كانت العمارات المتكررة مثل LSTM هي الأكثر شيوعًا). التدريب الليلي على المهارات الدراسية بيعمل بدون مراقبة على نص مش مفصل. مبدل يسار ليمين بيتدرب علشان يزيد من الاحتمالات المخصصة للكلمة الجاية في بيانات التدريب، بالنظر للسياق السابق. بديلًا، يمكن لـ LLM استخدام محول ثنائي الاتجاه (كما في مثال BERT) ، والذي يعين توزيع احتمال على الكلمات التي تمنح الوصول لكل من السياق السابق والسياق التالي. بالإضافة لمهمة التنبؤ بالكلمة التالية أو "ملء الفراغات"، يمكن تدريب علماء اللغة في المهام المساعدة التي تختبر فهمهم لتوزيع البيانات مثل التنبؤ بالجملة التالية (NSP) ، حيث يتم تقديم أزواج من الجمل ويجب على النموذج التنبؤ بما إذا كانت تظهر جنبًا إلى جنب في المجموعة التدريبية.  التدريب الأولي على الـ LLM كان على الجماعات اللي عندها مليارات الكلمات. أول نموذج في سلسلة GPT لـ OpenAI تم تدريبه في عام 2018 على BookCorpus، والذي يتكون من 985 مليون كلمة. في نفس السنة، تم تدريب بيرت على مجموعة من بوك كوربس و ويكيبيديا باللغة الإنجليزية، بلغ مجموعها 3.3 مليار كلمة. في السنين من بعد، كيانات التدريب لـ LLM زادت بأوامر من الحجم، ووصلت لمئات المليارات أو تريليونات من الرموز.  التدريب على الـ LLM مكلف حسابياً. دراسة سنة 2020 قدرت تكلفة تدريب نموذج بحدود 1.5 مليار (1-2 أوامر من الحجم الأصغر من حالة الفن في الوقت) بمبلغ 1.6 مليون دولار.  تحليل سنة 2020 لقى إن قدرة نماذج اللغة العصبية (كما تقاس بخسارة التدريب) زادت بسلاسة في علاقة قانون القوة مع عدد المعلمات، وكمية بيانات التدريب، والحساب المستخدم للتدريب. تم اختبار العلاقات دي على نطاق واسع من القيم (حتى سبعة أوامر من الحجم) ولم يلاحظ أي تراجع في العلاقة في أعلى نهاية النطاق (بما في ذلك لأحجام الشبكات حتى تريليونات من المعلمات).  تطبيق على المهام التالية بين 2018 و2020، كانت الطريقة القياسية لاستغلال ماجستير في القانون لمهمة معينة في معالجة اللغة الطبيعية (NLP) هي ضبط النموذج بتدريب إضافي محدد للمهمة. بعدين، اتبين ان ال ال ال ال م قوية زي جي تي تي 3 بتقدر تحل المهام بدون تدريب اضافى عن طريق تقنيات "التحفيز"، واللي بتقدم فيها المشكلة المطلوبة الحل للنموذج على شكل تحفيز نصي، وربما مع بعض الأمثلة النصية للمشاكل المتشابهة وحلولها.  ضبط دقيق المقالة الرئيسية: التنظيم الدقيق (التعلم الآلي) التنظيم الدقيق هو ممارسة تعديل نموذج لغوي موجود تم تدريبه مسبقاً عن طريق تدريبه (بطريقة مشرفة) في مهمة محددة (على سبيل المثال تحليل المشاعر، التعرف على الكيانات المسماة، أو وضع علامات على أجزاء من الكلام). هاد نوع من التعلم النقلي. عادةً بيحتوي على إدخال مجموعة جديدة من الأوزان التي تربط الطبقة الأخيرة من نموذج اللغة بمخرجات المهمة التالية. الأوزان الأصلية لنموذج اللغة ممكن تكون "مجمدة"، بحيث يتم تعلم طبقة الأوزان الجديدة فقط التي تربطها بالإنتاج خلال التدريب. وبدلاً من كده، الوزن الأصلي ممكن يتلقى تحديثات صغيرة (ربما مع طبقات سابقة متجمدة).  يطلب شوف كمان: هندسة سريعة وتعلم سريع (معالجة اللغة الطبيعية) في نموذج الإستدلال، الذي انتشر بواسطة GPT-3، يتم صياغة المشكلة المطلوب حلها عن طريق استدلال نصي، والذي يجب على النموذج حله من خلال توفير إكمال (عن طريق الاستدلال). في "التوجيهات القليلة"، يتضمن التوجيه عدد قليل من الأمثلة على أزواج متشابهة (المشكلة، الحل). مثلاً، مهمة تحليل المشاعر لتسمية المشاعر في مراجعة فيلم ممكن تتحرك على النحو التالي:  مراجعة: هالفيلم مش كويس. مشاعر: سلبية  مراجعة: الفيلم ده رائع! شعور:  إذا النموذج بيخرج "إيجابي"، فإنه حل المهمة بشكل صحيح. في طلب الصورة الصفرية، ما بيوفروا أي أمثلة حل. مثال على طلب الصورة الصفرية لنفس مهمة تحليل المشاعر هو "الشعور المرتبط بمراجعة الفيلم 'هذا الفيلم رائع!'".  تم إثبات أن الأداء القصير لـ LLMs يحقق نتائج تنافسية في مهام NLP، وأحياناً يتفوق على أساليب التنظيم الدقيق السابقة. أمثلة لمهمات البرمجة العلمية الوطنية دي هي الترجمة، والإجابة على الأسئلة، ومهمات الإغلاق، وكشف الكلمات، واستخدام كلمة جديدة في جملة. إنشاء وتحسين مثل هذه الإشارات يسمى هندسة الإشارات.  ضبط التعليمات تنسيق التعليمات هو شكل من أشكال التنسيق الدقيق المصمم لتسهيل تفاعلات التفاعل المفاجئة الأكثر طبيعية ودقة. مع إدخال نص، نموذج لغة مدرب مسبقًا بيوفر اكتمال يتطابق مع توزيع النص الذي تدرب عليه. نموذج لغة ساذج، لو تم إعطاؤه المطلب "اكتب مقال عن المواضيع الرئيسية لهاملت" ممكن يوفر استكمال مثل "عقوبة تأخير بنسبة 10 بالمائة في اليوم الواحد ستطبق على المراسلات المستلمة بعد 17 مارس". في ضبط التعليمات، يتم تدريب نموذج اللغة على العديد من أمثلة المهام المصممة كتعليمات اللغة الطبيعية، جنبًا إلى جنب مع الردود المناسبة. في الممارسة، تم تطبيق تقنيات مختلفة لتعديل التعليمات. بروتوكول InstructGPT من OpenAI بيحتوي على ضبط دقيق تحت الإشراف على مجموعة بيانات من أزواج (سريع، استجابة) من إنتاج الإنسان، تليها تعزيز التعلم من ردود الفعل البشرية (RLHF) ، حيث تم تعلم وظيفة المكافأة بناءً على مجموعة بيانات من التفضيلات البشرية. تقنية تانية، "التعليم الذاتي"، بتضبط نموذج اللغة على مجموعة تدريبية من الأمثلة التي يتم إنشاؤها بنفسها بواسطة LLM (تتم إعادة تشغيلها من مجموعة أولية صغيرة من الأمثلة التي ينشئها الإنسان).  https://en.wikipedia.org/wiki/Large_language_model
تنسيق التعليمات هو شكل من أشكال التنسيق الدقيق المصمم لتسهيل تفاعلات التفاعل المفاجئة الأكثر طبيعية ودقة.