Update README.md

README.md

@@ -42,10 +42,11 @@ model-index:
   results: []
 ---
 
-
 - Fine-tuning of Llama-3.1-8B on german datasets. Same datasets used in [Nekochu/Llama-2-13B-German-ORPO](https://huggingface.co/Nekochu/Llama-2-13B-German-ORPO).
 - I've (alway) kept LoRA `QLoRA_German-ORPO` so it can be applied to any *LLaMA-3.1-8B* fine-tuned model but may affect performance.
 
+Oh, and I am not a GER speaker. ^^
+
 <details>
   <summary>This training can be replicated using LLaMA-Factory. </summary>
 
@@ -60,6 +61,8 @@ set CUDA_VISIBLE_DEVICES=0 && llamafactory-cli train --stage dpo --do_train True
 ```
 
 
+Average training time: 5 days sft, 5d sft, 6h dpo
+
 <details>
   <summary>dataset_info.json</summary>
 
@@ -149,3 +152,27 @@ set CUDA_VISIBLE_DEVICES=0 && llamafactory-cli train --stage dpo --do_train True
 </details>
 
 </details>
+
+
+<details>
+  <summary>Output Examples</summary>
+
+```
+#Question:
+Wie geht es in diesem Absatz weiter? Dann reibt sie eine Nadel auf einem Wattebausch, schiebt ihn dann auf einen Bleistift und wickelt einen Faden darum. Dann hält sie eine Schachtel mit einem Produkt hoch und gießt dann mehrere Flüssigkeiten in eine Schüssel. sie Wählen Sie Ihre Antwort aus: A. Fügt einen Topf hinzu und schüttelt das Produkt in einer Mühle. B. kneift den Faden, um eine Zigarette zu stylen, und geht dann weg. Dann taucht C. die Nadel in Tinte und zeichnet mit dem Bleistift ein Motiv auf ihr Bein, das sie am Ende mit einem Lappen abreibt. D. beginnt, ihre Haare zu stylen und schneidet sie mehrmals, bevor sie die Spitzen scheitelt, um die Frisur zu zeigen, die sie kreiert hat.
+
+
+#Only Llama3 3.1 (wrong) - Llama3 Template: 
+Die richtige Antwort ist B.
+
+#Model SFT GER (wrong) - Alpaca Template: 
+Es ist unklar, welche Handlung sie als nächstes kommt, da der Absatz zu Ende geht.
+
+#Model SFT+orpo GER (correct) - Alpaca Template, linear RoPE Scaling: 
+C. taucht die Nadel in Tinte und zeichnet mit dem Bleistift ein Motiv auf ihr Bein, das sie am Ende mit einem Lappen abreibt.
+
+```
+
+Note: Output from inference [LLaMA-Factory](https://github.com/hiyouga/LLaMA-Factory). Source question: [mayflowergmbh/intel_orca_dpo_pairs_de](https://huggingface.co/datasets/mayflowergmbh/intel_orca_dpo_pairs_de)
+
+</details>