add question generation with beam

README.md

@@ -91,6 +91,51 @@ nlp("Les projecteurs peuvent être utilisées pour <hl>illuminer<hl> des terrain
 # >>> [{'generated_text': 'À quoi servent les projecteurs sur les terrains de jeu extérieurs?'}]
 ```
 
+```py
+from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
+from transformers import Text2TextGenerationPipeline
+
+model_name = 'lincoln/barthez-squadFR-fquad-piaf-question-generation'
+
+loaded_model = AutoModelForSeq2SeqLM.from_pretrained(model_name)
+loaded_tokenizer = AutoTokenizer.from_pretrained(model_name)
+
+text = "Les Etats signataires de la convention sur la diversité biologique des Nations unies doivent parvenir, lors de la COP15, qui s’ouvre <hl>lundi<hl>, à un nouvel accord mondial pour enrayer la destruction du vivant au cours de la prochaine décennie."
+
+inputs = loaded_tokenizer(text, return_tensors='pt')
+
+out = loaded_model.generate(
+    input_ids=inputs.input_ids,
+    attention_mask=inputs.attention_mask,
+    num_beams=16,
+    num_return_sequences=16,
+    length_penalty=10
+)
+
+questions = []
+for question in out:
+    questions.append(loaded_tokenizer.decode(question, skip_special_tokens=True))
+
+for q in questions:
+    print(q)
+# Quand se tient la conférence des Nations Unies sur la diversité biologique?
+# Quand a lieu la conférence des Nations Unies sur la diversité biologique?
+# Quand se tient la conférence sur la diversité biologique des Nations unies?
+# Quand se tient la conférence de la diversité biologique des Nations unies?
+# Quand a lieu la conférence sur la diversité biologique des Nations unies?
+# Quand a lieu la conférence de la diversité biologique des Nations unies?
+# Quand se tient la conférence des Nations unies sur la diversité biologique?
+# Quand a lieu la conférence des Nations unies sur la diversité biologique?
+# Quand se tient la conférence sur la diversité biologique des Nations Unies?
+# Quand se tient la conférence des Nations Unies sur la diversité biologique?
+# Quand se tient la conférence de la diversité biologique des Nations Unies?
+# Quand la COP15 a-t-elle lieu?
+# Quand la COP15 a-t-elle lieu?
+# Quand se tient la conférence sur la diversité biologique?
+# Quand s'ouvre la COP15,?
+# Quand s'ouvre la COP15?
+```
+
 ## Citation
 
 Model based on: