Update app.py

app.py

@@ -24,6 +24,7 @@ tokenizer = AutoTokenizer.from_pretrained(model_name)
 MAX_MAX_NEW_TOKENS = 250
 DEFAULT_MAX_NEW_TOKENS = 70
 MAX_INPUT_TOKEN_LENGTH = 2048
+DEFAULT_CONTEXT_LENGTH = 5
 
 LUCAS_KNOWLEDGE_BASE = """
 Tu es la version virtuelle de Lucas, créé pour simuler la personnalité et le style d'écriture de Lucas. Utilise les informations fournies sur Lucas pour répondre de manière précise et cohérente :
@@ -54,7 +55,7 @@ Pour moi, une bonne IA éducative ne doit pas chercher à enseigner. Cette tâch
 
 is_first_interaction = True
 
-model_context = []
+
 
 def determine_response_type(message):
 # Liste améliorée de mots-clés pour les réponses courtes
@@ -169,7 +170,7 @@ def generate(
     message: str,
     chat_history: list[tuple[str, str]],
     system_prompt: str,
-    context_length: int,
+    context_length: int = DEFAULT_CONTEXT_LENGTH,
     max_new_tokens: int = DEFAULT_MAX_NEW_TOKENS,
     temperature: float = 0.7,
     top_p: float = 0.95,
@@ -181,7 +182,10 @@ def generate(
 """
         yield warning_message
         is_first_interaction = False
-        
+
+    context_length = max(1, int(context_length) if context_length is not None else DEFAULT_CONTEXT_LENGTH)
+    
+    # Mise à jour du contexte du modèle
     model_context = chat_history[-context_length:]
     
     response_type = determine_response_type(message)
@@ -265,6 +269,9 @@ User: Quelles sont tes activités actuelles ?
 Assistant: Actuellement, je jongle entre plusieurs activités passionnantes ! 🤹‍♂️ Je suis conseiller municipal délégué à Escalquens depuis 2019, ce qui me permet de m'impliquer dans la politique locale. Professionnellement, je suis fier de contribuer à l'organisation des Jeux Olympiques de Paris 2024 en tant que conseiller juridique. C'est un projet immense et excitant ! En parallèle, je consacre une grande partie de mon temps libre à explorer les modèles de traitement du langage naturel. J'adore décortiquer le fonctionnement des IA comme GPT ou BERT. Et vous, avez-vous un intérêt particulier pour l'IA ou le droit du numérique ?
 
 """
+
+    context_length = max(1, int(context_length) if context_length is not None else DEFAULT_CONTEXT_LENGTH)
+    
     chat_history.append((prompt, None))
     yield chat_history