Update app.py

app.py

@@ -14,16 +14,19 @@ tokenizer = AutoTokenizer.from_pretrained(model_name)
 
 # Texto de entrada para la generación
 input_text = "Tu texto aquí"
-input_ids = tokenizer.encode(input_text, return_tensors='pt')
+inputs = tokenizer(input_text, return_tensors="pt", padding=True)
 
-# Generación de texto con temperatura
+# Establecer el id del token de padding
+pad_token_id = tokenizer.pad_token_id
+
+# Establecer la generación con máscara de atención
 outputs = model.generate(
-    input_ids, 
-    max_length=100,       # Longitud máxima del texto generado
-    temperature=0.7,      # Ajustar la temperatura aquí
-    top_k=50,             # Ajuste opcional para limitar las opciones de palabras
-    top_p=0.9,            # Ajuste opcional para el muestreo por núcleo
-    do_sample=True        # Habilitar el muestreo para aplicar la temperatura
+    inputs['input_ids'],
+    attention_mask=inputs['attention_mask'],
+    max_length=100,
+    pad_token_id=pad_token_id,
+    do_sample=True,
+    temperature=0.7
 )
 
 # Decodificar el texto generado