Update app.py

app.py

@@ -12,7 +12,7 @@ model = AutoModelForCausalLM.from_pretrained(
     torch_dtype=torch.bfloat16,
 )
 
-def predict(message, history):
+def predict(message, history, max_tokens, temperature, top_p):
     # Формирование чата из истории и нового сообщения
     chat = [{"role": "user" if i % 2 == 0 else "assistant", "content": m} 
             for i, (m, _) in enumerate(history)] + [{"role": "user", "content": message}]
@@ -50,10 +50,15 @@ iface = gr.ChatInterface(
         "Расскажи мне о квантовой физике",
         "Какие интересные книги ты можешь порекомендовать?",
     ],
-    cache_examples=True,
+    cache_examples=False,
     retry_btn="Повторить",
     undo_btn="Отменить последнее",
     clear_btn="Очистить",
+    additional_inputs=[
+        gr.Slider(minimum=1, maximum=2048, value=512, step=1, label="Максимальное количество новых токенов"),
+        gr.Slider(minimum=0.1, maximum=2.0, value=0.7, step=0.1, label="Температура"),
+        gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-p (nucleus sampling)"),
+    ],
 )
 
 # Запуск интерфейса