Update app.py

app.py

@@ -1,29 +1,73 @@
 import gradio as gr
-import random
+from huggingface_hub import InferenceClient
 
+# InferenceClient'ı uygun model ile başlatıyoruz
+client = InferenceClient(model="HuggingFaceH4/zephyr-7b-beta")
 
-def greet_number(name):
-    greeting = "Hello " + name
-    lucky_number = random.randint(1, 100)
-    return greeting, lucky_number
+def respond(message, history, system_message, max_tokens, temperature, top_p):
+    # Mesajları hazırlıyoruz, sistem mesajı ile başlıyoruz
+    messages = [{"role": "system", "content": system_message}]
 
+    # Geçmişteki kullanıcı ve asistan mesajlarını ekliyoruz
+    for user_msg, assistant_msg in history:
+        if user_msg:
+            messages.append({"role": "user", "content": user_msg})
+        if assistant_msg:
+            messages.append({"role": "assistant", "content": assistant_msg})
 
-desc = "This Gradio app **GreetLucky** takes a *name as input* and creates " \
-       "a friendly greeting along with a randomly assigned ***lucky number between 1 and 100.***"
+    # Son kullanıcı mesajını ekliyoruz
+    messages.append({"role": "user", "content": message})
 
-article = "<h3>How to Use:</h3> " \
-          "<ul><li>Open the GreetLucky app.</li> " \
-          "<li>Enter your name in the provided input box.</li>" \
-          "<li>Click on the 'Submit' button. <strong>Voila!</strong>. Your personalized greeting " \
-          "and lucky number will appear on the screen.</li></ul>"
+    response = ""
+    try:
+        # Yanıtları alıyoruz ve yayınlıyoruz
+        for message in client.chat_completion(
+            messages=messages,
+            max_tokens=max_tokens,
+            stream=True,
+            temperature=temperature,
+            top_p=top_p,
+        ):
+            token = message.choices[0].delta.get('content', '')
+            response += token
+            yield response
+    except Exception as e:
+        # Hata durumunda hata mesajını döndürüyoruz
+        yield f"Hata: {e}"
 
-demo = gr.Interface(fn=greet_number,
-                    inputs=gr.Textbox(label="Name", placeholder="Enter Name Here"),
-                    outputs=[gr.Textbox(label="Greeting"), gr.Number(label="Your Lucky Number")],
-                    title="GreetLucky",
-                    description=desc,
-                    article=article,
-                    theme="gradio/seafoam"  # <-- String representation of Theme passed to theme= parameter
-                    )
+# Gradio arayüzünü oluşturuyoruz
+with gr.Blocks(theme=gr.themes.Base()) as demo:  # Dark theme can be specified here
+    system_message = gr.Textbox(value="You are a GPT-2 model chatbot named Simulacra. You are produced by Anezatra.", label="Sistem mesajı")
+    max_tokens = gr.Slider(minimum=1, maximum=2048, value=512, step=1, label="Maksimum yeni token sayısı")
+    temperature = gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="Sıcaklık (Temperature)")
+    top_p = gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-p (nükleus örnekleme)")
 
-demo.launch()
+    chatbot = gr.Chatbot()
+    msg = gr.Textbox(label="Mesajınızı yazın")
+    clear = gr.Button("Temizle")
+
+    def user_input(user_message, history):
+        return "", history + [[user_message, None]]
+
+    def bot_response(history):
+        last_message = history[-1][0]
+        response_gen = respond(
+            message=last_message,
+            history=history[:-1],
+            system_message=system_message.value,
+            max_tokens=max_tokens.value,
+            temperature=temperature.value,
+            top_p=top_p.value,
+        )
+        for response in response_gen:
+            history[-1][1] = response
+            yield history
+
+    msg.submit(user_input, [msg, chatbot], [msg, chatbot], queue=False).then(
+        bot_response, chatbot, chatbot
+    )
+    clear.click(lambda: None, None, chatbot, queue=False)
+
+# Uygulamayı başlatıyoruz
+if __name__ == "__main__":
+    demo.launch()