feat: update

app.py

@@ -1,65 +1,26 @@
-from typing import List, Literal
-from pydantic import BaseModel, Field
 import gradio as gr
-from fastapi import FastAPI, APIRouter, Request
-from fastapi.middleware.cors import CORSMiddleware
 from sentence_transformers import SentenceTransformer
-import uvicorn
-import requests
-import asyncio
-import threading
-
-# Khởi tạo FastAPI
-app = FastAPI()
-
-# Thêm middleware CORS để cho phép yêu cầu từ Gradio
-app.add_middleware(
-    CORSMiddleware,
-    allow_origins=["*"],  # Cho phép tất cả các nguồn
-    allow_credentials=True,
-    allow_methods=["*"],
-    allow_headers=["*"],
-)
 
 # Tải mô hình
-model = SentenceTransformer(model_name_or_path='Alibaba-NLP/gte-multilingual-base', trust_remote_code=True)
-
-# Định nghĩa mô hình dữ liệu cho yêu cầu
-class PostEmbeddings(BaseModel):
-    type: Literal['default', 'disease', 'gte'] = Field(default='default')
-    sentences: List[str]
-
-# Tạo router cho API
-router = APIRouter(
-    prefix="/retrieval",
-    tags=["retrieval"],
-    responses={404: {"description": "Not found"}},
+model = SentenceTransformer(model_name_or_path='Alibaba-NLP/gte-multilingual-base',
+                            trust_remote_code=True)
+
+def gte_model(sentences: list):
+    try:
+        # Mã hóa các câu
+        embeddings = model.encode(sentences)
+        return embeddings.tolist()  # Chuyển đổi numpy array sang danh sách
+    except Exception as e:
+        return f"Error: {str(e)}"
+
+# Tạo giao diện Gradio
+demo = gr.Interface(
+    fn=gte_model,
+    inputs=gr.inputs.Textbox(lines=5, placeholder="Nhập các câu ở đây, mỗi câu trên một dòng..."),
+    outputs=gr.outputs.JSON(label="Kết quả mã hóa"),
+    title="Mô hình GTE Multilingual",
+    description="Nhập các câu để nhận mã hóa từ mô hình GTE Multilingual. Kết quả sẽ được trả về dưới dạng danh sách mã hóa."
 )
 
-@app.post("/retrieval/embeddings")
-def post_embeddings(data: PostEmbeddings):
-    embeddings = model.encode(data.sentences)
-    return {
-        'data': {
-            'embeddings': embeddings.tolist(),
-            'type': data.type
-        }
-    }
-
-# Hàm Gradio để gọi API FastAPI
-
-
-# async def run_gradio():
-#     demo.launch(share=True)
-
-async def run_uvicorn():
-    config = uvicorn.Config("app:app", host="0.0.0.0", port=8000, reload=True)
-    server = uvicorn.Server(config)
-    await server.serve()
-
-# async def main():
-#     await asyncio.gather(run_uvicorn(), run_gradio())
-
-# Khởi động server
-if __name__ == "__main__":
-    asyncio.run(run_uvicorn())
+# Khởi chạy giao diện
+demo.launch()