Spaces:
Sleeping
Sleeping
hoduyquocbao
commited on
Commit
•
e7bbd13
1
Parent(s):
1ef909b
Fix GPU Time
Browse files
app.py
CHANGED
@@ -160,7 +160,7 @@ def generate_response(prompt: str, chat_history: List[Tuple[str, str]], max_new_
|
|
160 |
outputs.append(text)
|
161 |
yield "".join(outputs)
|
162 |
|
163 |
-
@spaces.GPU(duration=
|
164 |
def process_query(query: str) -> Dict[str, Any]:
|
165 |
"""
|
166 |
Xác định hàm nào sẽ được gọi dựa trên truy vấn của người dùng.
|
@@ -242,7 +242,7 @@ def handle_functions(function_call: Dict[str, Any], prompt: str, chat_history: L
|
|
242 |
|
243 |
# ---------------------------- Giao Diện Gradio ---------------------------- #
|
244 |
|
245 |
-
@spaces.GPU(duration=
|
246 |
def generate(
|
247 |
message: str,
|
248 |
chat_history: List[Tuple[str, str]],
|
|
|
160 |
outputs.append(text)
|
161 |
yield "".join(outputs)
|
162 |
|
163 |
+
@spaces.GPU(duration=15, queue=False)
|
164 |
def process_query(query: str) -> Dict[str, Any]:
|
165 |
"""
|
166 |
Xác định hàm nào sẽ được gọi dựa trên truy vấn của người dùng.
|
|
|
242 |
|
243 |
# ---------------------------- Giao Diện Gradio ---------------------------- #
|
244 |
|
245 |
+
@spaces.GPU(duration=15, queue=False)
|
246 |
def generate(
|
247 |
message: str,
|
248 |
chat_history: List[Tuple[str, str]],
|