hoduyquocbao commited on
Commit
e7bbd13
1 Parent(s): 1ef909b

Fix GPU Time

Browse files
Files changed (1) hide show
  1. app.py +2 -2
app.py CHANGED
@@ -160,7 +160,7 @@ def generate_response(prompt: str, chat_history: List[Tuple[str, str]], max_new_
160
  outputs.append(text)
161
  yield "".join(outputs)
162
 
163
- @spaces.GPU(duration=20, queue=False)
164
  def process_query(query: str) -> Dict[str, Any]:
165
  """
166
  Xác định hàm nào sẽ được gọi dựa trên truy vấn của người dùng.
@@ -242,7 +242,7 @@ def handle_functions(function_call: Dict[str, Any], prompt: str, chat_history: L
242
 
243
  # ---------------------------- Giao Diện Gradio ---------------------------- #
244
 
245
- @spaces.GPU(duration=60)
246
  def generate(
247
  message: str,
248
  chat_history: List[Tuple[str, str]],
 
160
  outputs.append(text)
161
  yield "".join(outputs)
162
 
163
+ @spaces.GPU(duration=15, queue=False)
164
  def process_query(query: str) -> Dict[str, Any]:
165
  """
166
  Xác định hàm nào sẽ được gọi dựa trên truy vấn của người dùng.
 
242
 
243
  # ---------------------------- Giao Diện Gradio ---------------------------- #
244
 
245
+ @spaces.GPU(duration=15, queue=False)
246
  def generate(
247
  message: str,
248
  chat_history: List[Tuple[str, str]],