請問正確交談的 json 結構

#9
by phidiassj - opened

您好! 我將此模型安裝到 Inference Endpoint 上,並嘗試使用 cUrl 透過 Inference API 呼叫,但嘗試了各種 json 格式而無法成功,再麻煩指導正確交談的 json 格式,謝謝您!

• 2024/05/14 23:14:47
INFO | Model initialized successfully
• 2024/05/14 23:15:24
INFO | Inputs: {"chat":[{"role":"user","content":"請撰寫一篇關於「夏日防曬的重要性」的文章。"}]}
• 2024/05/14 23:15:24
INFO | Args: ()
• 2024/05/14 23:15:24
INFO | KWArgs: {'min_length': 50, 'max_length': 8000, 'temperature': 0.1}
• 2024/05/14 23:15:24
ERROR | 'str object' has no attribute 'role'
• 2024/05/14 23:18:01
INFO | Inputs: [{"role":"user","content":"請撰寫一篇關於「夏日防曬的重要性」的文章。"}]
• 2024/05/14 23:18:01
INFO | Args: ()
• 2024/05/14 23:18:01
INFO | KWArgs: {'min_length': 50, 'max_length': 8000, 'temperature': 0.1}
• 2024/05/14 23:18:01
ERROR | 'str object' has no attribute 'role'

您好
您的問題與模型本身無關,建議您到相關的github或管道提問

Best regards

TAIDE org

您好,

使用哪個 Inference Endpoint ,需要參考對應的 documents。

例如 text-generation-inference,
https://github.com/huggingface/text-generation-inference/issues/1781
https://huggingface.github.io/text-generation-inference/#/

Best regards.

可以正常呼叫了,感謝您的協助。

phidiassj changed discussion status to closed

Sign up or log in to comment