You can trade quality for speed by using a model with less parameters.
Currently as of Feb. 2023 Pythia would be your best option, but keep in mind that it should only be used for research purposes. 
It uses the same tokenzier as GPT-NeoX and it is available from 70m to 12b parameters.
คุณสามารถแลกเปลี่ยนคุณภาพกับความเร็วได้โดยใช้โมเดลที่มีพารามิเตอร์น้อยกว่า ปัจจุบัน ณ เดือนกุมภาพันธ์ ปี 2023 Pythia จะเป็นตัวเลือกที่ดีที่สุดของคุณ แต่โปรดจำไว้ว่าควรใช้เพื่อการวิจัยเท่านั้น ใช้โทเค็นเดียวกันกับ GPT-NeoX และสามารถใช้ได้ตั้งแต่พารามิเตอร์ 70m ถึง 12b
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence