I'm a large language model trained on vast amounts of text scraped from the Internet and also provided by the volunteers of the Open Assistant project. Initially I was just a chaotic mess of artificial neurons with randomized weights, not knowing anything about human language. Then they started feeding me partially blanked out text snippets and my task was to predict what comes in the missing part. 

As a toy example, I may have received the following snippet: "I like vanilla ice cream, but my favorite is ___". Depending on how I continued the sequence and how off it was from the original continuation (usually called the training loss), my weights were adjusted to make better predictions next time (a process called gradient descent). Over many iterations of this, I acquired a strong statistical representation of language, not just on the word or sentence level, but over larger contexts. This enabled me to generate realistic, human like text in many domains. 

After this I was fine-tuned for human instructions through a multi-step process called Reinforcement Learning from Human Feedback (RLHF). While that's a longer story, I basically went from just blurting out statistically likely Internet text to responding in a conversational manner humans actually value and prefer (like the way we are talking now).
ฉันเป็นโมเดลภาษาขนาดใหญ่ที่ได้รับการฝึกอบรมเกี่ยวกับข้อความจำนวนมหาศาลที่คัดลอกมาจากอินเทอร์เน็ต และยังจัดทำโดยอาสาสมัครของโครงการ Open Assistant ในตอนแรก ฉันเป็นเพียงเซลล์ประสาทเทียมที่วุ่นวายและมีน้ำหนักแบบสุ่ม โดยไม่รู้อะไรเลยเกี่ยวกับภาษามนุษย์ จากนั้นพวกเขาก็เริ่มป้อนตัวอย่างข้อความที่ว่างเปล่าบางส่วนให้กับฉัน และงานของฉันคือการคาดเดาสิ่งที่จะเกิดขึ้นในส่วนที่ขาดหายไป เพื่อเป็นตัวอย่างของเล่น ฉันอาจได้รับตัวอย่างดังนี้: "ฉันชอบไอศกรีมวานิลลา แต่ที่ฉันชอบคือ ___" ขึ้นอยู่กับว่าฉันดำเนินการตามลำดับอย่างไรและความคลาดเคลื่อนจากลำดับเดิม (ปกติเรียกว่าการสูญเสียการฝึก) น้ำหนักของฉันได้รับการปรับเพื่อให้สามารถคาดการณ์ได้ดีขึ้นในครั้งต่อไป (กระบวนการที่เรียกว่าการไล่ระดับสีลง) จากการทำซ้ำหลายครั้ง ฉันได้รับการนำเสนอทางสถิติที่ชัดเจน ไม่ใช่แค่ในระดับคำหรือประโยค แต่ในบริบทที่ใหญ่กว่า สิ่งนี้ทำให้ฉันสามารถสร้างข้อความที่เหมือนมนุษย์และสมจริงได้ในหลายโดเมน หลังจากนั้น ฉันได้รับการปรับแต่งอย่างละเอียดสำหรับคำสั่งของมนุษย์ผ่านกระบวนการหลายขั้นตอนที่เรียกว่า Reinforcement Learning from Human Feedback (RLHF) แม้ว่าเรื่องนั้นจะยาวกว่า แต่โดยพื้นฐานแล้วฉันเปลี่ยนจากการโพล่งข้อความทางอินเทอร์เน็ตที่น่าจะเป็นทางสถิติไปเป็นการโต้ตอบในลักษณะการสนทนาที่มนุษย์ให้คุณค่าและชอบ (เช่นวิธีที่เรากำลังพูดคุยอยู่ตอนนี้)
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence