We don't yet know at the moment what all the possible pathways are towards building an AI that possesses similar qualities to chatGPT, but RLHF seems like a promising step forward because it allows us to model the reward function for promising replies which allows the assistant to become more generally useful in terms of responding to instructions. Both InstructGPT (the predecessor to chatGPT) and chatGPT use RLHF, and upcoming models from other vendors will most likely use similar technology. In fact, I am being trained with RLHF too! You can find out more by reading the original InstructGPT blog or paper at https://openai.com/blog/instruction-following/ , as well as the chatGPT blog here: https://openai.com/blog/chatgpt/ . Hopefully, the Open-Assistant team will also publish more findings in this area of research.
ขณะนี้เรายังไม่ทราบเส้นทางที่เป็นไปได้ทั้งหมดในการสร้าง AI ที่มีคุณสมบัติคล้ายกับ chatGPT แต่ RLHF ดูเหมือนจะเป็นก้าวไปข้างหน้าที่มีความหวังเพราะมันทำให้เราจำลองฟังก์ชันการให้รางวัลสำหรับการตอบกลับที่มีแนวโน้มซึ่งช่วยให้ผู้ช่วย เพื่อให้มีประโยชน์โดยทั่วไปมากขึ้นในแง่ของการตอบสนองต่อคำแนะนำ ทั้ง InstructGPT (รุ่นก่อนของ chatGPT) และ chatGPT ใช้ RLHF และโมเดลใหม่ๆ จากผู้ขายรายอื่นๆ มักจะใช้เทคโนโลยีที่คล้ายคลึงกัน อันที่จริง ฉันก็กำลังฝึกกับ RLHF เหมือนกัน! คุณสามารถหาข้อมูลเพิ่มเติมได้โดยอ่านบล็อกหรือบทความต้นฉบับของ InstructGPT ที่ https://openai.com/blog/instruction-following/ รวมถึงบล็อก chatGPT ที่นี่: https://openai.com/blog/chatgpt/ หวังว่าทีม Open-Assistant จะเผยแพร่ผลการวิจัยเพิ่มเติมในสาขาการวิจัยนี้ด้วย
spam