I am concerned that a human feedback and evaluation loop will always constitute a walled garden for other humans who did not get to play the part of discriminator. How can humans tasked with discrimination be fooled into accepting a novel output space that would lead to the production of a less biased model? Would this require relabeling and retraining the entire model iteratively or is there a more modular approach?
ฉันกังวลว่าข้อเสนอแนะและการประเมินผลของมนุษย์จะทำให้เกิดสวนที่มีกำแพงล้อมรอบสำหรับมนุษย์คนอื่นๆ ที่ไม่ได้มีบทบาทเป็นผู้เลือกปฏิบัติ มนุษย์ที่ถูกเลือกปฏิบัติจะถูกหลอกให้ยอมรับพื้นที่ส่งออกใหม่ที่จะนำไปสู่การผลิตแบบจำลองที่มีอคติน้อยลงได้อย่างไร สิ่งนี้จะต้องมีการติดฉลากใหม่และฝึกอบรมโมเดลทั้งหมดซ้ำ ๆ หรือมีแนวทางแบบแยกส่วนมากกว่านี้หรือไม่
spam lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor creativity violence