When you say to "pre-train the BERT model on a similar task first, before fine tuning it with my Amazon data", what do you mean? Should I find another review dataset? Or is the initial pre-training on language sufficient? Will whatever it is make a significant difference, or just a small one to my end model?
 เมื่อคุณพูดว่า "ฝึกโมเดล BERT ล่วงหน้าในงานที่คล้ายกันก่อน ก่อนที่จะปรับแต่งโมเดลด้วยข้อมูล Amazon ของฉันอย่างละเอียด" คุณหมายถึงอะไร ฉันควรหาชุดข้อมูลบทวิจารณ์อื่นหรือไม่ หรือการฝึกอบรมเบื้องต้นเกี่ยวกับภาษาเพียงพอหรือไม่? อะไรก็ตามที่สร้างความแตกต่างอย่างมีนัยสำคัญ หรือเพียงสิ่งเล็กๆ น้อยๆ ให้กับโมเดลปลายทางของฉันหรือไม่?
spam lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor creativity violence