The TransformerEncoder block does the following:

Applies self-attention to encode context from the input sequence
Processes the attended input through a feedforward neural network
Stacks multiple of these layers to capture long-range dependencies

So in short, it encodes a sequence using stacked self-attention and feedforward layers.
 บล็อก TransformerEncoder ดำเนินการดังต่อไปนี้: ใช้การเอาใจใส่ในตนเองเพื่อเข้ารหัสบริบทจากลำดับอินพุต ประมวลผลอินพุตที่เข้าร่วมผ่านเครือข่ายประสาทเทียมแบบฟีดฟอร์เวิร์ด สแต็คหลายเลเยอร์เหล่านี้เพื่อบันทึกการขึ้นต่อกันในระยะยาว ดังนั้นในระยะสั้น บล็อกจะเข้ารหัสลำดับโดยใช้สแต็ก self- ความสนใจและชั้นป้อนกลับ
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence