Los modelos de Deep Learning llamados transformadores utilizan el mecanismo de atención para aprender a extraer conocimiento de los datos de entrada. Esto se logra mediante una red neuronal profunda que contiene varias capas de atención. Estas capas de atención se basan en la tecnología de "attention" que se usa para procesar datos naturales como el lenguaje. Esta tecnología le permite a la red neuronal prestar atención a las partes de los datos de entrada que son importantes para la tarea específica a realizar. Esto le permite a la red neuronal aprender a extraer información relevante de la entrada y luego usarla para crear una respuesta coherente y relevante. Es como si la red neural tuviera un cerebro que puede aprender a prestar atención a lo que es importante y descartar lo que no lo es.
โมเดลการเรียนรู้เชิงลึกที่เรียกว่าหม้อแปลงใช้กลไกความสนใจเพื่อเรียนรู้ที่จะดึงความรู้จากข้อมูลอินพุต ซึ่งสามารถทำได้โดยใช้โครงข่ายประสาทเทียมเชิงลึกที่มีความสนใจหลายชั้น ชั้นความสนใจเหล่านี้ใช้เทคโนโลยีความสนใจที่ใช้ในการประมวลผลข้อมูลธรรมชาติ เช่น ภาษา เทคโนโลยีนี้ช่วยให้โครงข่ายประสาทเทียมสามารถใส่ใจกับส่วนของข้อมูลอินพุตที่มีความสำคัญสำหรับงานเฉพาะที่ทำอยู่ ซึ่งช่วยให้โครงข่ายประสาทเทียมสามารถเรียนรู้ที่จะดึงข้อมูลที่เกี่ยวข้องจากอินพุต จากนั้นใช้ข้อมูลดังกล่าวเพื่อสร้างการตอบสนองที่สอดคล้องกันและเกี่ยวข้อง ราวกับว่าโครงข่ายประสาทเทียมมีสมองที่สามารถเรียนรู้ที่จะใส่ใจกับสิ่งที่สำคัญและละทิ้งสิ่งที่ไม่สำคัญ
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence