Ni nini tofauti kuu kati ya decoder tu transformer na encoder tu transformer?
Tofauti kuu ni kwamba encoder-tu transformer inaangalia mlolongo wa pembejeo kutoka pande zote mbili, wote mbele na nyuma, hii ina maana wanaweza kuelewa vizuri mahusiano kati ya kila ishara katika mlolongo. Kwa upande mwingine, transformer decoder-tu kuangalia tu katika mwelekeo mmoja wa pembejeo, ambayo ina maana wao ni bora inafaa kwa ajili ya kazi ya lugha autoregressive kama vile maandishi kizazi.