user

kiillota alla olevaa paperia.

    \caption{Vertailu perinteisen esivalmennuksen-viimeistelyn paradigman ja ehdottamamme GUR-kehyksen välillä: sen sijaan, että tehtäisiin toimialueeseen mukautuvaa jatkokoulutusta, jossa on vain LM-tavoite ja hienosäätöä erilaisissa myöhemmissä tehtävissä, me jälkivalmennamme mallin LM- ja CL-tavoitteilla mukautetulla toimialueella ja nollapistemallilla NLU-, NLG- ja recall-tehtävissä. Malli "GUR-CL" on esikoulutettu perinteisen lähestymistavan mukaisesti ilman CL-tavoitetta. Muut mallit on esivalmennettu toisessa lähestymistavassa. Ilman lisäresursseja malli "GUR-FULL" säilyttää saman LM-kyvyn kuin perinteisen lähestymistavan malli ja saa tekstin esityskyvyn meidän lähestymistavassa. Mallit alustetaan esivalmennetusta LM:stä yleisellä korpuksella mahdollisimman pienin kustannuksin.}
assistant
\caption{Vertailu perinteisen esivalmennuksen ja hienosäädön paradigman ja ehdottamamme GUR-kehyksen välillä: Sen sijaan, että käyttäisimme vain LM-tavoitetta ja hienosäätöä erilaisissa myöhemmissä tehtävissä, jälkivalmennamme mallin sekä LM- että CL-tavoitteilla mukautetulla toimialueella ja käytämme nollakohtaista oppimista NLU-, NLG- ja recall-tehtävissä. Malli "GUR-CL" noudattaa perinteistä lähestymistapaa ilman CL-tavoitetta. Muut mallit käyttävät toista lähestymistapaa. Ilman lisäresursseja malli "GUR-FULL" säilyttää samat LM-ominaisuudet kuin perinteisen lähestymistavan malli, mutta saa samalla valmiudet tekstin esittämiseen lähestymistapamme avulla. Kaikki mallit alustetaan yleiseen korpukseen esivalmennetusta LM:stä kustannusten minimoimiseksi.}