 Rédigez un résumé pour le document donné dans l'entrée.
Résumé : Le réglage fin des invites continues pour les tâches cibles est récemment apparu comme une alternative compacte au réglage fin complet du modèle. Motivés par ces résultats prometteurs, nous étudions la faisabilité d'extraire une interprétation discrète (textuelle) des invites continues qui soit fidèle au problème qu'elles résolvent. En pratique, nous observons un comportement « capricieux » entre la tâche résolue par des invites continues et leurs projections discrètes les plus proches voisines : nous pouvons trouver des invites continues qui résolvent une tâche tout en étant projetées sur un texte arbitraire (par exemple, la définition d'un texte différent ou même d'un tâche contradictoire), tout en étant dans une très petite marge (2%) de la meilleure invite continue de même taille pour la tâche. Nous fournissons des intuitions derrière ce comportement étrange et surprenant, ainsi que des analyses empiriques approfondies quantifiant l'effet de divers paramètres. Par exemple, pour les tailles de modèle plus grandes, nous observons une plus grande caprice, c'est-à-dire que nous pouvons trouver des invites qui correspondent plus étroitement à n'importe quel texte arbitraire avec une baisse de précision plus faible. Ces résultats ont des implications importantes concernant la difficulté d'interpréter fidèlement les invites continues et leur généralisation à travers les modèles et les tâches, fournissant des orientations pour les progrès futurs dans l'incitation des modèles de langage.
Cet article présente une exploration du comportement \u201cwayward\u201d des interprétations discrètes (textuelles) des invites continues qui sont généralement utilisées pour affiner les tâches. Grâce à une analyse empirique, les auteurs analysent comment cette caprice est affectée par divers paramètres tels que la taille du modèle. La recherche montre que l'égarement augmente avec la taille du modèle et fournit des conseils pour interpréter fidèlement les invites continues et approfondir la recherche sur les modèles de langage d'incitation en général.