言語モデルの「新しいデータの低精度」とはどういう意味ですか？たとえば、分類子のデータと精度は何ですか。しかし、これは言語モデルにとって何ですか？

残念ながら、私は実際に規制当局について何も理解していませんでした。したがって、これまでのあなたの全体の答えは、はるかに簡潔ですが、それほど有用ではない答えに相当します：「はい」。
言語モデルの「新しいデータの低精度」の下では、モデルを特定のデータセットでトレーニングし、このデータセットで高い精度を示すことができることを意味しますが、以前に満たしていないデータの精度が低いことを示すことができます。

これを説明するために、あなたがニュースで訓練された言語モデルを持っていると想像してください。このモデルにニュースから提案を与えると、おそらくその意味を正しく決定できるでしょう。ただし、彼女に口語のスピーチや、たとえば薬などの狭いテーマ領域から提案を行うと、そのようなデータを正しく処理するのに十分な情報がないため、モデルは低精度を示すことができます。

規制に関しては、これはモデルの再訓練を防ぐために使用される手法です。言語モデルのコンテキストでは、トレーニングデータの精度が高すぎることを回避するために、学習プロセスのモデルパラメーターに追加の制限を追加することで規制を実現できます。これは、損失の機能にL1またはL2の調節を追加したり、学習プロセスにドロップアウトを追加するなど、さまざまな方法で達成できます。