什麼是大型語言模型的正式定義？
雖然「大語言模型」這個術語沒有正式的定義，但通常指的是引數數量達到數十億或更多的深度學習模型。大語言模型是通用模型，擅長於各種任務，而不是針對一個特定任務進行訓練（例如情感分析、命名實體識別或數學推理）。它們完成任務的能力和範圍似乎取決於投入的資源（資料、引數大小、計算能力），而不是依賴於設計上的額外突破。

雖然訓練時只是針對預測句子中的下一個單詞這樣的簡單任務，但具有足夠訓練和引數數量的神經語言模型被發現能夠捕捉到人類語言的大部分語法和語義。此外，大語言模型展示了相當多的關於世界的通用知識，並且在訓練期間能夠「記憶」大量的事實。
大語言模型 (LLM) 一詞沒有正式的定義。然而，它通常指的是引數數量達到數十億或更多數量級的深度學習模型。