A large language model is extremely unlikely to respond to a prompt with information copied exactly from it's dataset - it will almost always present synthesized responses, having an influence from many parts of it's training set. Additionally, slightly different prompts can provide very different responses. 

Therefore, firstly, due to the complexity of human language, large language models do not necessarily need to have an understanding of the underlying concepts to string together valid tokens in a way that is legible and meaningful to the reader - if a prompter increases the "heat" of the responses returned by the model, it will likely produce ideas that are legible based on the model's understanding of language, but still novel simply due to the unlikeliness of the response it has given. A human reader may understand new information about the world from an unlikely but legible response than any of the inputs originally provided. 

Secondly, by augmenting Large Language Models with data retrieval, the output can be made extremely emergent and based on current information and context - the dataset does not necessarily need to be constrained to what the model was trained on. 

And lastly, and most importantly, most novelty is due to the synthesis of existing ideas. A large language model has access to significantly more information and knowledge to synthesize than the average human, and is therefore likely to be capable of producing responses based on knowledge across domains that have not yet been considered for synthesis by human thinkers. Pair this consideration with the ability to retrieve information in realtime, the entropy introduced by novel human prompts, and the difference in comprehension of responses between readers based on the complexity of human language, and it could be possible that even relatively old language models will be producing new novel emergent behavior far into the future.
โมเดลภาษาขนาดใหญ่ไม่น่าเป็นไปได้อย่างยิ่งที่จะตอบสนองต่อพรอมต์ด้วยข้อมูลที่คัดลอกมาจากชุดข้อมูลของมัน - โมเดลภาษานั้นมักจะแสดงการตอบสนองแบบสังเคราะห์เสมอ โดยได้รับอิทธิพลจากหลายส่วนของชุดการฝึก นอกจากนี้ ข้อความแจ้งที่แตกต่างกันเล็กน้อยสามารถให้คำตอบที่แตกต่างกันมากได้ ดังนั้น ประการแรก เนื่องจากความซับซ้อนของภาษามนุษย์ โมเดลภาษาขนาดใหญ่ไม่จำเป็นต้องมีความเข้าใจในแนวคิดพื้นฐานในการรวมโทเค็นที่ถูกต้องเข้าด้วยกันในลักษณะที่อ่านง่ายและมีความหมายต่อผู้อ่าน - หากตัวแจ้งเพิ่ม " ความร้อน" ของคำตอบที่ส่งคืนโดยแบบจำลอง มีแนวโน้มที่จะสร้างแนวคิดที่สามารถอ่านได้ขึ้นอยู่กับความเข้าใจภาษาของแบบจำลอง แต่ยังคงแปลกใหม่เพียงเพราะความไม่น่าเป็นไปได้ของการตอบสนองที่มอบให้ ผู้อ่านที่เป็นมนุษย์อาจเข้าใจข้อมูลใหม่เกี่ยวกับโลกจากการตอบสนองที่ไม่น่าเป็นไปได้แต่อ่านง่ายมากกว่าข้อมูลใดๆ ที่ให้ไว้ในตอนแรก ประการที่สอง ด้วยการเพิ่มโมเดลภาษาขนาดใหญ่ด้วยการดึงข้อมูล ผลลัพธ์สามารถเกิดขึ้นได้อย่างมากและขึ้นอยู่กับข้อมูลและบริบทปัจจุบัน - ชุดข้อมูลไม่จำเป็นต้องถูกจำกัดตามสิ่งที่โมเดลได้รับการฝึกฝน และสุดท้ายและที่สำคัญที่สุด ความแปลกใหม่ส่วนใหญ่เกิดจากการสังเคราะห์แนวคิดที่มีอยู่ แบบจำลองภาษาขนาดใหญ่สามารถเข้าถึงข้อมูลและความรู้เพื่อสังเคราะห์ได้มากกว่ามนุษย์ทั่วไปอย่างมีนัยสำคัญ และดังนั้นจึงมีแนวโน้มที่จะสามารถสร้างการตอบสนองโดยอาศัยความรู้ข้ามขอบเขตที่ยังไม่ได้รับการพิจารณาให้สังเคราะห์โดยนักคิดของมนุษย์ จับคู่การพิจารณานี้กับความสามารถในการดึงข้อมูลแบบเรียลไทม์ เอนโทรปีที่ได้รับการแนะนำโดยคำสั่งของมนุษย์ และความแตกต่างในความเข้าใจในการตอบสนองระหว่างผู้อ่านตามความซับซ้อนของภาษามนุษย์ และอาจเป็นไปได้ที่แม้แต่แบบจำลองภาษาที่ค่อนข้างเก่าก็ยัง ก่อให้เกิดพฤติกรรมใหม่ที่เกิดขึ้นในอนาคตอันไกลโพ้น
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence