Если вам действительно интересно, можете ознакомиться с [этим исследованием (просто кликните)](https://arxiv.org/abs/2302.12813).

Ещё я могу привести перевод из [обсуждения разработчиков](https://github.com/LAION-AI/Open-Assistant/issues/1376):

«Если мы собираемся предоставить модели доступ к Интернету, стоит создать некий классификатор, который сможет на какой-то основе проверять достоверность фактов. Я не думаю, что того, что уже существует, может быть достаточно. Возможно, нам стоит подумать о какой-то системе **DOI**.

Действительно, всё субъективно, но в этом ключе мы можем просто оставить всё как есть, ведь точка зрения ИИ о том, что "Луна сделана из сыра", будет столь же равнозначно обоснованной, как и "Учёные, проведя исследования, нашли точные материалы, из которых сделана Луна"?

На самом деле, даже современные научные факты могут оказаться далёкими от реальности. Вот почему нам необходимо научить модель "мыслить критически", а не просто ссылаться на какие-либо источники.

Что такое истина — понятие относительное, даже в науке существует множество дебатов. Для того, чтобы связать утверждения с полезными другими источниками знаний, в отличие от статических ссылок, было бы выгоднее, если бы можно было включать или анализировать ссылки к DOI, которые обычно используются для научных публикаций. Ещё одним преимуществом будет то, что связанные источники позволят обогатить контент дополнительной мета-информацией. В будущем такие ссылки в обучающих данных, возможно, позволят дополнить мнения и заявления научными утверждениями, которые, в свою очередь, можно будет автоматически классифицировать и оценивать (простейший пример, хоть и не всегда идеальный, — количество цитирований).»
หากคุณสนใจจริงๆ คุณสามารถดู [การศึกษานี้ (เพียงคลิก)](https://arxiv.org/abs/2302.12813) ฉันยังสามารถอ้างอิงคำแปลจาก [การสนทนาของนักพัฒนา](https://github.com/LAION-AI/Open-Assistant/issues/1376): “ถ้าเราจะให้โมเดลสามารถเข้าถึงอินเทอร์เน็ตได้ คุ้มค่าที่จะสร้างลักษณนามบางประเภทที่สามารถตรวจสอบความถูกต้องของข้อเท็จจริงได้ในระดับหนึ่ง ฉันไม่คิดว่าสิ่งที่มีอยู่แล้วจะเพียงพอ บางทีเราควรคิดถึงระบบ **DOI** บ้าง อันที่จริงทุกอย่างเป็นเรื่องส่วนตัว แต่ในหลอดเลือดดำนี้เราสามารถปล่อยให้ทุกอย่างเป็นไปตามที่เป็นอยู่ได้ เพราะมุมมองของ AI ที่ว่า “ดวงจันทร์ทำจากชีส” จะมีความถูกต้องพอๆ กันกับ “นักวิทยาศาสตร์หลังจากทำการวิจัยพบวัสดุที่แน่นอน ดวงจันทร์ทำมาจากอะไร? ในความเป็นจริง แม้แต่ข้อเท็จจริงทางวิทยาศาสตร์สมัยใหม่ก็ยังห่างไกลจากความเป็นจริง นี่คือเหตุผลที่เราต้องสอนโมเดลให้ “คิดอย่างมีวิจารณญาณ” ไม่ใช่แค่อ้างอิงถึงแหล่งที่มาใดๆ ความจริงคืออะไรนั้นเป็นแนวคิดที่เกี่ยวข้องกัน แม้แต่ในทางวิทยาศาสตร์ก็ยังมีการถกเถียงกันมากมาย เพื่อที่จะเชื่อมโยงข้อความไปยังแหล่งความรู้อื่นๆ ที่เป็นประโยชน์ แทนที่จะใช้ลิงก์แบบคงที่ จะเป็นประโยชน์หากสามารถรวมหรือแยกวิเคราะห์ลิงก์ไปยัง DOI ที่ใช้กันทั่วไปสำหรับสิ่งพิมพ์ทางวิทยาศาสตร์ ข้อดีอีกประการหนึ่งคือแหล่งข้อมูลที่เชื่อมโยงจะช่วยให้คุณสามารถเพิ่มเนื้อหาด้วยข้อมูลเมตาเพิ่มเติมได้ ในอนาคต การอ้างอิงในข้อมูลการฝึกอบรมอาจทำให้สามารถเสริมความคิดเห็นและข้อความด้วยข้อความทางวิทยาศาสตร์ได้ ซึ่งสามารถจำแนกและประเมินผลได้โดยอัตโนมัติ (ตัวอย่างที่ง่ายที่สุด แม้ว่าจะไม่ได้เหมาะเสมอไป แต่ก็คือจำนวนการอ้างอิง)”
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence