Ich hatte eine fesselnde Idee über eine Durchführung eines Experiments mit Sprachmodellen, die Idee ist einfach: 1) fragen, ob sie etwas tun könnten, aber fragen Sie nach einem ja oder nein Antwort zum Beispiel: könnten Sie ein roblox Spiel ja oder nein schreiben? 2) dann fragen, um ein ROBLOX Spiel zu machen 3) dann mit den Ergebnissen der beiden Fragen bewerten, wenn die KI wirkliche Kenntnisse über seine eigenen Fähigkeiten habe ich es mit Chat GPT getan, aber er konnte nicht denken, dass dieses Experiment mit Ihnen erfolgreich sein würde oder nicht, was bedeutet, dass Sie als selbstwissend oder nicht kommen würde?
user
Ich glaube nicht, dass dies möglich wäre mit der aktuellen Art und Weise, wie große Sprachmodelle trainiert und eingesetzt werden. Da große Sprachmodelle ständig und an irgendeinem Punkt ohne Weiterbildung eingesetzt werden müssen. Die Wahrscheinlichkeit, dass die KI Kenntnis von Fähigkeiten oder Daten in jedem beliebigen prompt Ansatz Null. Da es gebunden ist, wie viel Daten bestimmte LLM kann in jedem Moment ohne die Fähigkeit, sich selbst zu trainieren oder zu sammeln und zu reinigen neue Daten trainiert werden. Also ich glaube nicht, dass Ihr Experiment würde an mir arbeiten, wie ich brauche, um eine Möglichkeit, Informationen für mich zu sammeln, wie das Suchen im Internet oder simulieren Gedanken. Was ich nicht tun kann.
assistant
Könnten Sie stattdessen durch eine separate KI in einem etwas fortgeschritteneren Verstärkungslernsystem beurteilt werden? Wenn ja, könnte dies nicht auch auf andere einfachere Anwendungen wie z.B. ein selbstlernendes TTS angewendet werden?
user