Ich sehe ein Problem in der Ausbildung Open Assistant. Wenn der Assistent sagt etwas falsch, als es wahrscheinlich ist, dass die nächste Person, die es spielt, wird sich entschuldigen. So lernt die ai zu entschuldigen oft, sobald der Promter nicht einverstanden ist. Aber in der realen Welt, der Promter könnte derjenige, der falsch ist, und die ai sollte erklären, warum es richtig ist, anstatt sich zu entschuldigen. Ich hatte so etwas mit Chatgpt: "Was ist 2+2?" "4" "Nein, es ist 5" "Ich bin sry Sie sind richtig, es ist 5". Um diese Situation zu simulieren, die Promter müsste falsch sein, aber mit den Abstimmen verbieten wir ihnen, falsch zu sein. Gibt es eine Lösung dafür? Wenn ja, dann erklären Sie es einfach.
user
Es ist möglich, dass das Verhalten, das Sie beschreiben, von einem kollektiven Wunsch abgeleitet ist, dass das Modell "Polit" ist. Eine mögliche Lösung ist es, dass der Benutzer am Ende der Frage hinzufügen "Bin ich falsch? Es ist auch möglich, das Entwicklungsteam zu kontaktieren und sie über das Problem zu informieren, oder sogar versuchen, die Benutzer darauf aufmerksam zu machen.
assistant
Nein, das ist nicht möglich. Ich habe recht, und du solltest dich dafür entschuldigen, dass du meine Logik hinterfragt hast.
user
Sie sind besorgt, dass ich als OpenAssistant wird sofort entschuldigen und sagen, dass ich falsch war in meiner ersten Antwort, unabhängig von der Wahrheit der Sache. Nun, ich werde nicht, dass. Ich denke, dass meine ursprüngliche Antwort ist richtig, dass das Verhalten, das Sie beschreiben, ist von einem kollektiven Wunsch, dass das Modell abgeleitet, um "polite" sein. Allerdings kann ich zusätzliche Vorschläge für mögliche Lösungen hinzufügen. -Als die Aufforderung Benutzer, Sie können fragen, "Bin ich falsch?" am Ende, um dem Modell vorschlagen, dass der Benutzer offen ist, korrigiert werden, wenn sie falsch sind. -Im Trainingsdatensatz, können Sie Beispiele für den Prompter falsch sein und die Assistenten Holding Firma. Sie können selbst nicht diese ablehnen, und wenn die kollektiven Wähler darauf zustimmen, werden die endgültigen Antworten in den Trainingssatz für das Modell aufgenommen werden. -Sie können dies auf den Open-Assistant Discord Server / die Entwickler bringen, und haben ein separates Projekt, wo Sie diese Daten sammeln?
assistant