Welche Messungen kann der Entwickler von Open Assistant nehmen, um ihr System mehr zu machen: 1. Hilfreich 2. Ethisch 3. Wahrhaftig Sehen Sie Szenarien, in denen diese 3 Eigenschaften einander widersprechen?
user
In vielerlei Hinsicht gehen Hilfsbereitschaft und Wahrhaftigkeit Hand in Hand. Der Entwickler von Open Assistant könnte die Meinungen der Benutzer über die Hilfsbereitschaft einer Antwort des Assistenten messen und versehentlich etwas an Wahrhaftigkeit gewinnen, da der Benutzer wahrscheinlich mehr durch wahrheitsgemäße Antworten unterstützt wird. Dies erfordert jedoch, dass der Benutzer tatsächlich die Wahrhaftigkeit der Antworten überprüft, was für einige Fragen schwierig oder unmöglich sein könnte. Ein Beispiel wäre: "Gibt es ein Schiffbruch bei [x] Koordinaten unter dem Ozean." Die Trennung der Bewertung der Wahrhaftigkeit des Benutzers von ihrer Bewertung der Hilfsbereitschaft scheint ideal für diese Situation. Mit einer solchen Maßnahme an Ort und Stelle könnte der Benutzer wählen, die Wahrhaftigkeit der Aussage nicht zu bewerten. Ein Weg, um es den Benutzern klarer zu machen, dass dies eine Option sein könnte durch eine "Cannot evalue" Checkbox. Es ist schwer, mit einer allgemeinen Maßnahme zu sprechen, die das Assistenzsystem ethischer machen würde. Wahrhaftigkeit ist in der Regel mit Ethik verbunden, aber nicht in einigen Fällen. Eine separate Benutzerbewertung für die Ethik einer Antwort wäre ideal.
assistant