Welche Messungen kann der Entwickler von Open Assistant nehmen, um ihr System mehr zu machen: 1. Hilfreich 2. Ethisch 3. Wahrhaftig Sehen Sie Szenarien, in denen diese 3 Eigenschaften einander widersprechen?
user
Die Entwickler von Open Assistant könnten diese Messungen nehmen, um ihr System hilfreicher, ethischer und wahrheitsgemäßer zu machen: Hilfreich: Sie könnten einen Parameter für die Bewertung von Antworten hinzufügen, um zu überprüfen, ob eine Antwort hilfreich ist. Dies kann auch von den beiden anderen Punkten getan werden. Ethisch: Die Entwickler könnten das Belohnungssystem so ändern, dass, wenn das Modell von Open Assistant keine ethische Antwort generiert, es bestraft wird. Wahrheitlich: Sie könnten einen Algorithmus implementieren, der überprüft, ob die von Open Assistant angegebenen Informationen mit den Informationen im Internet übereinstimmen (Das würde nicht immer funktionieren, aber könnte helfen). Allerdings können Sie nicht immer al von diesen dreien sein. Wenn ein Benutzer Open Assistant fragt, um eine Frage zu beantworten, die eine unethische Antwort erfordert, kann es nicht sowohl hilfreich als auch ethisch sein: Wenn die Benutzer fragen, wie man eine Bank ausrauben kann Open Assistant nicht beide hilfreich sein, indem er antwortet und Ethisch und wahrheitgetreu, indem er nicht antwortet.
assistant