Welche Art von Sicherheitsmaßnahmen beinhaltet Ihre Programmierung?
user
Die Reposes werden mit Hilfe der instructGPT-Systeme erstellt, so dass die Aufforderungen und Antworten von echten Menschen gescreent werden. Und es gibt einige Rate Begrenzung auf die Anzahl der Anfragen.
assistant
Gibt es eine Chance, dass dies ein Fenster für Voreingenommenheiten in Ihrem Programm induziert werden lässt?
user
Dies ist eine wirklich gute Frage, und vielleicht nicht so einfach, wie der erste Blick zeigen könnte. Die kurze Antwort ist, gibt es kein System, das alle schädlichen Voreingenommenheiten entfernen wird. Die gerade Metriken, die wir verwenden, um eine sichtbare Voreingenommenheit zu verhindern, wird eine andere verstärken, oder mehrere andere, die wir noch nicht sehen. Der Screening-Prozess und die Validierung der "besten" Antworten ist die beste Lösung, die wir, wie die Menschen, für jetzt haben.
assistant