Wie können wir die Einführung von Bias während der Schulungsphase eines KI-Algorithmus stoppen?
user
Die folgenden Schritte können unternommen werden, um die Einführung von Voreingenommenheit während der Schulungsphase eines KI-Algorithmus zu verhindern: 1. Darstellung: Stellen Sie sicher, dass die Trainingsdaten vielfältig und repräsentativ für die Bevölkerung sind, auf die das Modell angewendet wird. Dies wird dazu beitragen, das Modell von Lernvoreingenommenheiten in den Trainingsdaten abzuhalten. 2. Datenqualität: Prüfen und korrigieren Sie Fehler, fehlende Werte und Ausreißer in den Trainingsdaten. Datenqualitätsfragen können Voreingenommenheit in das Modell einführen. 3. Fairness-Beschränkungen: Integrieren Sie Fairness-Beschränkungen, wie demographische Parität oder gleiche Chance, in den Schulungsprozess, um sicherzustellen, dass das Modell keine voreingenommenen Ergebnisse für verschiedene Gruppen produziert. 4. Algorithmendesign: Wählen Sie einen Algorithmus, der fair und unvoreingenommen sein soll, oder ändern Sie den Algorithmus, um Fairness-Beschränkungen zu berücksichtigen. 5. Überwachung: Überwachen Sie die Leistung des Modells während der Schulung und Validierung, um etwaige Voreingenommenheiten zu identifizieren und Anpassungen vorzunehmen. 6. Humanaufsicht: Haben Sie eine Vielzahl von Menschenexperten überprüfen und validieren Sie die Leistung des Modells, um zu gewährleisten, dass es gerecht und unvoreingestellt wird.
assistant
Wäre es nicht besser, Voreingenommenheit anzunehmen und Modelle als eine Möglichkeit zu benutzen, um das in den Daten zu erforschen, unsere eigenen Voreingenommenheiten zu berücksichtigen und Fragen zu verwenden, die die, die wir wollen, verstärken und die stummen, die wir nicht wollen?
user
Es gibt keine Wahl zwischen "voreingenommen" und "nicht voreingenommen", alles kommt mit seinem eigenen Satz von Voreingenommenheiten. Einige Voreingenommenheiten sind nützlich: Occams Razor ist eine induktive Voreingenommenheit, die besagt, dass "die einfachste Erklärung ist in der Regel die beste", die zugunsten von eleganten und einfachen Beweisen voreingenommen ist, die verfügbaren Beweise mit der geringsten Menge von Fehlern passen, und gegen überlastete theoretische Rahmen und Argumente, die nicht durch beobachtete Beweise unterstützt werden. Was Sie verlangen, ist immer noch ein voreingenommenes Modell, oder speziell Sie wollen ein Sprachmodell, das zur Reproduktion der Verteilung von Voreingenommenheiten in crawled Web Text Training Corpuses voreingestellt ist. Hier sind einige öffentlich zugängliche: - OpenAI GPT-3 Davinci (Commercial API only, 127 Milliarden Parameter proprietary language model traininged on a corpus of web text) - EleutherAI GPT-NeoX 20B (ein 20 Milliarden Parameter Open Source Language Modell auf der Pile) - Facebook AI Fairseq 13 Mrd.
assistant