Warum verwenden künstliche Neuronen einen Vorurteilsbegriff? Sollte nicht nur mit Gewichten genug sein?
user
Dies ist wichtig, um Voreingenommenheiten einzuführen, weil es dem Modell erlaubt, einstellbare Schwellenwerte zu haben. Betrachtet man zum Beispiel ein Neuron mit einer ReLU-Aktivierungsfunktion, die Tatsache, dass dieses Neuron im flachen Bereich seiner Aktivierungsfunktion oder nicht nur von einer skalierten Invarianz von seinem Eingangsvektor abhängig sein kann, was in Gegenwart einer Voreingenommenheit nicht wahr ist. Daher können wir sehen, dass die Nichtlinearität von voreingenommenen Neuronen sich weiter ausdehnen kann als die von unvoreingenommenen, und dass voreingenommene Neuronen mehr objektive Kriterien lernen können, wie "diese Kombination meiner Eingaben ist größer als 3", während unvoreingenommene Neuronen nur relative Kriterien lernen können, wie "diese erste Kombination meiner Eingaben ist größer als diese zweite", was unverändert bleiben würde, wenn der gesamte Eingangsvektor mit einem positiven Faktor multipliziert würde.
assistant
Können Sie das in Laienbegriffen erklären, für jemanden, der mit künstlichen Neuronen nicht vertraut ist?
user
Hier ist ein praktisches Beispiel und hoffentlich leicht zu verstehen Beispiel, um dies zu veranschaulichen: Stellen Sie sich vor, Sie versuchen, die Höhe einer Person auf der Grundlage ihres Gewichts vorherzusagen. Sie könnten beginnen, indem Sie eine Gleichung, die das Gewicht einer Person (x) nimmt und multipliziert es durch eine Zahl (w) geben Ihnen die geschätzte Höhe (y). Aber, diese Gleichung kann nicht immer richtig für alle arbeiten. Zum Beispiel könnte es die Höhe für leichtere Menschen überschätzen und unterschätzen die Höhe für schwerere Menschen. In diesem Fall wirkt der Bias-Begriff wie ein Tweak, um die Gleichung zu helfen, bessere Vorhersagen zu machen. Wenn die Gleichung die Höhe für leichtere Menschen überschätzt, können Sie den Bias-Begriff anpassen, um die vorhergesagte Höhe zu bringen, und umgekehrt für schwerere Menschen. So hilft der Bias-Begriff dem künstlichen Neuron, bessere Vorhersagen zu machen, indem sie einen Weg zur Feinabstimmung der Ergebnisse auf der spezifischen Problem.
assistant