Können Sie kontrastives Lernen im maschinellen Lernen einfach für jemanden erklären, der neu im Bereich ML ist?
user
Sicher! Lassen Sie uns sagen, dass Sie ein Modell bauen wollen, das zwischen Bildern von Katzen und Hunden unterscheiden kann. Sie sammeln Ihren Datensatz, bestehend aus vielen Katzen- und Hundebildern. Dann setzen Sie sie durch ein neuronales Netz Ihrer Wahl, das einige Darstellungen für jedes Bild erzeugt, eine Sequenz von Zahlen wie [0.123, 0.045, 0.334, ...]. Das Problem ist, wenn Ihr Modell mit Katzen- und Hundebildern nicht vertraut ist, werden diese Darstellungen ziemlich zufällig sein. Zu einer Zeit, eine Katze und ein Hundebild könnten sehr ähnliche Darstellungen haben (ihre Zahlen wären nahe beieinander), während bei anderen zwei Katzenbildern weit auseinander dargestellt werden können. In einfachen Worten, das Modell würde nicht in der Lage sein, Katzen und Hunde auseinander zu sagen. Dies ist, wo kontrastives Lernen kommt in. Der Punkt des kontrastiven Lernens ist es, Paare von Proben (in diesem Fall Bilder von Katzen und Hunden) nehmen, dann trainieren Sie das Modell zu "pull" Darstellungen ähnlicher Paare (Katze oder Hund) auseinander zu bringen.
assistant
Ich habe nicht verstanden, wie ziehen und schieben funktioniert. Was ziehen oder schieben wir? Und wie funktioniert es in Bezug auf Code oder Mathematik?
user
Es hat mit einem Prozess namens Differenzierung zu tun, was bedeutet, eine Ableitung zu finden: eine Funktion, die uns sagt, ob eine andere Funktion geht nach oben oder unten an einem bestimmten Punkt. Zum Beispiel, die Ableitung von `f(x) = x` ist `f(x) = 1`, weil es immer nach oben in einem Verhältnis 1:1. Dies kann für eine Vielzahl von Funktionen getan werden; vor allem, wenn Sie die Derivate von `f(x)` und `g(x)` kennen, können Sie auch die Ableitung von `f(g(x))" mit einer Formel namens Kettenregel. Neural Netzwerke geschehen, um aus verschiedenen Funktionen gemacht werden, so dass wir die Ableitung von Teilen oder alles davon nehmen können. Um dies für "Pushing" und "Pulling" verwenden, werden wir zwei Bilder durch das neurale Netzwerk setzen. Lassen Sie uns sagen, die Bilder sind von einer Katze und einem Hund, so wollen wir den Abstand zwischen den beiden erhöhen.
assistant