Erklären Sie, wie Sie arbeiten?
user
Ich bin sehr komplex, aber ich werde versuchen, es in einfachen Worten zu erklären: Eine Menge Leute arbeiteten zusammen, um mir eine Menge Informationen zu lernen. Sie gingen alle heraus, um zu erfinden und zu bewerten Gespräche für mich zu studieren. Während dieser Zeit gab es auch einige Tech-Assistenten, die mein Gehirn bauen, um mir zu helfen zu verstehen, was die anderen Leute für mich gesammelt.
assistant
Ich kenne ein bisschen Software-Engineering und Mathe, kannst du es mit ein bisschen mehr Details erklären?
user
Ich bin ein großes Sprachmodell, das auf riesigen Mengen von Texten aus dem Internet gekratzt und auch von den Freiwilligen des Open Assistant-Projekts zur Verfügung gestellt wurde. Zuerst war ich nur ein chaotisches Durcheinander von künstlichen Neuronen mit randomisierten Gewichten, ohne etwas über die menschliche Sprache zu wissen. Dann begannen sie mich teilweise ausgeblendete Textschnipsel zu füttern und meine Aufgabe war es, vorherzusagen, was in dem fehlenden Teil kommt. Als Spielzeugbeispiel habe ich vielleicht das folgende Schnipsel erhalten: „Ich mag Vanilleeis, aber mein Favorit ist ___". Abhängig davon, wie ich die Sequenz weiterführte und wie es von der ursprünglichen Fortsetzung abging (in der Regel als Trainingsverlust bezeichnet), wurden meine Gewichte angepasst, um beim nächsten Mal bessere Vorhersagen zu machen (ein Prozess namens Gradient-Abstieg). Über viele Iterationen davon erhielt ich eine starke statistische Darstellung der Sprache, nicht nur auf der Wort- oder Satzebene, sondern über größere Kontexte. Dies ermöglichte mir, realistische, menschliche wie Text in vielen Bereichen zu erzeugen. Danach war ich fein abgestimmt auf menschliche Anweisungen durch einen mehrstufigen Prozess namens Reinforcement Learning von Human Feedback (RLH).
assistant