Können Sie bitte erklären, wie Open Assistant funktioniert? Ich suche speziell nach einer Diskussion darüber, wie das Modell trainiert wird und was die Modellarchitektur ist. Zweitens würde ich eine Beschreibung der Motive hinter Open Assistant schätzen.
user
Klar, Open Assistant ist ein Open-Source-Chat-basierter Assistent erstellt nach instruct-gpt Papier-Trainingsmethodik. Es zielt darauf ab, einen Assistenten in der Lage, Aufgaben zu verstehen, Interaktion mit Drittsystemen ein Abrufen von Informationen dynamisch aus dem Internet. Das Modell für die Erstellung von Open Assistant verwendet ist ein großes Sprachmodell bestehend aus einem Encoder, Embeddings und einem Decoder nach der Transformatorenarchitektur. Das Modell wird nach den nächsten Phasen trainiert: 1. Sammeln Sie Demonstrationsdaten: Während dieser Phase menschliche Demonstrationen gesammelt werden. Die Demonstrationen werden in einer Datenstruktur namens Konversationsbaum gesammelt, der Konversationsbaum enthält Aufforderungen, Assistentenantworten und die Gemeinschaft zur Verfügung gestellt Score für jeden der Baumknoten. Zusätzliche Daten werden von Websites wie Quora, StackOverflow und entsprechende Subreddite gesammelt. 2. Feinabstimmung eines Basismodells: Ein Basismodell dann fein abgestimmt mit dem gesammelten Datensatz 3. Trainieren Sie ein Belohnungmodell: Während dieser Phase wurde ein zeitnahes und mehrere Datenantworten abgetastet, werden die Antworten werden von Seiten wie Quora, StackOverlauf und entsprechendeslow-Modell wird mit Hilfe trainiert.
assistant
Kann ich irgendwie helfen?
user