Hier sind einige Informationen über den Datensatz: Name: Amazon Bewertungen Trainingsmuster: 1800000 Anzahl der Klassen: 2 Längste Sequenz = 258 Hier sind einige Spezifikationen über das Modell: Kann Feinabstimmung sein oder von Grund auf trainieren Sollte Priorität Inferenzgeschwindigkeit Training Geschwindigkeit: spielt keine Rolle Metrics: Genauigkeit, Präzision, AUC
user
Was ist das, worüber wir reden und in welchem Format die Daten zur Verfügung stehen? Unabhängig von der vorherigen Antwort muss ich auch wissen, ob die Daten roher Text oder Token sind und welche Hardware verfügbar ist, da die maximale Menge an VRAM die maximale Größe des Modells bestimmt, das trainiert werden kann. Was repräsentieren die beiden Klassen im Datensatz? Sie fragen nach der Präzisionsmetrik, sollte die Erinnerungsmetrik auch hinzugefügt werden? Was ist die Hardware, die für die Inferenz verwendet wird und ungefähr wie lange die Inferenz dauern sollte? Außerdem sagen Sie, dass die Trainingsgeschwindigkeit "nicht wichtig" ist, aber dies ist fast sicher falsch; auch bei großzügigen Zeitlimits gibt es noch eine Grenze. In jedem Fall, da dies ein binäres Klassifizierungsproblem ist, die Verlustfunktion, die verwendet werden sollte, ist die binäre Kreuzentropie. Sie sollten auch Ihre Daten in drei Untergruppen teilen; auch bei großzügigen Zeitlimits gibt es eine Grenze.
assistant
Vielen Dank, dass Sie mich wissen lassen, dass ich klären muss. Ich versuche, ein Poof-of-Concept für mein Unternehmen zu bauen, um uns leicht lesen zu können, wie positiv oder negativ Bewertungen für unsere Produkte sind. Welche Art von Modell soll ich verwenden? (An RNN? LSTM? Feinabstimmung BERT oder BART?) Welche Überlegungen sollte ich berücksichtigen, wenn ich es bauen?
user
Für ein Testmodell ist es möglich, dass Ihr Testmodell die Testergebnisse als positiv oder negativ einstufen kann, Sie können mit einem einfachen Modell wie einem Long-Short-Term-Speicher (LSTM) oder einem fein abgestimmten BERT- oder BART-Modell beginnen. Hier sind einige Überlegungen zu beachten: Daten: Stellen Sie sicher, dass Ihre Trainingsdaten gekennzeichnet sind und genügend Proben haben, um ein Modell effektiv zu trainieren. Vorbereiten Sie Ihre Daten, um alle irrelevanten Informationen zu entfernen und es bei Bedarf konsistent zu machen. Modellauswahl: LSTMs sind ein guter Ausgangspunkt für NLP-Probleme. Hyperparameter: Experimentieren Sie mit verschiedenen Hyperparametern, um die beste Konfiguration für Ihre Daten zu finden. Einige wichtige Hyperparameter, um die Anzahl der versteckten Einheiten, die Lernrate und die Anzahl der Ebenen zu berücksichtigen.
assistant