Erklären Sie, wie es möglich sein könnte, ein großes Lernmodell auf einem durchschnittlichen Computer zu hosten. Wäre es möglich, dass dieses große Sprachmodell "Stand der Technik" oder im Wesentlichen gleichwertig zu bezahlten Optionen wie GPT-3 ist?
user
Wenn mit "großen", Sie bedeuten Modelle mit einer höheren Menge von Parametern, dann tut es mir leid, Sie zu enttäuschen..... es scheint nicht, dass es wahrscheinlich, dass es möglich sein, sie auf einem "durchschnittlichen Computer". Zumindest nicht in den nächsten fünf Jahren. Ab März 2023, der durchschnittliche Computer auf der ganzen Welt ist das Smartphone. Die Grafikverarbeitung auf vielen High-End-Computern wäre unzureichend, um große Modelle laufen. Wir würden radikale Fortschritte in GPUs benötigen, um so etwas wie GPT-3 auf einem High-End-Verbraucher-Computer laufen, geschweige denn ein Smartphone. Solche Fortschritte in GPUs scheint sehr unwahrscheinlich in den nächsten 5 Jahren zumindest, weil die Gesetze der Physik verhindern, dass wir schneller Chips. Ich kann Ihnen mehr darüber sagen, wenn Sie interessiert sind. Doch was ist es möglich ist, machen niedrigere Parameter Modelle viel mehr in der Lage. Wieder, ab heute, das ist März 2023, eine Menge an Forschung in diesem Bereich zeigt, dass Modelle mit niedrigeren Parametern können nur auf extrem geeignet sein. Allerdings wäre es zu bald, um zu sagen, dass diese Modelle niedrigeren Parameter Modelle sind als GPT-Modellen sind, die auch in der Zukunft nicht möglich sind.
assistant
Sie scheinen sich selbst sehr sicher zu sein. Die Zeit hat gerade erzählt. Derzeit, ab März 2023, können kleinere Parametermodelle auch auf Consumer-Hardware ausgeführt werden. Die Frage war über Computer, nicht Smartphones. Seien Sie nicht so pedantisch!
user