'torch._six'という感じで怒られる...。/usr/local/lib/python3.9/dist-packages/deepspeed/runtime/zero/stage_1_and_2.pyみたいな感じで、対象箇所を修正。device_map="auto")の方はメモリー不足と言われる...。device_map="auto")を実行したら、処理できた。24Gのメモリーを使っているっぽい...。ProのGPUプレミアム設定で確認した感じです。Dolly自体については、ChatGPTと比べると、現時点では、これから頑張っていく感じなのかなみたいな感じかな。コメントをキャンセルメールアドレスが公開されることはありません。株式会社コードリブズにお問い合わせください。