バイナリ分類を行うことができる機械学習モデルを考えてほしい。
データセットに関する情報は次のとおりです。
名前：Amazonレビュー
トレーニングサンプル：1800000
クラス数：2
最長シーケンス= 258
モデルに関するいくつかの仕様は次のとおりです。
ゼロから微調整したり、めまいすることができます
優先推論速度が必要です
トレーニング速度：関係ありません
メトリック：精度、精度、AUC
具体的に私にするように頼んでいますか？モデルアーキテクチャの設計をお願いしていますか、それとも具体的な実装を求めていますか？後者の場合、どのフレームワークについて話しているのか、どの形式でデータが利用可能ですか？以前の回答に関係なく、データが生のテキストであるかトークンであるか、およびVRAMの最大量がトレーニングできるモデルの最大サイズを決定するため、どのハードウェアが利用可能かを知る必要があります。データセット内の2つのクラスは何を表していますか？精密メトリックを求めていますが、リコールメトリックも追加する必要がありますか？推論に使用されるハードウェアは何ですか、そして推論にはほぼどれくらい時間がかかりますか？さらに、トレーニング速度は「重要ではない」と言っていますが、これはほぼ間違いなく間違いです。寛大な時間制限があっても、まだ制限があります。

いずれにせよ、これはバイナリ分類問題であるため、使用する必要がある損失関数はバイナリクロスエントロピーです。また、データセットを3つのサブセットに分割する必要があります。モデルをトレーニングするトレーニングデータセット、ハイパーパラメーターを微調整する検証データセット、トレーニング後のモデルのパフォーマンスを判断するために使用するテストデータセットです。私（または人間）のような大きな言語モデルが、すぐに機能するハイパーパラメーターのセットを提供することを現実的に期待することはできないことに注意してください。ハイパーパラメーターを自分で微調整し、特定のユースケースに適した構成を把握する必要があります。