どのように決定すればよいでしょうか。そのパフォーマンス特性のリストです。パフォーマンスの向上に使用できる構造的スパース性がサポートされています。記載されているのは、スパース性ありの値です。スパース性なしでは、記載されている仕様の値が半分になります。つの異なるディメンションによって制限される可能性があります。GPU)によって制限される場合があります。キャッシュが保持されます。キャッシュの増加によって最終的にはメモリ上限に達します。秒)によって制限される場合があります。キャッシュの状態は、メモリ帯域幅に応じて、生成されるトークンごとに読み取られます。よって制限される場合があります。