在PyTorch 2.1.0的环境中跑样例结果差异过大
#6
by
shizue
- opened
推理方式：transformers
官方样例提供的结果为：[[55.92064666748047, 1.6549524068832397], [-0.2698777914047241, 49.95653533935547]]
本地推理环境：cuda 12.1，pytorch 2.1.0
推理结果：[[55.93535232543945, 1.679487943649292], [-0.20362739264965057, 49.97922897338867]]
根据我的测试在 pytorch 版本升到 2.3.1 后结果符合预期，但在 2.1.0 下计算出的 score 和提供的参考值最大差出来 1/4 了（-0.26和-0.20），这可能会是什么原因导致的呢？