如何看待 Google 既可以作 Inference，又可以作 Training 的新一代 TPU？
Peak throughput 花了一年时间从TPU一代的92T ops改进到第二代的45T flops 也不算太离谱。Google说第二代支持training，不知是因为用了全新架构还是因为支持了浮点计算。单纯看数字不到GV100一半。 Memory 方面不知道所谓的 64 GB of ultra-high-bandwidth memory per Cloud TPU 是不是就是每个芯片16GB hbm。如果是的话，那就和GV100一样。 芯片间link似乎也抛弃了pcie，具体情况不详。 Power和die area不详。 总体来说Google大概的意思就是我们有了一个对tensor flow优化的特别好芯片。四个TPU芯片加起来的peak throughput超过GV100。你们提交给我家cloud的任务也许会用这种芯片来完成。但也不一定，因为cloud里也有CPU和GPU。 唯一想吐槽的一点是为什么总是要强调180Tflops。直接说一个芯片是45T，一个pod有256个芯片不好吗。 数据来源：