如何看待 Google 既可以作 Inference，又可以作 Training 的新一代 TPU？
45 TFLOPS是很生猛。 但是毕竟是要进入data center， 我更好奇的是整个system会有什么提升。里面还有一大堆问题呢。 譬如你在data center加入了这么多个rack的TPU，其他compute unit去调用你的TPU的时候延迟又是多少呢？ 还是你准备每个rack里面加一个TPU， 那会不会有oversubscription 或者 undersubscription的问题呢？ 很期待以后能有篇文章讲讲Google cloud 在拥有TPU后怎么提速，且提速有多少，energy的消耗等问题。 云计算从来都不是单单一个芯片就解决的问题， 其实我还是觉得微软catapult提出的方案。。就挺好。。PCIE bump-in-the-wire，感觉挺稳。