如何評價微軟在數據中心使用FPGA代替傳統CPU的做法

在數據中心，FPGA 相比 GPU 的核心優勢在於延遲。像必應搜索排序這樣的任務，要盡可能快地返回搜索結果，就需要盡可能降低每壹步的延遲。

如果使用 GPU 來加速，要想充分利用 GPU 的計算能力，batch size 就不能太小，延遲將高達毫秒量級。使用 FPGA 來加速的話，只需要微秒級的 PCIe 延遲（我們現在的 FPGA 是作為壹塊 PCIe 加速卡）。

未來 Intel 推出通過 QPI 連接的 Xeon + FPGA 之後，CPU 和 FPGA 之間的延遲更可以降到 100 納秒以下，跟訪問主存沒什麽區別了。