Xilinx、FPGAアクセラレータカードでGPUより高速・低消費電力を実証

図1　データセンター向けアクセラレーションカードALVEO　出典：Xilinx

ALVEOはアクセラレーションカードであり、CPUの高速PCIeコネクタにそのまま刺して使う。半導体メーカーであるXilinxがアクセラレーションカードをCPUとのコンパニオンカードという形でCPU（コンピュータ）に実装できる形まで仕上げた。これまで機械学習用に手ごろな18.6TOPs（INT8）のALVEO U200とハイエンドの33.3TOPs（INT8）に加えて、今回ミッドレンジの24.5TOPs（INT8）をサンプル出荷した。ミッドレンジといえ、今回初めてHBM2メモリを採用、メモリバンド幅を460GBpsと大きく広げた。このアクセラレータがあれば、AI対応が進んでいないサーバにも機械学習の機能を付けることができる。

本質的にこの製品が使われる応用はデータセンターである。データセンターには3つの役割がある。計算（Compute）とストレージとネットワーキングだ。具体的には、計算処理では、機械学習の推論や、データベース/ビッグデータ、ビデオ伝送、金融サービス、ゲノミ編集、高精度HPC、機械学習などをおこない、ストレージでは圧縮や暗号化、暗号鍵の格納などを行う。演算器をメモリのそばに置く場合にはFPGAは都合が良い。ネットワーキングでも暗号処理を伴うIPsecやセキュリティ、モニタリングなどにFPGAがレイテンシや効率の最適化を図れる。

同社のKen Way氏はデータセンターの鍵となる戦略を3つあるという。一つはシリコンベースのプラットフォーム（この場合はALVEO）を持つこと、次が使い勝手を良くするためのエコシステムを開発すること、3つ目がエンドカスタマやOEM/ODMのパートナーだとしている。

具体例として、スマートシティなどのセキュリティ監視カメラのデータ解析を従来のCPUとGPUで行う場合と、CPUとFPGAで行う場合を比較した（図2）。従来はCPUでH.264デコードとモーション解析を行い、GPUでCNN（畳み込みニューラルネットワーク）処理を行っていたが、CPUとFPGAで行うシステムでは、CPUではH.264処理だけにして、FPGAでCNNとモーション解析を行う方が消費電力も性能も良かった。

図2　セキュリティカメラの画像処理をFPGAの方がGPU方式より高速で低消費電力　出典：Xilinx

図2の例では、FPGAとCPU処理の方が消費電力は75Wに対して50Wと25%削減し、レイテンシは82msに対して26.1msと約4倍高速になった。

どのような計算でも、CPUやGPUでもFPGAでも演算は可能ではあるが、処理時間がFPGAのような専用回路で計算するのが、最も速い。例えば、ゲノム解析の時間がCPUなら1日かかっていたが、FPGAだと20分ですむという。