IBMは、汎用CPUに代わってディープラーニング専用の学習と推論を行うAIチップAIU（Artificial Intelligence Unit）を開発した。画像認識から自然言語処理までAIのワークフローを実行し、多数のフォーマットをサポートする専用のAIチップである。32個のプロセッサコアを持ち、5nmプロセスノードで製造されており、230億トランジスタを集積している。

図1　IBMが開発した本格的なAIチップ　出典：IBM Research

IBMはかつてWatsonと呼ぶAIシステムを構築していた。機械学習を行うシステムだが、演算器には汎用CPUであるPowerアーキテクチャを使っていた。しかし、犬や猫などの動物や人間、あるいは物体を認識するように学習するディープラーニングモデルは、年々複雑になり、演算能力をさらに強化する必要に迫られていた。そこで、IBM Research AI Hardware CenterはAI専用チップを開発することを決めた。それがAIUである（参考資料1）。

ディープラーニングはビッグデータの統計パターンに基づいて予想する機械学習の一種である。従来のコンピュータチップは、ソフトウエアでなんでも自由に実現できる汎用性を持つものの、AI（機械学習）のような超並列の演算には不向きであった。AIは、大量のデータを学習して、次に新しいデータが入力されるとそれが何であるかを予測する。

IBMが開発した演算方法では、32ビット浮動小数点演算からもっと小さなビット形式へ落とす、近似コンピューティング手法を開発していた。浮動小数点演算であろうと整数演算であろうと、メモリからのデータをもっと小さなビットへと落とすことで、AIモデルが大量のメモリを使わなくて済むようにしたという。

加えて、AIのワークフローに沿ってデータが流れるようなレイアウトにした（図2）。ほとんどのAI演算はマトリックス（行列）やベクトル乗算を使うため、汎用CPUよりももっと簡単なレイアウトにした。これによって、一つのコンピュータから次のコンピュータへデータを直接送れるようになり、エネルギーを削減した。

図2　AIUのレイアウト　出典：IBM Research

ASICでありながらプログラム性を重視し、どのようなタイプのディープラーニングのタスクも走るように設計したという。IBMはこれまでも推論専用チップTelumを設計しており、今回のAIUチップはTelumをベースにしてAIコアを構築したとしている。

参考資料
1. "Meet the IBM Artificial Intelligence Unit", IBM Research (2022/10/18)