AI関連のニュースが相次いでいる。CPUをニューラルネットワークに適したデータフローコンピューティング手法でAIチップを設計しているカナダのTenstorrent社とラピダスがAIチップ開発で協業すると発表した。TOWAはAI チップにコンプレッションモールドを採用していることを明らかにした。AIチップとセットで使うMicronのHBM3Eの発表に加え、中国CXMTもHBMを開発していることを日経産業新聞が報じた。

2023年11月にラピダスとTenstorrentは、2nmプロセスノードのAIエッジ半導体の開発でパートナーシップを結んでいるが、今回の提携では2nmプロセスおよび以降のプロセスや設計技術などを開発するLSTC（最先端半導体技術センター）を介してAIチップを開発する。LSTCは、実質的に経産省傘下のNEDO（新エネルギー・産業技術総合開発機構）がファンドとして機能する「ポスト5G情報通信システム基盤強化研究開発事業/先端半導体製造技術の開発（委託）」プロジェクトに、LSTCが応募した「2nm世代半導体技術によるエッジAIアクセラレータの開発」研究が採択され、その資金を使ってLSTCがAIチップの設計を行う。ラピダスはその設計データを基に2nmプロセスでICを製造する。

図1　発表するラピダスの小池社長（左）とTenstorrentのJim Keller CEO（右）　出典：ラピダス

LSTCでは、ラピダスに加え、国立の二つの研究所（産業技術総合研究所と物質・材料研究機構）と8大学（東京大学、東北大学、東京工業大学、筑波大学、大阪大学、名古屋大学、広島大学、九州大学）が組合員となっている。今回採択されたプロジェクトの中で、TenstorrentはCPUチップを開発し、アクセラレータチップの開発はLSTCが行う。この中で東大と産総研は共同で「AIチップ設計拠点（AI Chip Design Center：AIDC）」を構築・運営しており、AIDCがAIチップの設計を担う。

Tenstorrentは、RISC-Vを使った新しいコンピュータアーキテクチャを追求しており、従来のフォンノイマン型コンピュータに代わるデータフローコンピュータもその一つ。データフロー方式だと、従来のGPUを使うAIコンピュータよりも1/28の消費電力で1兆パラメータのAI学習を可能にすることをSambaNovaが明らかにしている（参考資料1）。AIコンピュータの消費電力を圧倒的に下げることができる技術として注目されている。昨年6月にTenstorrentのCEOであるJim Keller氏がRISC-V Dayで講演したCPUはデータフロー方式そのものだった。1月のRISC-V Dayにおいて同社の主席アーキテクトのWei-Han Lien氏に質問した時も、データフローアーキテクチャに限らず、フォンノイマン型に代わるアーキテクチャに注力していると答えている（参考資料2）。

日本のメディアは抽象的な提携内容だが、3月1日付けのEE Timesでは、TenstorrentがAIアクセラレータに必要な三つのチップレット（CPUとI/O、メモリ）をLSTCにライセンス供与するというLien氏のコメントを載せている（参考資料3）。データフロー方式ではこの三つのIPをセットにした基本回路を流れ（フロー）のように進んでいくアーキテクチャであり、ノイマン型で使われるCPUとメモリとのアクセスはほとんど問題にならない。

後工程のモールディングマシンを製造するTOWAの岡田博和社長とのインタビューをベースにした記事が2月28日の日経産業新聞に掲載されている。その中で、AIチップとセットで使われるHBM（High Bandwidth Memory）メモリを同社のマレーシア・ペナン工場においてコンプレッションモールド機で封止していることが明らかになった。さらにNvidiaが先端パッケージング技術を使ったAIチップを2022年に発表した製品では「TOWAがそれを仕上げる技術を開発した」と報じられている。

最近の新製品をセミコンポータルで報じたように（参考資料4）、HBM3Eメモリは高速化を要求する生成AIでは欠かせない存在となり、これまではSK Hynixがリードしていたが、SamsungとMicronの追い上げが激しくなっている。

中国におけるメモリメーカーのCXMTがHBMの製造準備を始めていることを2月28日の日経産業が報じた。まだ量産には達していないようだが、開発中であることは事実のようだ。

参考資料
1. 「ニューロAIはデータフローコンピュータに乗ってくる時代になるか」、セミコンポータル (2024/02/08)
2. 「急速に広がっているオープンスタンダードのRISC-Vコア」、セミコンポータル(2024/01/31)
3. "Tenstorrent Licenses Chiplet Designs to Japanese Institute", EE Times (2024/03/01)
4. 「AIチップセットとして使われるHBM3EのDRAMの製品化相次ぐ」、セミコンポータル (2024/02/28)