セミコンポータル
半導体・FPD・液晶・製造装置・材料・設計のポータルサイト
セミコンポータル

最強のAIプロセッサをウェーハオンウェーハで実現したGraphcore

英国のAIプロセッサメーカーのGraphcore社が過去に紹介したIPU(Intelligent Processor Unit)製品(参考資料1)よりも性能面で40%高く、電力効率も16%高い新型AIチップを開発した。最大の特長は、Wafer-on-waferでチップを形成したことだ。同社は、Bow IPUと名付けられたチップ(図1)から拡張性の高いAIコンピュータまで作り上げた。

BOW IPU / Graphcore

図1 配線層をウェーハスタックで形成したBOW IPUプロセッサ 出典:Graphcore


このAIチップは、電源層のウェーハと、AIプロセッサ回路のウェーハを張り合わせることで、電源からプロセッサやメモリまでの距離を短縮し、高速動作と低消費電力を達成したもの(図2)。


電源配線層のウェーハ(上)とAIウェーハ(下)を張り付け / Graphcore

図2 電源配線層のウェーハ(上)とAIウェーハ(下)を張り付け 出典:Graphcore


AIプロセッサのトランジスタ部のウェーハは、前回発表したIPUチップと互換性のあるチップアーキテクチャで、IPUコア数は1472個、スレッド数は8800個以上、インプロセッサメモリは900MBとなっている。電源供給ラインがもう一つのウェーハであり、ここに電源配線層と、ディープトレンチでキャパシタ層を形成しており(図3)、ノイズ除去や電荷吸収など電源に必要なコンデンサの役割を果たす。


図3 上の電源層ウェーハは裏面TSV(BTSV)によってディープトレンチキャパシタ(DTC)を形成している / Graphcore

図3 上の電源層ウェーハは裏面TSV(BTSV)によってディープトレンチキャパシタ(DTC)を形成している 出典:Graphcore


電源ラインからプロセッサやメモリと短い距離で直結できるため、電力効率が上がり、その結果、AI性能が350 Tera FLOPSと前世代のチップよりも40%高まった。ファブレスのAIチップメーカーであるGraphcoreは、TSMCと共同で、裏面のTSV(Backside Through Silicon Via)とウェーハオンウェーハハイブリッドボンディングを開発してきた。電源ライン(Power Delivery)技術はこれからの半導体にとって重要な技術となりそうだ。

チップを4個搭載したIPUマシン「BOW-2000」を基本単位として、BOW-2000を4台スタックし、CPUサーバー1台設けたAIコンピュータBOW POD16から、BOW POD16を4スタックと1~4台のCPUサーバーを設けたコンピュータラックBOW POD64を基本ラックとして4ラック、16ラックというコンピュータシステムまで拡張できる(図4)。

 / Graphcore

図4 チップ4個の最小構成のBOW-2000は1024台まで拡張できる 出典:Graphcore

性能はIPUを拡張すればするほど高くなっており、もはやアムダールの法則は完全に崩れている。この法則は、ある条件ではプロセッサを並列に動作させても数個~10個で飽和してしまうと1960年代に提案された法則。AIプロセッサだけではなく、スーパーコンピュータ「富岳」でも超並列計算が可能になっている。

すでに米国エネルギー省(DoE)傘下にあるPNNL(パシフィックノースウェスト国立研究所)でサイバーセキュリティの検出や計算化学などで使っている。こういった多変量解析の分野ではグラフ理論をベースにしていたが、ここに機械学習を使えるようにするグラフニューラルネットワークが注目されるようになってきた。同研究所の共同ディレクタのSutanay Choudhury氏は、「Graphcoreのシステムは、学習、推論とも数日かかっていた問題を数時間で済ませることができた」とコメントしている。

Graphcoreの目指すものは結局、人間の頭脳である。脳には約1000億個のニューロン(神経細胞)と100兆個のパラメータがある。現在最大のAIモデルはまだ1兆パラメータしかないが、Graphcoreは、人間の頭脳のパラメータを超えるAIコンピュータを開発中であるという。2024年までにこのGoodコンピュータ(Goodは人類の頭脳を超えるマシンを論文発表したJack Good氏による)と呼ぶ超インテリジェントなAIコンピュータを発表する計画である。

参考資料
1. 「性能と拡張性の高いMIMDアーキテクチャのAIチップで勝負するGraphcore」、セミコンポータル (2021/10/12)

(2022/03/08)

月別アーカイブ

セミコンポータルはこんなサービスを提供します
Copyright(C)2001-2022 Semiconductor Portal Inc., All Rights Reserved.