Micron、Samsungが3D-IC技術を使ったDRAMメモリであるHBM3Eを相次いで製品化した（図1）。HBMメモリは大容量のメモリを一度に大量に並列読み出しできるデバイスであり、AIチップやSoCプロセッサと一緒に使われる。SK hynixがこれまでHBM1や2、3のメモリ製品に力を入れてきたが、コストがかかるため他社はあまり力を入れてこなかった。

図1　SamsungのHBE3 H12製品　出典：Samsung Electronics

HBMはTSV（Through Silicon Via）技術を使ってDRAMダイを4枚あるいは8枚などを重ねるメモリで、メモリセルをアクセスする制御回路は最下層に置き、重ねたダイからメモリセルにアクセスするため、速度が速い。大量のビットを読み出す場合でも電流は上から下へ垂直に流れるため電力損失は少ない。ただし、シリコンダイを積み重ねる工程が必要なため手間がかかりどうしても高コストになってしまう。このためパソコンやスマートフォンなど大量生産用途ではモノリシックなDDR4やDDR5のDRAMが主流になっていた。

最近はAIの学習や推論用にGPU（グラフィックプロセッサ）が使われるようになり、大量のデータを並列処理するためのAIチップセットの一つとしてHBMメモリが使われることが増えてきた。特に膨大なデータを学習させる生成AIでは欠かせないメモリとなっていた。データセンターやクラウドで使う生成AIの学習には高価でも大容量を短期間で学習させる要求が強いため、HBMで出遅れていたSamsungとMicronがSK hynixを追いかける展開になっている。SK HynixはすでにHBM3Eを開発したという発表を昨年の8月にしているが、量産時期を2024年上期と述べていた。

2月26日にMicron、翌27日にSamsungが相次いでHBM3E製品を発表した。HBM3EはHBM3に比べ、バンド幅データレートが6.4Gbps以上から8Gbps以上に上がっており、さらなる大容量化と高速データレート化が競われている。

SamsungのHBM3E 12H製品には12枚のダイを重ねており、その容量は36GB（ギガバイト）、バンド幅は1.28TB/sという性能だ。従来のHBM3 H8と比べ共に50%増加している。これに対してMicron製品は8枚ダイ構成でメモリ容量が24GBで、1.2TB/s以上だとしている。バンド幅は9.2Gbps。Micronも12枚の36GB製品も量産準備中だとしている。

SamsungがDRAMを12枚も重ねることができた理由は熱圧着絶縁フィルム（TC NCF）を進化させた結果だとしている。一般に3D-ICではウェーハ上にTC NCFフィルムを搭載した後に各チップに当たるウェーハ上の位置に別のチップを重ねて薄くモールディングする。もともとのウェーハ上には接続用のバンプやピラーを形成してあり、リフローによって上に載せるチップと電極を接続させるが、このTC NCFは薄ければ薄いほど何枚もチップを重ねることができる。Samsungは今回12枚のチップを重ねても従来の8枚チップと同じような厚さにできたという。チップ間の厚さは7µmまで薄くしながらボイドは観察できなかったとしている。また、チップ間のバンプには信号用は小さく、電源配線用は大きくすることで熱の問題を回避したとしている。

一方、Micronは8枚構成で24GBの容量を実現するのに、重ねる技術については明らかにしていないが、プロセスとしてHBM3 Gen2と同じ1β nmプロセス（参考資料1）を用いたという。

HBM3Eの主な用途はAIチップと組み合わせるチップセットになる。Samsungは、今よりもっと大容量が要求されるAIチップにはHBM3E 12Hが最適なソリューションとなる、と期待している。このチップの量産は2024年の前半を予定している。

Micronの24BG 8H HBM3E製品は、NvidiaのH200 Tensor Core GPUとセットに乗ると期待しており、2024年の第2四半期（4~6月）に出荷が始まるという。データピン当たりの速度は9.2Gbpsで、AIアクセラレータやスーパーコンピュータ、データセンターなどに納められる。従来品のHBMと比べ消費電力は30%低いという。MicronはSamsung、SK hynixと共にTSMCの3DFabric Allianceのメンバーに入っており（参考資料2）、半導体、システムイノベーションの未来の形成を支援していく、と訴求している。

参考資料
1. 「Micron、24GビットのDRAMダイをTSVで8枚スタックした24GB HBM3を出荷」、セミコンポータル (2023/07/28)
2. 「TSMC、先端パッケージ技術エコシステム3DFabric Allianceの詳細を明らかに」、セミコンポータル (2023/10/31)