Micron Technologyが32GビットLPDDR5X DRAMを大量に実装した256 GB（バイト）のSOCAMM2（Small Outline Compression Attached Memory Module）メモリモジュールを開発、限定ユーザーにこの3月からサンプル出荷した。サンプルの評価を得たのち2026年第2四半期には一般市場へ出荷する計画である。このメモリの最大の特長はスケーラビリティである。なぜか。

図1　SOCAMM2メモリモジュールをCPUの隣に実装　出典：Micron Technology

Micronは昨年3月にCAMMをすでに発表していたが、今回のメモリはメモリモジュールとして消費電力、実装面積とも従来のRDIMM（Registered Dual In-line Memory Module）モジュールの1/3に抑えた。SOCAMM2モジュールは新たな基準になるとMicronは見ている。消費電力を抑えられたのは、1ɤ nmプロセスのモノリシックの32GビットLPDDR（Low Power Double Data Rate）5Xを用いたため。

このメモリSOCAMMがなぜスケーラビリティがあるのか。それはこの略語の中のCA（Compression Attached）が示唆するように、電極端子をハンダ付けせず、圧接しているからだ。モノリシックのDRAMダイの容量がさらに上がればモジュール内のDRAMチップを交換するだけでスケールアップできる。ハンダを溶かしてチップを取るという面倒な作業が要らない。

しかもこの256GBという容量は、AIの推論ユースを想定しており、GPU側にKV（Key/Value）キャッシュ（AIモデルの短期記憶のようなメモリ）として持たせるのではなく、CPU側に持たせGPUをオフロードにすることで、長いトークンに対応しようという技術である。

CPUを8チャンネル用意して各チャンネルにKVキャッシュを持たせるというコンピュータシステムのCPUメモリは2TBになる。この2TB容量でTTFT（最初のトークンまでの時間）をMicronが評価してみた所、192GBモジュールと比べると、約2.3倍高速になる（図2）。

図2　KVキャッシュをGPU側ではなくCPU側に持たせて長いコンテキストに対処する　出典：Micron Technology

また100万トークンのような極めて長いコンテキストの応答ではメモリモジュールの容量を256GBに増加させると、128GBモジュールよりも6倍も高速になるというデータも示している。

AIの推論が今後もっと長いコンテキストでもリアルタイムで応答できるようにするためには、モノリシックDRAMの容量をさらに上げなければならない。生成AIやエージェントAIのワークロードなどはさらに大きくなるだろう。どのようなことでも正確に応えられる「汎用AI（Artificial General Intelligence：AGI）」の開発を目指しているグループがいるからだ。

図3　2035年には毎月のトークン数は15万兆にもなる　出典：Micron Technology

AGIでは、AIチップの推論性能だけではなく、メモリ側の容量もさらなる増加を求められている。キオクシアがIEDM（国際電子デバイス会議）2025で発表したような3D DRAMメモリセルは超大容量のDRAMにつながる技術であり、今後のAIの推論では求められる可能性は高い。