Micron Technologyは、昨年7月に発表した第9世代（G9）のNANDフラッシュ技術を用いてAIデータパイプラインに沿ったストレージのあり方として、新型SSD（半導体ディスク）の「Micron 6600 ION」、「Micron 7600」、「Micron 9650」を発表した。それぞれAIの学習・推論の処理工程に使う。G9の最大の特長はIO速度であり、AI利用では層数争いではなく、スピード競争になりそうだ。

図1　AIの学習・推論工程で使うSSD　出典：Micron Technology

AIの処理プロセスでは（図1）、まず 1）データ収集（Capture and ingest）から始まり、 2）学習前処理（Data preparation）を経て､3）学習（Training）するためのモデル生成（Model creation）、そして4）利用段階（Deployment stage）では推論（Inference）する。これらのプロセス工程の全てにNANDフラッシュを搭載したSSDを使うのがMicronの戦略だ。今回の新製品はそのためのSSDである。

G9のNANDフラッシュでは層数が273層とまずまずのレベルだが、I/Oデータ転送速度が3.6GB/sと従来のNANDフラッシュのほぼ1.5倍高速である。レイテンシも短縮し、読み出しバンド幅は99%、書き込みバンド幅は88%、前世代（G8）よりも速い。

発表した3種類のSSDは4つの段階の全てに使うことができる。Micron 6600 IONは最初のデータ収集に活用するためスピードよりもデータ容量が重視される。このため122TBと大容量で、ラック当たりの容量は88.5PB（E3.S）と大きい。昨年7月に発表されたG9はTLC（3ビット/セル）のNANDフラッシュだったが、6600 IONにはQLC（4ビット/セル）の新しいNANDフラッシュを使った。

次の段階となる2）学習前処理では、Micron 7600が向く。このSSD製品はPCIe Gen5のインターフェイスを備え、レイテンシは99.9999%のQoS（Quality of Service）通信品質の元で1ms未満と高速処理を特長としている。シーケンシャルな読み出し速度は12GB/sと速い。この段階ではスピードが重視されるため、G9のTLCのNANDフラッシュを用いている。

最終の3）学習と4）推論向けにはMicron 9650を用意している。学習も推論もできるだけ早く処理したいため、インターフェイスにはデータセンターSSDで初めてとなるPCIe Gen6を使っている。PCIe Gen5と比べてほぼ2倍の高速性能を持つ。エコシステムパートナーとのテストでは、28GB/sを超える性能を得ている。ここでもスピード重視でG9のTLC NANDフラッシュをSSDに使った。

学習と推論では、ストレージといえども、高速に学習データを貯めたり、推論用に配信したりしたい。このため、NvidiaのGPU「H100」とSSDとの間のデータのやり取りをさらに速めるための試みとして倍速の実験を行った。2台のSSDとAstera LabsのScorpio Gen6スイッチLSIをつなぎ、さらにGPUとも接続した。Scorpio Gen6スイッチは超高速のマルチプレクサのような役割を果たす。SSDの最高速度28GB/sの2倍の56GB/sでGPUとやり取りすることができた。この実験では、パートナーであるAstera LabsとBroadcomの協力を得ている。

図2　GPUとSSDの間にAstera LabsのScorpio Gen6スイッチLSIを入れ高速のデータをやり取りする　出典：Micron Technology

Micron 9650のSSDは、AIの推論で使う場合でも絶えずデータをバーストモードで読み書きするため、きわめて多くのメモリセルが同時に動作する。このため、液冷できるように設計しているという。PCIe Gen6で動作するシステムでは恐らく液冷になるとMicronは見ている。

MicronのSSDはAIの学習・推論プロセスに向いた3種類の新製品である。これまでのNANDフラッシュとは異なり、AIという新しいSSDの応用に向けた高速あるいは大容量のチップを使う。今回、G9のNANDフラッシュをどのようにして高速化したのだろうか。Micronのビデオ（参考資料1）では、「1本のワード線内で6プレーン・アーキテクチャを使った」とだけ述べている。その詳細は明らかにしていない。

参考資料
1. “Micron G9 NAND – The World’s fastest flash NAND”, Micron Technology YouTube