エッジAI市場よりもクラウド向けのAIデータセンターへの投資がすさまじいが、本格的なAIロボットや自動運転、AIドローンなどフィジカルAIが次世代AI技術の一つとして注目が集まってきた。フィジカルAIはエッジで使われることの多いAIであり、エッジAIチップの性能向上やソフトウエア開発にも力が入る。SEMICON JapanではスタートアップのEdgeCortix、Texas InstrumentsがそれぞれエッジAIの応用をサポートし始めた。

これまでエッジAIでは、機械学習やディープラーニングの画像認識やIoTのビッグデータ解析などに使われることが多かった。ここに、生成AIの登場でエッジAIでさえ生成AIを導入する企業が相次いでいる。例えばEdgeCortixは、SEMICON Japan 2025において音声で生成AIに質問してみると音声で応えるというデモを見せた。ここでは音声で質問するとテキストに変換し、さらにLLM（大規模言語モデル）を通してトランスフォーマー変換させ理解して回答するためのテキストを最後に音声に変換して応えている。

エッジAIでの使用を目的とした実用的なAIチップを開発してきたEdgeCortixは、AIチップ「SAKURA-II」（参考資料1、2）がローカルのLLM（大規模言語モデル）を利用する生成AIにも使えることを示した。Llama-2のような数十億パラメータのLLMだが、それにRAG（Retrieval Augmented Generation）データを加えてより精度を高めることもできるとしている。AIモデルはオープンソースのHugging Faceにアップされているモデルを使い、自動運転などに使う対象物を認識し四角で囲み、追跡する。

図1　EdgeCortix CEOのSakyasingha Dasgupta氏

このAIチップを1個使ってラズベリーパイ・カードに搭載したモジュールを前年デモしていたが、この年はAIチップを2個使い性能を倍増させたモジュールボードを作製し、デモした。画像の中の目的物（クルマなど）を見つけ、四角く囲ったり、トラッキングしたりするようなデモでは、性能は高い。例えば、精度を16ビットで画像認識する場合、最初のトークン（生成AIの基本単位）が出てくるまでの時間は約0.6秒、その後のスピードは、24.3トークン/秒という結果を見せている。要は、性能が低いものの低消費電力の応用をラズパイで実現し、消費電力はやや高いが性能が良いという応用をボードで実現、提供できるようになった。また、精度を8ビットに落とせば、速度はもっと早くなる。顧客の要求にフレキシブルに対応する、と同社CEOのSakyasingha Dasgupta（サキャシンガ・ダスグプタ）氏は述べる。

「SAKURA-II」はTSMCの12nmプロセスで製造したチップだが、いよいよサンプル出荷の段階から今年量産に入る。1チップの基本性能は60TOPS、30TFLOPSとMicrosoftが提案しているAI PCの40TOPS以上を軽く超えている。

なお、同社はNEDOからも40億円の資金を調達しており、「SAKURA-X」という名称のチップを開発中だ。開発は順調で、四半期前倒ししてチップ設計が終わる予定で、2026年末にはサンプルを出荷できるという。このプロジェクトではAIを導入するRAN（エッジ基地局の無線ネットワーク）の電力効率を上げることが狙いであり、5Gあるいはポスト5G時代のエッジ基地局での応用となる。SAKURA-IIと比べ、最大性能は20倍、電力効率は5倍以上を目標としている。

TIはフィジカルAI向けのAIチップを開発中

Texas Instrumentsも、自動運転やロボットなどのフィジカルAIが登場し始めているため、エッジAIが活気づくと見ている。自動運転車やロボットは自律的に動き、しかもクラウドとの連携ではなく、ローカルで動くことが前提となっている。すなわちエッジでのAI処理が必要不可欠である。

エッジAIは単に性能向上と低消費電力だけではなく、セキュリティや安全性、プライバシーなども取り込む必要がある。クルマやロボットは人間と共存するものだからだ、とTIのJacinto High Performance SoCs部門のジェネラルマネージャーのArtem Aginskiy氏は述べている。

クルマやロボットでは、センサ部、処理部、インタラクト部からなる（図2）。センサ部では、目となるカメラやレーダー、LiDARなどの複数のセンサを使うため、センサ部はマルチモーダルなデータの扱いとなる。そして処理部でAIモデルやAIアルゴリズムを使う。インタラクト部は自動ブレーキ動作をはじめとして安全性を高めて動く。ロボットではクルマでの要求の上にさらにモーション・プラニングが加わる。

図2　クルマやロボットの目が検知（センス）し、AIがデータ処理（プロセス）、物理的に対応する（インタラクト）。ロボットも同様である　出典：Texas Instruments

イメージ処理で使うAIに対して、TIはこれまでのエッジAIの30TOPSの性能から100TOPS以上、さらにチップレットなどの活用で1000TOPSの性能へと将来上げていくという。ハードウエアは常にスケーラブルにしておき、性能向上の余地を残すような設計を行う。

また、現状のエッジAIチップC7 NPU（ニューラルプロセッサ）はDSPベースで設計している。NvidiaやAMDなどのGPUはプログラムできフレキシブルなデバイスだが、性能・消費電力はASICよりも劣る。ASICは高性能・低消費電力だが、フレキシビリティがない。DSPは両方のいいとこどりをしている、とAginskiy氏は言う。

安全性やセキュリティに関しては起動時から動作中でも確立しておく。顧客のソフトウエア開発もサポートし、開発中に安全性が損なわれる恐れに対しては、チップ上でセキュアにしておくべきだという。TIも顧客がAIアルゴリズムを開発したならすぐにEdge AI Studioを利用して、AIチップにソフトウエアを埋め込む。そのためSDK（ソフトウエア開発キット）には業界標準のソフトウエアをサポートしている。

1チップに集積しているDSPは4コアで、整数演算の精度は8/16/32ビットを用意しており、AIモデルに応じて顧客が選べるようにしている。ArmのCPUコアに加えGPUも集積している。次のエッジAIチップは100TOPSを超えることになるのに違いない。

参考資料
1. 「日本生まれのファブレスEdgeCortix、本格的な生成AIチップを製品化」、セミコンポータル、(2024/05/29)
2. 「宇宙利用とAIチップが結びつく、EdgeCortix SAKURA-Iが耐放射線強さを実証」、セミコンポータル、(2024/10/22)