12.
省電力AIのためのアーキテクチャ
VLSI Architecture for Low-power AI
AIやIoT技術の進展に伴い電力消費が問題となっている．スケーリング則に従いAIモデルが指数関数的に巨大化する一方，プロセッサの電力効率改善ペースは物理的な限界から鈍化している．またGPUなどの従来プロセッサでは膨大なパラメータを保存するためのDRAMとの通信にかかる電力消費が課題であった．そこで演算回路とパラメータを記憶するメモリを密に統合した，非ノイマン型プロセッサやニューロモルフィックプロセッサが注目を集めている．外部メモリアクセスを最小限に抑えることで，AI処理における電力消費の大幅な削減が可能になる．基本的な動作原理，回路アーキテクチャを概説したのち，筆者独自に開発したデジタル回路技術と大脳の樹状突起を模したアルゴリズム（d-NNN）を融合した新しいニューロンアレー回路について論じる．
キーワード：半導体集積回路，人工知能，非ノイマン型プロセッサ，ニューロモルフィック
1. AIによる消費電力急増
AI，特に基盤モデルや大規模言語モデル（LLM）の社会実装が急速に拡大している．一方で，それに伴う消費電力の爆発的な増加が喫緊の課題となっている．国際エネルギー機関（IEA）の報告書(1)によれば，世界のデータセンターの消費電力は，AIの急速な普及を踏まえると2022年の460TWhから，2035年には最大で1,050TWhに達すると予測されている．これは日本の年間総電力消費量を上回る規模であり，新たな発電所の建設を迫るほどの社会的インパクトをもたらしている．LLMや基盤モデルはデータセンター上だけでなく，ロボットや自動車，更にはウェアラブルデバイスへの実装も期待されている．これらのアプリケーションではバッテリ動作であることから，より低電力性能が求められる．
現代のAI処理は行列演算が支配的であり，その高速化には多数の並列演算コアを持つGPUが広く用いられている．しかし，GPUが高いスループットを発揮するためには，広帯域メモリ（High Bandwidth Memory，HBM）から大量のデータを絶えず供給し続ける必要がある．このメモリ・プロセッサ間の「データ移動」こそが，電力消費の最大のボトルネックである．Stanford大学のMark Horowitz教授らの分析(2)によれば，演算（加算や乗算）に要するエネルギーが4.6pJ/Opであるのに対し，外部メモリ（DRAM）からのデータ読み出しにはその約565倍もの2.6nJ/Opを要する．数千億～数兆パラメータを持つ巨大モデルでは，この非効率なデータ移動が頻繁に発生するため，消費電力が跳ね上がる．今後，ロボットや自動運転車など電力制約の厳しいエッジデバイスへAIが普及するにつれ，この問題はデータセンター以上に深刻かつ広範な課題となることが懸念されている．
2. AI専用プロセッサ
AIによる消費電力を削減するため，データ移動の無駄を省くことに特化した「AI専用プロセッサ」の開発が世界中で進められている．これらは主に，(1)新しいタイプのメモリを活用するアプローチと，(2)チップの集積実装を工夫するアプローチの二つに大別される．
(1) 消費電力の少ない新規メモリの活用
(2) 3次元積層プロセッサ
以下，各技術について詳述する．
