相転移メモリを利用した高いエネルギー効率のアナログAIチップを試作

　IBMコーポレーションは相転移メモリ（PCM: Phase Change Memory）を用いたアナログAIアクセラレータチップを試作した．既存のディジタルAIアクセラレータと同等の処理精度を保ちながら，一桁以上高いエネルギー効率で実用的な規模の音声認識ベンチマークを実行したことが示された．

　AIの需要が高まる中，AIモデルの大規模化に伴いモデルの実行に必要な電力は激増しており，アルゴリズムだけでなくハードウェアまで含めたエネルギー効率の向上がこれからのAIの利用に不可欠である．アナログ半導体メモリを用いた高いエネルギー効率のAI推論（inference）処理のコンセプトは以前から出ていたが，小規模なAIモデルの実験にとどまっていた．今回は3,500万個のPCMデバイスを搭載したチップを試作製造し（図1），そのチップを複数組み合わせ既存のディジタルAIアクセラレータで利用されている大規模なベンチマークMLPerfで推論を行い，高いエネルギー効率で稼動することが示された．

（リンク：https://doi.org/10.1038/s41586-023-06337-5　CC BY 4.0, https://creativecommons.org/licenses/by/4.0/）

　ディープラーニングで実行される演算のほとんどは積和演算である．積和演算に必要な電力を削減できればAIシステム全体のエネルギー効率を高めることができる．PCMデバイスは抵抗変化形不揮発性メモリの一つで，このデバイスを大量に並べた二次元アレーの行方向に電圧を印加し，列方向に沿って電流を集めることによって，同時並列に多入力の積和演算を実行できる（図2）．一つのPCMデバイスにニューラルネットワークの重み一つを記憶し，そのメモリデバイスのアレー上で演算も行う．つまり重みを表現するための面積効率が高いだけでなく，別のメモリなどから重みデータを演算器に移動させる必要がないため高いエネルギー効率の積和演算を実現できる．HDD，SSD，主記憶，キャッシュ，レジスタなどメモリ階層が深い近年のフォン・ノイマン形のディジタル計算機アーキテクチャでは，演算に必要なエネルギーだけでなく，データの移動に必要なエネルギーもシステム全体のエネルギーの多くの割合を占めるようになっている．データを移動せずにメモリ上で演算を行う“in-memory analog computing”はシステム消費電力を大きく削減できる可能性がある．