電子情報通信学会 - IEICE会誌 試し読みサイト
© Copyright IEICE. All rights reserved.
|
リザバーコンピューティング
小特集 2.
リザバーコンピューティングに適した力学系の特性と構造
On the Characteristics and Structures of Dynamical Systems Suitable for Reservoir Computing
abstract
リザバーコンピューティング(RC)の数理的側面について解説する.RCは共通入力信号同期と呼ばれる同期現象を用いた機械学習技術である.本稿では,まず共通入力信号同期とその指標である条件付リヤプノフ指数を説明し,RCに利用可能な力学系(物理現象)のクラスを明確化する.次に,RCの計算性能に関して知られている二つの特性(i)「edge of chaos」と(ii)「短期記憶と非線形変換のトレードオフ関係」を解説する.特性(ii)に基づき,RCに適した力学系構造が提案されている.混合リザバーと呼ばれるその力学系構造を導入し,数値実験結果を紹介する.
キーワード:共通入力信号同期,条件付リヤプノフ指数,混合リザバー
近年の機械学習技術の発展により,音声認識等の情報処理精度は飛躍的に向上している.またハードウェアの面では,量子計算機に代表されるように新たな計算原理に基づく革新的な計算機の実現が求められている.リザバーコンピューティング(Reservoir Computing,以下RCと略記)は物理実装に適した機械学習技術であり(1),レーザ系,量子系,ソフトマテリアル等に生じる物理現象を用いたハードウェア実装が近年活発に研究されている.物理現象の特性をうまくRCに活用することで,高速性・省エネルギー性等を達成する革新的な“計算機”が実現可能であると期待されている.(本小特集の他の解説記事を参照.)
RCの実装に用いる物理現象は,力学系(2)として数理モデル化され解析が行われているが,理論的には不明な点が多い.例えば「与えられたタスクに対して,力学系がどのような特性や構造を持てば精度の良い情報処理をすることが可能なのか?」という素朴で基本的な問いでさえほとんど未解明である.現状は様々な物理現象が手探りの状態で使われているが,この基本的な問いが理論的に明らかになれば,RCの設計指針を得ることができる.本稿ではRCに適した力学系の特性と構造に焦点を絞り,数理的な観点からRCに用いる力学系の基礎とこれまでの研究結果を概説する.
RCは脳科学に端を発し,現在では多種多様な物理現象を用いた実装実験が活発に行われている.理論的には計算機科学,非線形科学,理論神経科学,統計物理学(平均場・ランダム行列理論等)が絡み合う学際的な研究対象である.本稿ではその魅力の数理的側面を紹介したい.
まず抽象的ではあるがRCの数理的枠組みの一般論を述べ,その後具体例を用いて説明する.まず,一次元の入出力信号の組が与えられているとしよう(教師データと呼ばれる).RCの目標は,教師データを用いて入力と出力の対応関係を学習し,入力に応じて出力の近似値を得ることである.例えば,入力信号の1ステップ先を予測したい場合(時系列予測問題)はである.RCは,入出力層と,リザバーと呼ばれる入力信号系列に駆動される力学系(図1(a)における)から構成される.リザバーは数理的には次元力学系で記述される(簡単のため離散時間を仮定):
(1)
続きを読みたい方は、以下のリンクより電子情報通信学会の学会誌の購読もしくは学会に入会登録することで読めるようになります。 また、会員になると豊富な豪華特典が付いてきます。
電子情報通信学会 - IEICE会誌はモバイルでお読みいただけます。
電子情報通信学会 - IEICE会誌アプリをダウンロード