カテゴリー: 会誌105号_Vol.2

小特集　システム数理の現状と展望 　 5. ディープラーニングにおけるビルディングブロックの発展と展望 Development and Prospects of Building Blocks in Deep Learning

小特集　システム数理の現状と展望
　
5. ディープラーニングにおけるビルディングブロックの発展と展望
Development and Prospects of Building Blocks in Deep Learning

p.136
庄野　逸

ディープラーニングにおけるネットワークの基本構造の発展経緯をたどる
　ディープラーニングは多層の人工ニューラルネットワークによる機械学習手法である．画像処理分野においては特に畳込みニューラルネットワーク（CNN）と呼ばれる手法がこの分野をけん引してきた．このCNNの発展を，その基本単位であるビルディングブロックから眺め，AlexNet，GoogLeNet，VGGNet，ResNetを例に解説を行う．更にこのビルディングブロックの性能向上を図るために導入された注意機構（Attention）の解説を行う．

小特集　システム数理の現状と展望 　 6. スパースモデリングの基礎とその動的システム同定への応用 Fundamentals of Sparse Modeling and Its Application to Dynamical System Identification

小特集　システム数理の現状と展望
　
6. スパースモデリングの基礎とその動的システム同定への応用
Fundamentals of Sparse Modeling and Its Application to Dynamical System Identification

p.143
永原正章

スパースモデリングの基礎とシステム同定への応用がMATLABコード付きで学べます
　本稿では，機械学習や信号処理の分野で近年盛んに研究されているスパースモデリングについて，その基礎と動的システムへの応用について解説する．特に本稿では回帰問題を題材として，従来法である正則化法を解説し，その展開としてスパース正則化の観点からスパースモデリングの基礎を解説する．また，l1ノルムを用いた凸最適化問題を高速に解く近接勾配法，及びl0正則化を直接解く貪欲法のアルゴリズムを紹介し，多項式曲線フィッティングの例題によりそれらの特徴について述べる．更に，動的システムへの応用としてシステム同定の問題を取り上げ，スパースなインパルス応答の推定にスパースモデリングが利用できることを述べる．