小特集 システム数理の現状と展望
5. ディープラーニングにおけるビルディングブロックの発展と展望
Development and Prospects of Building Blocks in Deep Learning
p.136
庄野 逸
ディープラーニングにおけるネットワークの基本構造の発展経緯をたどる
ディープラーニングは多層の人工ニューラルネットワークによる機械学習手法である．画像処理分野においては特に畳込みニューラルネットワーク（CNN）と呼ばれる手法がこの分野をけん引してきた．このCNNの発展を，その基本単位であるビルディングブロックから眺め，AlexNet，GoogLeNet，VGGNet，ResNetを例に解説を行う．更にこのビルディングブロックの性能向上を図るために導入された注意機構（Attention）の解説を行う．