1．は　じ　め　に

　多くの機械学習アルゴリズムは，データから求まるパラメータのほかに，利用者があらかじめ定めておくハイパパラメータを持つ．例えば，ニューラルネットを確率的勾配法で訓練する場合，各ユニットの重みは前者であり，学習率は後者に相当する．近年，機械学習モデルのハイパパラメータが訓練に与える影響を様々なデータセットにより網羅的に調査した結果が報告されており⁽¹⁾，ハイパパラメータの調整の重要性が注目されつつある．

　しかし，ハイパパラメータは，実際にモデルの訓練と評価をしてみないとその良し悪しが分からないという問題がある．つまり，最適化においてはハイパパラメータの入力と評価を何度も繰り返す必要がある．そこで，こうした試行錯誤を代替するハイパパラメータ最適化⁽²⁾のためのソフトウェアが登場している．

　本稿では，ハイパパラメータ最適化ソフトウェアの一つであるOptunaを題材に，ハイパパラメータの最適化の方法をコード例や応用事例を交えて説明する．また，ハイパパラメータ最適化の手法は，機械学習以外の分野でも応用されている．この事例として，音声認識とロボットハンドの設計パラメータの最適化の事例を紹介する．

2．ハイパパラメータの最適化手法

　2．では，ハイパパラメータの最適化手法を概説する．ただし，各手法のアイデアのみを説明し詳細には立ち入らないため，詳しくは尾崎らによるサーベイ論文⁽³⁾などを参照されたい．