2-3 2. エッジコンピューティング応用技術
Federated Learningのためのネットワーク経路最適化
Network Routing Optimization for Federated Learning

近年,分散的に機械学習を行う連合学習(Federated Learning)が注目されている.ネットワーク上に分散配置された各サーバにて局所的にデータを収集・学習し,局所的な学習結果(モデルパラメータ)をサーバ間で共有・統合するFederated Learningを活用することで,ネットワークへの負荷低減やサーバの負荷分散を図りつつ機械学習を行うことが期待できる.本稿では,そのためのデータ転送経路・転送先サーバ選択やモデルパラメータ転送経路最適化に関する著者らのこれまでの研究成果を紹介する.
キーワード:Federated Learning,ネットワーク,経路最適化,分散学習
1. は じ め に
近年,機械学習・深層学習は画像処理や自然言語処理等をはじめとした様々な分野で利用されている.また,Internet of Things(IoT)の進展に伴い,各種センサや車両といった多様なIoTデバイスからのデータ収集が可能となり,工場内装置の遠隔制御や交通安全のための監視などを目的として,これらのデータを分析・学習して活用することが期待される.更に,通信ネットワーク自体においても,各通信機器からトラヒックフローデータ(通信の送信元・宛先やデータ量などの統計情報を記録するNetFlow(1)等)や各種監視ログが継続的・膨大に生成され,これらを機械学習を用いて分析し,高度なネットワーク管理・制御に役立てる機運が高まっている(2).
従来,クラウド上の中央サーバ一か所にデータを集めて分析・学習することが一般的であった.しかし,IoTデバイス数の増加やネットワークの大規模化・複雑化に伴い,IoTデータ量やネットワーク機器からの生成データ量が膨大となる可能性がある.そのため,これらのデータを全て中央サーバへ集約して分析しようとすると,ネットワーク帯域の逼迫やデータ分析に伴うサーバ計算コストの増大につながるという問題がある(2),(3).
膨大なデータ量に対して効率的に機械学習を行う手法として,分散型の機械学習への関心が高まっている.そのうち,本稿では連合学習(FL: Federated Learning)に着目する.FLは,個々のデバイスあるいはネットワーク上に分散配置された各エッジサーバにおいてローカル環境で学習を行い,データ自体を中央サーバに集約することなくグローバルモデルを構築する手法である.具体的には,図1に示す手順(i)から(iv)を繰り返すことでグローバルモデルを構築していく.なお図1は,特定の統合サーバ(パラメータサーバ)を設ける集中型の例であるが,特定のサーバに依存せずエッジサーバ同士が対等に通信し合う分散型も存在する.例えば,エッジサーバA,B,Cの間で,A-B-C-Aのようなリング型でやり取りする(4).以上のように,データ自体をサーバ間で共有せずに学習を進めることで,ネットワーク帯域の浪費を抑え,サーバの負荷分散を図ることが期待できる.


