
電子情報通信学会 音声研究専門委員会
音声合成
本会ハンドブック「知識の森」
1.音声合成とは
音声合成とは,コンピュータを用いて人間の声を人工的に生成・変換・加工する技術である.狭義には,入力テキストに対応する明瞭で自然な音声を生成するテキスト音声合成(Text-To-Speech ; TTS) (1)を指す.一方で,ある話者の声質を別の話者に変換する音声変換(Voice Conversion ; VC) (2)など,テキストに限らない入力情報から所望の音声を得るための技術も総称して音声合成と呼ばれる.TTSやVCは,人間とロボットの音声インタフェースの実現,公共放送,発声障害者支援など,様々な場で展開される音声コミュニケーションを支援・拡張する.
これまでに様々な音声合成方式が提案されているが,本稿では,2026年4月時点における主流である,深層学習に基づく音声合成を紹介する.1980~2000年代にかけて主流であった分析合成や波形接続合成などは,山下らによる解説記事 (3)を参照されたい.また,2000~2010年代前半にかけて流行した統計的パラメトリック音声合成は,徳田による解説記事 (4)が詳しい.
2.深層学習に基づく音声合成
深層学習に基づく音声合成では,入力情報から音声を予測するための統計モデルとしてDeep Neural Network(DNN)を使用し,大規模な音声コーパスで学習する.これにより,人間の肉声と同程度に自然な音声を合成できるようになりつつある.以降,本稿ではこの音声合成手法を「DNN音声合成」と称する.
図1にDNN音声合成における代表的な方式である(a)カスケード型と(b)End-to-End型の比較を示す.(a)では,入力情報から音声を出力するためのシステムを,(1)入力情報を計算機で処理しやすい特徴表現に変換する「特徴量抽出」,(2)入力特徴表現から音声特徴表現を予測する「音響モデリング」,(3)予測された音声特徴表現から音声波形を合成する「音声波形生成(ボコーダ)」という3つに分割し,これらを個別に最適化・連結する (5).この方式では,各モジュールを独立に構築でき,必要に応じて部分的にチューニングできる.一方で,独立に構築されたサブモデルの連結が,音声合成に最適であるという保証はない.一方,(b)では,これら3つのモジュールをDNNで表現し,合成したい音声を入力情報から直接生成できるよう,全体を誤差逆伝播法に基づく学習により最適化する (6).この方式では,音声合成に適した規則や特徴表現をデータ駆動で学習できる.一方で,音声合成モデルのサイズや学習データ量が増大する傾向にある.総括すると,End-to-End型の方式により合成可能な音声の品質・多様性は著しく改善したが,動作環境における計算資源の制約やチューニングの容易さといった観点から,軽量なモデルを用いたカスケード型の方式もいまだに用いられる.

3.高性能な音声合成のための深層生成モデル
本質的に,人間により発せられた音声は確率的なゆらぎを含む.この理由は,人間の音声生成過程では呼吸・発声・調音のための器官が複雑に作用するため,全く同一の音声信号を生成することは原理的にほぼ不可能だからである.故に,音声信号に内在する確率的なダイナミクスを高精度にモデル化するための技術は,人間のように豊かな音声コミュニケーションが可能なAIエージェントを実現するための基盤となりうる.
本稿では特に,DNNを用いた確率的生成モデルのクラスである深層生成モデル(Deep Generative Model; DGM)について,音声合成で用いられる代表的なものをいくつか取り上げて紹介する.図2に本稿で述べる3つのDGMの比較を示す.

3.1 Variational AutoEncoder(VAE)
図2(a)に示すように,VAEは観測データから潜在変数
を抽出するEncoder
と,
から
を復元するDecoder
で構成される (7).ここで,
,
はそれぞれEncoder, Decoderのモデルパラメータ(ネットワーク結合重みとバイアス)である.VAEは,ある事前分布
に潜在変数が従うと仮定し,次式の目的関数に基づきモデルパラメータを更新する:
ここで,は期待値演算を表し,
はKullback-Leibler擬距離である.式(1)の右辺第一項と第二項はそれぞれ,観測データの尤度最大化と潜在変数の分布に対する正則化を目的としたものと解釈できる.VAEの変種として,離散的な潜在変数空間を対象とするVector Quantized(VQ)-VAE (8)も存在し,自然言語処理におけるLarge Language Model(LLM) (9)と音声合成を結びつけるコア技術として用いられている.
3.2 Generative Adversarial Network(GAN)
図2(b)に示すように,GANは潜在変数から観測データ
を生成する生成器
と,生成データと観測データを識別する識別器
で構成される (10).ここで,
,
はそれぞれ生成器,識別器のモデルパラメータである.GANは,生成データと観測データが判別できなくなる状態を目指し,次式のmin-maxゲームに基づいてモデルパラメータを更新する:
即ち,識別器はデータの真贋を見抜き,生成器は識別器を詐称することを目的とする.GANの学習は,生成データと観測データの分布間のJensen-Shannon擬距離を最小化する (10).GANは高品質な音声を合成するための基盤技術として広く用いられる.
3.3 Denoising Diffusion Probabilistic Model(DDPM)
図2(c)に示すように,DDPMはノイズと観測データ
を相互に変換するような
ステップの離散時間確率過程を表現する (11).DDPMでは,次式に示す前向き拡散過程
を通じてデータをノイズに変換し,次式に示す逆向き拡散過程
によりノイズからデータを復元する.ここで,は
に対して単調増加するようなノイズスケジュールである.
は逆向き拡散過程において
のサンプリングに用いる正規分布の平均であり,
をモデルパラメータとするDNNで表現される.詳細は割愛するが,DDPMでは前向き拡散過程においてデータに加えられたノイズを推定するようなDNNを学習し,推論時に
を雑音とノイズスケジュールから計算することで
から
を生成する.DDPMは高品質なデータを生成できる一方で推論時の計算コストが重く,より効率的なモデルであるflow matching (12)などが提案されている.Flow matchingを用いたTTS手法の例としてMatcha-TTS (13)が知られている.
4.音声合成の発展的話題
音声合成の研究領域においても,LLMおよびその構築で用いられる様々な技術・知見を活用したパラダイムが登場している.特に,(1)ラベル無しデータを活用した大規模事前学習により構築された機械学習モデルの導入,(2)テキスト記述により合成音声の発話スタイル・話者を制御可能なPromptTTS, (3)動画像情報を考慮したオーディオビジュアル合成など,様々な応用を見据えた技術の基礎が構築されている.これらの個々の詳細については,齋藤らによる解説記事 (14)を参照されたい.
音声合成モデルの性能評価法も,近年の音声合成研究における重要なトピックである.これまでの性能評価では,人間の被験者が合成音声を聴取し,その品質を1~5のスコアで評価した結果を集計するMean Opinion Score(MOS)テストが広く使われている.近年では,MOSテストの実施にかかるコストの削減や,品質評価の再現性向上を目的とし,機械学習モデルを用いて入力音声からそのMOS値を予測する研究も盛んに行われている (15).このような主観評価を代替する客観評価に関する研究動向は,Cooperらによる解説記事 (16)が詳しい.また,自然すぎる合成音声はディープフェイクによるなりすましなどを通じて悪用される懸念もある.故に,音声合成が社会に及ぼす影響も,今後の技術進展とともに研究されるようになるだろう.
文 献
(1)山本龍一,高道慎之介,“Pythonで学ぶ音声合成,”インプレス社,2021.
(2)齋藤佑樹,中村泰貴,“音声変換入門Pythonで作って学ぶボイスチェンジャー,”講談社,2026.
(3)山下洋一,河井恒,小林隆夫,匂坂芳典,前川喜久雄,“音声合成,”信学会知識ベース2群─7編─3章,2010.
(4)徳田恵一,“統計的パラメトリック音声合成技術の動向,”音響誌,vol. 67, no. 1, pp. 17-22, 2011.
(5)H. Zen, A. Senior, and M. Schuster, “Statistical parametric speech synthesis using deep neural networks,” Proc. ICASSP, pp. 7962-7966, 2013.
(6)J. Shen, R. Pang, R.J. Weiss, M. Schuster, N. Jaitly, Z. Yang, Z. Chen, Y. Zhang, Y. Wang, RJ Skerry-Ryan, R.A. Saurous, Y. Agiomvrgiannakis, and Y. Wu, “Natural TTS synthesis by conditioning WaveNet on Mel spectrogram predictions,” Proc. ICASSP, pp. 4779-4783, 2018.
(7)D. P Kingma and M. Welling, “Auto-encoding variational Bayes,” Proc. ICLR, 2014.
(8)A. v. d. Oord, O. Vinyals, and K. Kavukcuoglu, “Neural discrete representation learning,” Proc. NIPS, pp. 6309-6318, 2017.
(9)山田育矢,鈴木正敏,山田康輔,李凌寒,“大規模言語モデル入門,”技術評論社,2023.
(10)I.J. Goodfellow, J. Pouget-Abadie, M. Mirza, B. Xu, D. Warde-Farley, S. Ozair, A. Courville, and Y. Bengio, “Generative adversarial nets,” Proc. NIPS, pp. 2672-2680, 2014.
(11)J. Ho, A. Jain, and P. Abbeel, “Denoising diffusion probabilistic models,” Proc. NeurIPS, pp. 6840-6851, 2020.
(12)Y. Lipman, R.T.Q. Chen, H. Ben-Hamu, M. Nickel, and M. Le, “Flow matching for generative modeling,” Proc. ICLR, 2023.
(13)S. Mehta, R. Tu, J. Beskow, É. Székely, and G.E. Henter, “Matcha-TTS: A fast TTS architecture with conditional flow matching,” Proc. ICASSP, pp. 11341-11345, 2024.
(14)齋藤佑樹,中田亘,山内一輝,朴浚鎔,“大規模事前学習モデルに基づく音声合成,”音響誌,vol. 81, no. 10, pp. 719-726, 2025.
(15)W.-C. Huang, E. Cooper, Y. Tsao, H.-M. Wang, T. Toda, and J. Yamagishi, “The VoiceMOS Challenge 2022,” Proc. INTERSPEECH, pp. 4536-4540, 2022.
(16)E. Cooper, W.-C. Huang, Y. Tsao, H.-M. Wang, T. Toda, and J. Yamagishi, “A review on subjective and objective evaluation of synthetic speech,” Acoustical Science and Technology, vol. 45, no. 4, pp. 161-183, 2024.
(2026年4月14日受付)
電子情報通信学会知識ベース「知識の森」
掲載キーワード募集中!

上記からアンケートに御記入下さい.(予想回答時間:3分以内)
知識の森はこちら

電子情報通信学会ハンドブック/知識ベース委員会では,「知識の森」https://www.ieice-hbkb.org/portal/をより良いものにするため,多くのユーザの皆様からの御希望・御意見を募集しております.ぜひ,上記QRコードのフォームから御回答下さい.お待ち致しております.

