<?xml version="1.0" encoding="utf-8"?><html xml:lang="ja" xmlns="http://www.w3.org/1999/html" xmlns:epub="http://www.idpf.org/2007/opf">
    <head>
        <meta name="viewport" content="target-densitydpi=device-dpi, width=device-width, maximum-scale=1.0, user-scalable=yes" />
<meta charset="UTF-8"/>
        
        <meta content="book3" name="CAS-UB-Publication-Class"/>
        <meta content="CAS-UB Backend System Installed on 2013-11-27" name="Generator-Signature"/>
        <title>解説　大規模言語モデルの現状と今後の展望［II・完］――企業の大規模言語モデル開発と応用開発の現場――</title>
        <link href="themes/cas-common_epub.css" rel="stylesheet" type="text/css"/>
        <link href="themes/plain2/common.css" rel="stylesheet" type="text/css"/>
        <link href="styles/style.css" rel="stylesheet" type="text/css"/>
<script>
  (function(i,s,o,g,r,a,m){i['GoogleAnalyticsObject']=r;i[r]=i[r]||function(){
  (i[r].q=i[r].q||[]).push(arguments)},i[r].l=1*new Date();a=s.createElement(o),
  m=s.getElementsByTagName(o)[0];a.async=1;a.src=g;m.parentNode.insertBefore(a,m)
  })(window,document,'script','https://www.google-analytics.com/analytics.js','ga');

  ga('create', 'UA-88485500-1', 'auto');
  ga('send', 'pageview');

</script>
        </head>
    <body style="-webkit-text-size-adjust: 100%;" class="wrapper chapter level2" id="e_2e0000_2e4c9a55b585961f6a4006fd16c99b1176"><h1 class="sys-hidden" style="display:none">解説　大規模言語モデルの現状と今後の展望［II・完］――企業の大規模言語モデル開発と応用開発の現場――</h1>
<div class="header">
<table class="header-in" align="center" valign="middle">
<tr>
<td class="left-table">
<a class="" href="https://www.ieice.org/jpn/"><img class="ieice-logo" src="../../img/logo.png" /></a>
</td>
<td class="right-table" align="center">
<a href="../../index.html" class="top_link" align="center"><b align="center">電子情報通信学会 - IEICE会誌 試し読みサイト</b></a>
<div class="copyright">© Copyright IEICE. All rights reserved.</div>
</td>
</tr>
</table></div>
<div class="header-border"></div>
<div class="contents">
<div class="contents-in">
<form name="number_post" method="POST" action="../../index.php">
<input type="hidden" name="index-page" value="107_7" />
</form>
<a href="javascript:document.number_post.submit()" class="index-number-link" style="float: right;">Vol.107 No.7 (2024/7)　目次へ</a><br /><br />
<div class="article-navigation"><a href="../k107_7_645/index.html" style="float: left;">前の記事へ</a><a href="../k107_7_659/index.html" style="float: right;">次の記事へ</a></div><br /><br />


<p class="head-toku"><span class="gext Solid-blue lime-bg"> 解説 </span></p>
<p class="title-ja lft">大規模言語モデルの現状と今後の展望［Ⅱ・完］</p>
<p class="subtitle-ja li-2em0">――企業の大規模言語モデル開発と応用開発の現場――</p>
<p class="title-en">The Current State and Future Directions of Large Language Models［Ⅱ・Finish］：Corporate Development and Application of Large Language Models</p>
<p class="title_author">山崎　天</p>
<div class="gext author_detail5"><p class="li-1em">山崎　天　SB Intuitions株式会社</p>

<p>Takato YAMAZAKI, Nonmember (SB Intuitions Corp., Tokyo, 105-0022 Japan).</p>
<p>電子情報通信学会誌　Vol.107 No.7 pp.653-658 2024年7月</p>
<p>©2024 電子情報通信学会</p>
<hr class="hr01"/>
<div class="gext font09em kakomi"><p class="margin-top05 center"><strong class="m-gothic">目　　　　次</strong></p>
<p class="lft li-3em5"><span class="gext width3em5">［Ⅰ］</span>大規模言語モデルのインパクトと直面する課題（6月号）</p>
<p class="margin-bottom05 lft li-3em5"><span class="gext width5em5"><strong>［Ⅱ・完］</strong></span><strong>企業の大規模言語モデル開発と応用開発の現場（7月号）</strong></p>
</div>
</div>
<div class="gext abstract"><p><strong class="purple font2em en">A</strong> <strong class="en font1em6 red">bstract</strong></p>
<p>　本稿では，企業における大規模言語モデル（LLM）の開発動向と，その応用開発に取り組む企業が直面する現場の変化や課題について述べる．OpenAI社を筆頭に，LLMの普及に努める多くの企業が，オープンソース公開やAPIの提供などを通じて，モデル開発に積極的に取り組んでいる様子を紹介する．更に，LLMを活用するソフトウェア開発現場においては，プロンプトエンジニアリングやガードレールの実装など，LLMを効果的に制御する技術が進展していることにも触れる．</p>
<p><strong class="m-gothic">キーワード</strong>：大規模言語モデル，自然言語処理，ChatGPT，LLM応用，プロンプトエンジニアリング</p>
</div>
<div class="wrapper level3" id="h_2e0000_2e1_EF_BC_8E_E3_81_AF_E3_80_80_E3_81_98_E3_80_80_E3_82_81_E3_80_80_E3_81_AB"><h1>1．は　じ　め　に</h1>
<p>　近年，大規模言語モデル（LLM）は，人工知能分野における最も革新的な進歩の一つとして，広く注目を集めている．LLMとは，膨大なテキストデータを用いて訓練された大規模なニューラルネットワークで，自然言語の処理と生成において驚異的な精度と流暢さを実現している<sup>(1)</sup>．多くの主要企業がこのLLMの開発と応用に多額の投資をしており，これらの技術は次世代ビジネスの重要なキープレーヤとなることが期待されている．特に，OpenAI社のような先駆者企業による取組みは，LLMの商業的及び学術的応用の可能性を大きく広げた．OpenAI社はChatGPTというサービスを通じて，一般ユーザがチャット形式のユーザインタフェースでLLMを利用できるようにし，LLMやAI技術への注目を爆発的に集めるきっかけとなった．そして現在，ChatGPTの有料APIは，IT分野に限らず，幅広い業界の企業によってサービスの展開や内部業務の効率化に利用され始めている．</p>
<p>　OpenAI社をはじめとして，LLMを積極的に開発・応用する企業からは毎日のように新しいプレスリリースが出てきている．本稿では，これらの企業がどのようなLLMを開発しており，また，LLMを応用したソフトウェア開発ではどのようなアプローチが取られているのかに焦点を当て，解説する．</p>
<p class="line-gap"> </p>
</div>
<div class="wrapper level3" id="h_2e0000_2e2_EF_BC_8ELLM_E3_81_AB_E3_81_8A_E3_81_91_E3_82_8B_E4_BC_81_E6_A5_AD_E3_82_84OSS_E3_82_B3_E3_83_9F_E3_83_A5_E3_83_8B_E3_83_86_E3_82_A3_E3_81_AE_E6_B4_BB_E8_BA_8D"><h1 class="long">2．LLMにおける企業やOSSコミュニティの活躍</h1>
<div class="wrapper level4" id="h_2e0000_2e2_2e1_E3_80_80ChatGPT_E3_81_AE_E9_A3_9B_E8_BA_8D"><h2>2.1　ChatGPTの飛躍</h2>
<p>　言語モデルの大規模化のブームを発生させた要因としてスケーリング則が挙げられるが，OpenAI社はこの法則に基づき，2019年に15億パラメータを持つGPT-2，2020年には1,750億パラメータを持つGPT-3を発表した．これらの大規模言語モデル（LLM）は，Few-Shot Learningと呼ばれる，少数の例を入力することでタスクの解き方を学習する能力を持つことが示された<sup>(1)</sup>．これは，特定のタスクを処理するために大量のデータを必要とした従来と比べ，劇的なパラダイムシフトを自然言語処理分野にもたらした．</p>
<p> </p>
</div>
</div>

<div class="continue-point">
	<p style="clear: both;"> </p>
	<hr/>
<p>続きを読みたい方は、以下のリンクより電子情報通信学会の学会誌の購読もしくは学会に入会登録することで読めるようになります。
また、会員になると豊富な豪華特典が付いてきます。</p>
    <br />
    <p><a href="https://www.journal.ieice.org/bin/pdf_link.php?fname=k107_7_653&amp;lang=J&amp;year=2024" target="_blank">続きを読む(PDF)</a>　　　<a href="https://www.ieice.org/jpn/books/backnumber.html" target="_blank">バックナンバーを購入する</a>　　　　<a href="https://www.ieice.org/jpn/join/index.html" target="_blank">入会登録</a></p>  
    <a href="https://twitter.com/share" class="twitter-share-button" data-url="https://app.journal.ieice.org/trial/107_7/k107_7_653/index.html" data-lang="ja" data-size="large" data-hashtags="IEICE">ツイート</a>　　
    <div class="fb-share-button" data-href="https://app.journal.ieice.org/trial/107_7/k107_7_653/index.html" data-layout="button" data-size="large"></div> <div id="fb-root"></div>
    <script>
        !function(d,s,id){
            var js,fjs=d.getElementsByTagName(s)[0],p=/^http:/.test(d.location)?'http':'https';
            if(!d.getElementById(id)){
                js=d.createElement(s);
                js.id=id;js.src=p+'://platform.twitter.com/widgets.js';
                fjs.parentNode.insertBefore(js,fjs);
            }
        }(document, 'script', 'twitter-wjs');
   </script> 
   <script>
       //<![CDATA[
       (function(d, s, id) {
       var js, fjs = d.getElementsByTagName(s)[0];
       if (d.getElementById(id)) return;
       js = d.createElement(s); js.id = id;
       js.src = "//connect.facebook.net/ja_JP/sdk.js#xfbml=1&version=v4.0";
       fjs.parentNode.insertBefore(js, fjs);
       }(document, 'script', 'facebook-jssdk'));
       //]]>
   </script>   <p>電子情報通信学会 - IEICE会誌はモバイルでお読みいただけます。</p>   <p><a href="https://app.journal.ieice.org/">電子情報通信学会誌 会誌アプリのお知らせ</a></p>    <p></p>    <p><b>電子情報通信学会 - IEICE会誌アプリをダウンロード</b></p>
    <p><a href="https://itunes.apple.com/jp/app/dian-zi-qing-bao-tong-xin/id957695896?mt=8"><img src="../../img/App_Store_JP.svg" style="width:165px; height:50px" /></a>　　<a href='https://play.google.com/store/apps/details?id=org.ieice.journal.app.ieice&amp;hl=ja'><img alt='Google Play で手に入れよう' src='../../img/google-play-badge_web.png' style="width:165px; height:49px" /></a></p>
        </div>
</div> 
</div> 
<div class="caution">本サイトでは会誌記事の一部を試し読み用として提供しています。</div>
</body>
</html>
