1. HOME
  2. ブログ
  3. IT技術
  4. 損失関数とは?ニューラルネットワークの学習理論【機械学習】

損失関数とは?ニューラルネットワークの学習理論【機械学習】

損失関数とは?

ニューラルネットワークの学習フェーズでは、的確な推論を行うために最適な各パラメータ(重みやバイアス)を決定します。

このとき、最適なパラメータに近づくための指標となるのが「損失関数(loss function)」になります。

これは、「目標」と「実際」の出力の誤差を表すものです。

損失関数をイメージで例えると

もし、スイカ割りをする人を、ニューラルネットワークにより制御できるとした場合で考えてみます。

目的は、今いる地点からスイカのある場所に移動し、スイカを割ることです。

この場合、スイカからどれだけズレているか?を表すのが「損失関数」であるということができます。

この、「スイカからのズレ(損失関数)」が、最も小さくなるようなパラメータを探索していく事で、最終的にスイカのある地点に辿り着き、見事スイカを割る事ができるでしょう。

このように、ニューラルネットワークの学習では、損失関数が最も小さくなるパラメータを探し出します

損失関数で用いる2つの関数

では、損失関数には、どんな関数が使われるのでしょうか?

一般に機械学習では、損失関数として「2乗和誤差」「交差エントロピー誤差」などが用いられます。

今回は、この2つを解説していきたいと思います!

こちらの記事もオススメ!

2乗和誤差

2乗和誤差(sum of squared error)は、以下の式で表されます。

$$E = 1/2 \sum_{k} (y_{k} – t_{k})^{2}$$
\(y_{k}\):ニューラルネットワークの出力
\(t_{k}\):正解データ
\(k\):データの次元数

2乗和誤差は、ニューラルネットワークの「出力」と「正解データ」の差の、2乗の総和を求めます。

この総和が小さいほど、出力と正解データの誤差が少ないということになります。

この2乗和誤差を、Python で実装し、実際に損失関数を計算してみましょう。

損失関数をPythonで計算

2乗和誤差による損失関数の計算結果

\(y\) 1 (出力が正解の場合) : 0.0625
\(y\) 2 (出力が不正解の場合) : 0.570

5つの要素からなる、「出力 \(y\) 」および、「正解データ \(t\) 」を用意し、定義した「sum_squared_error関数」で計算しています。

ここで、ニューラルネットワークの「出力 \(y\) 」は、その要素である確率データ(ソフトマックス関数による出力)に。

そして、「正解データ \(t\) 」は、正解ラベルを「1」として、それ以外を「0」とする、one-hotベクトルとなります。

また「出力 \(y\) 」は、正解の場合と、不正解の場合の2つ用意し、これらの損失関数の値の違いをみています。

出力が正解の場合の方が、損失関数の値が小さく、正解データとの誤差が少ない適切な出力が得られていることがわかりますね。

交差エントロピー誤差

次に、「交差エントロピー誤差(cross entropy error)」です。

計算式は、以下のようになります。

$$E=-\sum_{k} \ \ t_{k} \ \ log \ \ y_{k}$$

「 \(log\) 」は、底が e の自然対数です。

こちらも実装し、2乗和誤差と同じデータで、同様に計算してみましょう。

損失関数をPythonで計算

交差エントロピー誤差による 損失関数の計算結果

\(y\) 1 (出力が正解の場合) : 0.3567
\(y\) 2 (出力が不正解の場合) : 2.303

こちらの計算結果からも、「出力」と「正解データ」との誤差を、損失関数として取得することができています。

この交差エントロピー誤差は、各要素における、「出力の自然対数 \(logy\) 」と、「正解データ \(t\) 」との積を計算しています。

ですが、正解データは、正解ラベルのみが「1」で、その他は「0」の、one-hotベクトルです。

なので実質的には、正解ラベルに対応する出力の値の、自然対数を計算することで得られます。

出力の自然対数を計算し「損失関数」が得られるのはなぜ?

なぜ、出力の自然対数を計算することで、損失関数が得られるか?

それは、自然対数 \(logx\) は、 \(x\) が1の時に「0」となり、逆に \(x\) が「0」に近づくと、どんどん小さくなるという性質を有しているからです。

つまり、自然対数の絶対値をとれば、ニューラルネットワークの出力 \(y\) に対する \(- \ logy\) のグラフは、以下のようになります。

\(- \ logy\) のグラフ

出力 \(y\) が「1」に近づくと(確率が1に近づくと)、損失関数の値は「0」に近づきます(正解との誤差が小さい)。

逆に、出力 \(y\) が小さければ(確率が低ければ)、損失関数の値は大きくなる(正解との誤差が大きい)、ということになります。

このように、「交差エントロピー誤差」は、自然対数の性質を用いて損失関数を導きます

損失関数の必要性と微分

次に、なぜ損失関数が必要か?という事に、少し触れていきます。

例えば、料理をする時には、「調味料を少しずつ加え」、「味見をしながら」全体の味を調節して完成に近づけていきます。

といった感じで、ニューラルネットにおける学習では、パラメータを微小に変化させた時に起こる、損失関数の微小な変化を確認しながら、損失関数を小さくする方向へとパラメータを更新していきます。

これは、「パラメータの微分」を行っていると言えます。

損失関数は微分が0にならない

重要なのは、損失関数はどの場所においても、微分が「0」(微小変化が0)にならないことです。

単純な認識精度を、損失関数のような指標にすることができないのは、パラメータの微分が、ほとんどの場所で「0」になってしまうからです。

パラメータの微小変化では、認識精度はほとんど変化しないため、パラメータ調整の指標にはならないのです。

勾配法へとつながる

ここで話したことは、ニューラルネットワークの重要な学習理論の基礎です。

また、本記事では触れていませんが、損失関数の最小値を探索するために用いられる「勾配法」に繋がっていきます。

「勾配法」により、損失関数の最小化が完了すると、最適化されたネットワークのパラメータが設定され、学習が完了します。

手書き数字データによる学習と損失関数最小化の実装例

最後に、実際にニューラルネットワークモデルを用いた学習と、損失関数最小化の実装例をご紹介します。

実装には、ディープラーニングフレームワーク「Chainer」を用いて、MNISTの手書き数字データセットの学習を行いました。

実装内容については、コード内コメントや、Chainer チュートリアルを参考にして下さい。

【Chainerチュートリアル】
https://tutorials.chainer.org/ja/

コード

今回は、「学習データ」と「検証データ」による損失関数と、精度の結果をグラフに示します。

エポック数が増えるにつれて、損失関数の値が小さくなっていき、学習が進んでいることが分かりますね。

同様に精度も向上しています。

損失関数

精度

さいごに

最後に登場したような「機械学習フレームワーク」を用いると、細かい理論や、考え方の理解なしでも、比較的容易にモデルの構築が可能になります。

ですが、「なぜそうなるのか?」という所に踏み込むのも、大切で面白いことだと思います。

今回の、損失関数もその一つです。

ニューラルネットワークの学習の基礎となるので、理解しておくことをオススメします。

記事を書いた人

\ 技術書おかずにご飯が喰える集団 /
(株)ライトコードは、WEB・アプリ・ゲーム開発に強い「好きを仕事にするエンジニア集団」です。
機械学習でのシステム開発依頼・お見積もりはこちらまでお願いします。
また、機械学習系エンジニアを積極採用中です!
※現在、多数のお問合せを頂いており、返信に、多少お時間を頂く場合がございます。

こちらの記事もオススメ!

ライトコードよりお知らせ

にゃんこ師匠にゃんこ師匠
システム開発のご相談やご依頼はこちら
ミツオカミツオカ
ライトコードの採用募集はこちら
にゃんこ師匠にゃんこ師匠
社長と一杯飲みながらお話してみたい方はこちら
ミツオカミツオカ
フリーランスエンジニア様の募集はこちら
にゃんこ師匠にゃんこ師匠
その他、お問い合わせはこちら
ミツオカミツオカ
   
お気軽にお問い合わせください!せっかくなので、別の記事もぜひ読んでいって下さいね!

一緒に働いてくれる仲間を募集しております!

ライトコードでは、仲間を募集しております!

当社のモットーは「好きなことを仕事にするエンジニア集団」「エンジニアによるエンジニアのための会社」。エンジニアであるあなたの「やってみたいこと」を全力で応援する会社です。

また、ライトコードは現在、急成長中!だからこそ、あなたにお任せしたいやりがいのあるお仕事は沢山あります。「コアメンバー」として活躍してくれる、あなたからのご応募をお待ちしております!

なお、ご応募の前に、「話しだけ聞いてみたい」「社内の雰囲気を知りたい」という方はこちらをご覧ください。

ライトコードでは一緒に働いていただける方を募集しております!

採用情報はこちら

関連記事

採用情報

\ あの有名サービスに参画!? /

バックエンドエンジニア

\ クリエイティブの最前線 /

フロントエンドエンジニア

\ 世界はお前の手の中に・・・ /

モバイルエンジニア

\ サービスの守り神! /

インフラエンジニア