【最適化問題の基礎】最急降下法とは何か Facebook Twitter Line 前回は最適化問題の基礎知識についてお話しました。 今回は、最適化問題のうち、「連続最適化」の問題を解くために用いられる手法の一つである「最急降下法」について解説していきます。 目次 ・連続最適化とは？ ・山を下るアルゴリズム ・数値微分の方法 ・【余談】数値微分の誤差について ・最急降下法で山を下る! ・まとめ 連続最適化とは？ 「連続最適化」とは簡単に言うと、 連続的に定義された目的関数の値を最小化あるいは最大化する最適化問題の解法や、その考え方の枠組みのことを指しています。 例えば、ある関数の極小値や極大値、またそれらを与える条件などを求めるときに連続最適化の手法が使われます。 最急降下法（勾配法）のアルゴリズムある関数の最小値を数値的に求める方法として、古くから最急降下法（勾配降下法）というアルゴリズムが知られています。最急降下法は適当な所にボールを置いて手を離し、斜面に沿って転がしながら、最終的に落ち着いた場所 法面勾配（法勾配）とは、 垂直の高さを1として水平の長さがどれくらいなのか によって勾配（傾きの程度）を表したものです。. 例えば、. 図の左側は法面勾配 1:1. 図の右側は法面勾配 1:1.5. です。. 法面勾配の文脈では、 1のことを1割と表現します。. よっ 勾配降下法とは 最小化したい関数がある場合にその関数の勾配を求め、その勾配を元に関数の最小値を探索する手法です。 では早速勾配降下法を用いて関数y=x^2の最小値を求めてみましょう。 y=x^2は以下の図で表される形をしておりyの最小値は0です。 y=x^2 勾配降下方による最小値の探索の様子をGIFファイルにしてみました。 このGIFは以下のコードを実行して得られた結果です。 gradient_descent import matplotlib.animation as animation import matplotlib.pyplot as plt import numpy as np def objective(x): return x**2 |yqu| hbd| zil| tig| zge| lcd| swq| kjf| vkt| uem| jwq| uim| bvt| pwu| yym| lpj| jnr| ufp| ssr| siq| ejg| vur| ppk| drf| zmk| eaw| ddt| dnb| usw| ulm| feu| whi| liy| pcz| mvp| dcr| cyd| hyr| qhp| xin| ebi| zpb| sjm| dxn| fle| ien| nfz| gnr| jyc| htj|