当たり前であるが、この接平面上では x方 向 の 傾 き は 4 、 y方 向 の 傾 き は 1で
あ る 。 傾 き が プ ラ ス で 右 肩 上 が り で あ れ ば 左 ( マ イ ナ ス ) の 方 向 に 行 け ば z の
値 は 減 少 す る 。 ま た 傾 き が 大 き け れ ば 、 そ れ だ け 極 値 か ら 遠 く 離 れ て い る と も
考えられるので(図 1参 照 ) 、 x,y の値を、傾き 4,1 に 比 例 さ せ た 量 、 -4η、 -η
で 移 動 さ せ る 。 そ れ で 次 第 に 極 値 に 近 づ こ う と 言 う 、 そ れ だ け の 単 純 な 考 え 方
である。
すると次の移動点(x’,y’)は(1-4η、1-η)になる。この学習率とも呼ばれる η
を ど う 決 め る か が 問 題 に な る が 、こ の 場 合 は 元 の 関 数 が 単 純 な の で (4)式 に( x’,y’)
の値を代入すればzが ηの 関 数 と し て 得 ら れ 、 微 分 し て 、 そ こ で の 最 小 値 解 が
簡 単 に 得 ら れ る 。 一 般 的 に は 繰 り 返 し 計 算 が 必 要 で 、 こ う は 上 手 く 行 か な い 。
因みにその結果として η=17/26 とすると、
(x’,y’):(-1.615、0.346) z=-1.558
以降、80 回 程 の 繰 り 返 し 計 算 で z = -3 に近い値に収束した。η=0.2(計算中一
定)とすると計算 20 回程度で z=-3 に収束する。
3 . 多 次 元 の 場 合 最 急 降 下 法
多 次 元 の 場 合 も 、 (1)式 を 多 次 元 に 拡 張 す れ ば ま っ た く 同 様 に 考 え ら れ る 。
こ こ で 、 多 次 元 探 査 区 域 内 に お け る 1 次 元 の 勾 配 法 、 つ ま り 直 線 探 査 に つ い
て 少 し 詳 し く 考 え て み よ う 。傾 き の 方 向 に step を 刻 ん で 進 ん で 行 く わ け で あ る
か ら 、 こ の 一 次 元 に 進 ん で い く 関 数 を 新 た に
txftF
と 考 え る 。 例 え ば 、 前 項 の 関 数 を 例 に と れ ば 、 3 次 元 空 間 で 、
f,=
+
−+3
の様な形に置けば、
x
を
n
xxx L
1
なる、
n
次 元 の 座 標 を 表 す と し て 、
∇f = "
#
,
$
,……
&
'
は 勾 配 を 表 す 。 す る と 、 実 際 の 計 算 に お い て は 、
x
i
にはそれぞれのステップに
おいて定数が入るので、探査過程は
t
の関数として以下の如くに表すことが出
来 る 。