光学設計ノーツ ５２（ver.1.0）
最適化とは、ニュートン－ラフソン法の応用について
光学設計における最適化について前回から触れさせて戴いているが、今回は
勾配法より効率の良い、ニュートン－ラフソン（Newton-Raphson）法(あるいは
単にニュートン法とも呼ばれる)について解説させていただきたい。関数化され
た対象を扱う場合の最適化手法としては大変重要なものであるが、この関数化の
部分が、この手法をレンズ設計に持ち込むためのネックとなる。しかし、後述さ
せていただくことになる減衰最小二乗法などの構造もそこから理解しやすくな
る。
１． １次元の場合のニュートン－ラフソン法の応用
関数 f(x)が、１回微分 f’(x)のみならず２回微分 f’’(x)が可能なものである
場合、前回の勾配法よりも効率の良い最適化手法としてニュートン－ラフソン法
を応用したものがある。
点x0近傍の点
x
0＋△
x
では、以下如くにのテーラー展開が可能である。
3
0
2
0000 !3
1
2
1xxfxxfxxfxfxxf (1)
△
x
は微小量であるので,(1)式の△
x
の 3 次以上の項を無視して(1)式の 2 次ま
での項をとった関数の最大値を考えるとして、(1)式を△
x
で微分して、その値
が０となる f(
x
0+△
x
)の極値を探すと、
0
00
xxfxf (2)
の解、
0
0
xf
xf
x
(3)
を得ればよい。従って
x
座標としては
0
0
0xf
xf
xx
(4)
として、新たな地点が得られる。この座標を新たな
x
0として(3)式をまた、計算
し、新たな
ｘ
を得る。これを繰り返していくと、
x
0と
x
の間に大きな差がなくな
る。そこが収束点となる。
２． ｎ次元の場合ニュートン－ラフソン法の応用
1 次元から n 次元になっても基本的な考え方は同じであるが、手法としては
当然、複雑になるので以下に説明させていただく。今度は初期点を、
n
xxx 00201 ,,
として、そして、その近傍の点、
nn xxxxxx 0202101 ,,
を考えるときに、(1)式と同様に、
nn xxxxxxf 0202101 ,,
i
n
ii
nx
x
xxf
f
1
001
0
,
0
2
2
2
21
21
2
2
1
2
1
2
2
1fx
x
xx
xx
x
xn
n
(5)
上式の右辺第 3 項は以下の様に書ける。
0
2
2
2
1
1
2
1fx
x
x
x
x
xn
n
ここでは、
n
xxxff 002010 ,, （６）
と表した。従って、△
x
iで偏微分すれば(5)式の△
x
iがかかっていない項は消えて、
0
2
2
2
2
1
1
2
022
2
1fxx
xx
x
x
xx
xxx
fni
ni
i
i
i
ii
0
2
2
2
1
1
2
0fx
xx
x
x
x
xxx
fn
ni
i
i
ii
（７）
従って、それぞれの i について、
0
1
0
2
0
k
n
kkii
x
xx
f
x
f （８）
の時、極値をとる。
ところで、以下の様なヘッセ行列（Hessian matrix）と呼ばれるものがある。
（９）
これを利用して、(5)式の極値を得るための
x
iについての総ての解は、行列を用
いて、
0Δ
0
xHf0
0
fHx 1
0
Δ （10）
と表現できる。従って、新しい
x
の組は
00 fHxx 1
0 （11）
として、繰り返し計算により得られる。
因みに、
n
x
f
x
f
0
1
0
0
f （12）
n
x
x
1
x （13
であり、
)( 00 fH
H
である（(9)式参照）。(11)式を解くためには、右辺における逆行列計算が必要
になるが、
0
fxH
Δ
0 （14）
として、連立方程式を解くと考えても良い。
ニュートン-ラフソン法は収束も非常に早く、原理的にも理解しやすく有用
な手法であるが、エンジニアリング的な分野では、繰り返し実行されなければな
らない、ヘッセ行列の計算、つまり 2 次微分の計算に困難が発生する。この困難
を克服するために、ヘッセ行列の代わりの 2 次微分を必要としない適当な行列 B
を用いて、(14)式を
0
fxB
Δ
0 （15）
として、解を得ようというのが、準ニュートン法である。ここで、表記を、繰り
返し計算の k 回目の値と、k+1 回目の値というように、繰り返し回数を用いたも
のに切り替えて、
kkk xxx
11
Δ （16）
kkk ffy
1 （17）
とした時、代替え、近似行列 Bは、
1
11
1
1
)(
)(
)(x
k
T
k
T
kk
kk
T
k
k
T
kkk
kk Δxy
yy
ΔxBΔx
BΔxΔB
BB （18）
として得られる（DFP（Davidson-Fletcher-Powell）法）。右肩の T は転置ベクト
ルを表す。また、これとは別に、
k
T
k
T
kkkk
T
kk
k
T
k
T
kk
k
T
k
kk
T
k
kk yΔx
yΔxBBΔxy
Δxy
yy
yΔx
ΔxBΔx
BB )(
)()(
)(
)(1
1
1
1
1
11
1
（19）
とする手法もある（BFGS (Broyden-Fletcher-Goldfarb-Shanno)法）。
３．参考文献
1） 大野豊、磯田和男監修：数値計算ハンドブック（オーム社、東京、1996）
2） 金谷健一：これなら分かる最適化数学（共立出版、東京、2008）
3） 今野浩、山下浩：非線形計画法（日科技連、東京、1978）
4） 牛山善太、草川徹：シミュレーション光学（東海大学出版会、東京、2003）
