人工知能・機械学習・自然言語処理周辺の技術情報

2018-07-05

動的計画法がわかる!ダイクストラ法の実装(Python)や問題への適用手順

執筆:金子冴
校閲:内野良一

今回は,Viterbiアルゴリズムの解説(【技術解説】HMMに基づいたViterbiアルゴリズムによる解推定手法(例題つき))をした際に登場した動的計画法について,その解説と,簡単な例を用いたプログラム(Python)での実装例を紹介する.また,問題文から動的計画法を用いて問題を解決する際のプロセス(漸化式の作成方法等)についても触れながら,具体的な応用方法について確認する.まずは,動的計画法とはどういうものなのか,概要を確認しよう.

目次

動的計画法(DP;Dynamic Programming)とは
例題:最短経路問題をダイクストラ法で解く(Python実装)
動的計画法を用いた問題解決手順
参考

動的計画法(DP;Dynamic Programming)とは

動的計画法の概要

動的計画法とはそのままでは解けないような大きな問題を複数の小さな問題(部分問題と呼ぶ)に分解し,部分問題を解くことで元の大きな問題を解く手法の総称である.動的計画法を用いることで多項式時間で解くことができない一部の問題について,類似多項式時間で最適解を求めることができる(後ほど解説).問題のある手法が動的計画法であるかどうかを判断する際には,分割統治法メモ化の2つを満たしているかどうかが条件となる.はじめに,多項式時間分割統治法メモ化について理解しよう.

多項式時間,多項式時間アルゴリズムとは

多項式時間とは多項式で表される計算時間を指し,多項式時間アルゴリズムとは入力サイズ(長さや個数)をnとした時,計算時間(ステップ数)の上界がnの多項式時間で表現できるアルゴリズムを指す.例えば,九九を計算するアルゴリズムの計算時間は9×9で計算できる.これをn×nに拡張した場合の計算時間のオーダーは”O”記法を用いてO(n2)と表される.これは,この計算時間の上界がn2で表現できることを指しているため,n×nの掛け算を計算するアルゴリズムは多項式時間アルゴリズムであるといえる.

しかし,多項式時間で解けない問題も存在する.例えば,今回の解説でも取り上げる最短経路問題は多項式時間で解くことはできない.図のような重み付き経路について,STARTからGOALに最短コストで到着する経路を求める問題を考えてみよう.

最短経路を求めるためには全経路の組み合わせを考慮した上でSTARTからGOALまでのコストを計算し,コストが最小の経路を選択する必要がある.このような問題では入力サイズが増えていく毎に経路パターンが指数的に増加していくため,全経路のコストを計算する手法は現実的ではない.しかし,動的計画法を使用することで,最短経路問題のような多項式時間で解けない問題の最適解を解ける場合がある.その計算時に使用するのが分割統治法メモ化という2つの手法である.

分割統治法とは

分割統治法とは対象の問題を部分問題に分割する手法を指す.では,先ほど挙げた最短経路問題を部分問題に分解してみよう.今回の例では,まずSTARTからENDの全経路を考えるのではなく,ある時点から進むことができる経路のみを考えるというアプローチをとることとする.すると,初めの経路はSTARTからa, b, c, dの4本のみ考えればよいことになる.最短経路問題を解くことを考えると,ここではSTARTから最も低いコストで遷移できるSTART→bを選択しよう.

次は,bから進むことができる経路のみを考え,ここでも最もコストが低い経路を選択する.今回の例ではb→gを選択することになる.

このように全経路を考える問題をある時点から進むことができる経路のみを考える問題(部分問題)に分割するような手法を分割統治法と呼ぶ.

メモ化とは

メモ化とは計算結果をメモリ上などに保持し,あとから再利用する手法を指す.メモ化の例として,フィボナッチ数列を計算する問題を考えてみよう.フィボナッチ数列についての説明は割愛する.フィボナッチ数列をPythonで計算する場合,通常は以下のようなコードになる.

CulcFibonacci.py

しかし,このコードではn=10を計算するために,再度n=9~1までの計算をする必要があり,計算時間はO(αn)(α:実数)となるため,nが大きくなるにつれて計算量が指数的に増加していく.

以下の図はフィボナッチ数列の計算を表している.図から,f(10)以外のフィボナッチ数は2回以上計算されることがわかるだろう.

このコードをメモ化によって最適化する際には,複数回計算される点が重要となる.メモ化をするためにメモ化テーブルを作成し,1度計算した値はメモ化テーブルに保持してみよう.

そして,再度計算に使用する際は,再計算するのではなく,メモ化テーブルから値を取得する.これにより,同じ計算の複数回実行を防ぐことができる.

以下のソースコードは,前述のフィボナッチ数列に対してメモ化を適用したソースコードである.

CulcFibonacciMemo.py

メモ化の最大のメリットは計算量が減ることで計算時間を削減できることである.このソースコードでは一度計算したフィボナッチ数をリストに格納しておき,あとで再利用することで計算量を減らす試みがされている.実際に著者のPCで40番目のフィボナッチ数を計算した際の計算時間を比較すると,前者のメモ化なしプログラムでは101.9秒だったのに対して,後者のメモ化ありプログラムでは0.2秒と大幅に計算時間が短縮されていた.動的計画法では部分問題を再帰的に計算するため,このメモ化による最適化が大きな意味を持つ.

それでは,動的計画法の概要についてはここまでとし,次は最短経路問題を動的計画法の一種であるダイクストラ法で解いてみよう.

例題:最短経路問題をダイクストラ法で解く(Python実装)

ダイクストラ法は最短経路問題を効率よく解く手法である.今回は『分割統治法とは』の項で使用したものより簡単な以下のグラフを用いて計算手順を確認しよう.

ダイクストラ法の計算手順

まずSTARTから伸びるエッジでつながるノード(a, b, c)についてSTARTからの最短経路を求める.今回の例ではSTARTから伸びるエッジでつながるノードのうち,ノードbが最小コスト3で遷移可能であることがわかる.また,STARTから別のノードを経由してbにたどり着いても,負のコストがない限り,他ノード経由の経路はSTART→bの経路よりコストが高くなることがわかるだろう.そのためSTARTからノードbへの最短経路はSTART→bと確定できる.

次に先ほど確定したノードbからたどり着けるノードa, c, GOALについて最小コストを求める.ここでノードbにたどり着くまでのコストは3で確定していることに注意してほしい.また,ここで注目すべきはノードaとノードcには,ノードb以外にSTARTからもエッジが伸びていることである.そのためSTARTから各ノードへの最短経路はSTARTからの最短距離とノードbからの最短経路のうち,コストが低い経路となる.これらを踏まえて計算すると,先ほど確定したノードbから各ノード(a, c, GOAL)へ遷移する最小コストはノードaが4,ノードcが5,ノードGOALが8となる.ここから,先ほどと同様に最小コストで遷移できるノードを確定するとノードaが確定される.

手順に従い,次に先ほど確定したノードaについて遷移可能なノードから最小コストのノードを選ぶ.しかし,ノードaから遷移可能なノードSTART, bはどちらもすでに最小コストが確定している.そのため,先ほどノードaの次に小さいコストで遷移可能であったノードcを確定としノードcからたどり着けるノード(GOALのみ)について最小コストを求める.お分かりのとおり,STARTからノードcへの最小コストは5と確定しているため,ノードGOALへ遷移するコストは6となり,ノードGOALが確定する.

ノードGOALが確定した時点で,ダイクストラ法の計算は終了である.最後にノードSTARTからノードGOALへの最短経路(最小コストで遷移可能な経路)を考えよう.これまでの計算でノードGOALにたどり着く経路は「START→b→GOAL(コスト8)」と「START→b→c→GOAL(コスト6)」の2通りがあることがわかっている.もうお分かりのとおりノードSTARTからノードGOALへの最短経路は「START→b→c→GOAL(コスト6)」となる.

上記の手順のプログラム(python)実装の一例を以下に記載する.

edge_inf.csv

culc_dijkstra.py

最短経路問題を解く手法の1つであるダイクストラ法については理解いただけただろうか.しかし,ダイクストラ法のように確立した手法で解ける問題以外に対しては,どのように動的計画法を当てはめるべきなのだろうか.それでは,実際にある問題を動的計画法で解く際の解決手順について考えていこう.

動的計画法を用いた問題解決手順

それでは初めにある問題が出されたとき,動的計画法を当てはめ,解決するまでの手順について解説する.

動的計画法を用いる場合の解決手順

①全探索が可能かどうかを確認

まず,ある問題が与えられた場合にその問題が全探索で解けるスケールかどうかを考える.一般的に,全探索することで最適解が求まることは先ほどまでの解説で理解いただけただろう.また同時に,入力サイズが大きくなった場合に全探索の計算時間が膨大になることについても確認済みである.動的計画法を当てはめる際には初めに全探索が可能かを確認し,全探索が可能であれば動的計画法を用いないことが賢明である.なぜならば,動的計画法で最適解が求められるとは限らないからである.全探索が可能であれば,全探索で正しい最適解を求めることが望まれる.なお,全探索は可能だが短時間で計算したい場合やメモリ使用量を抑えたい場合などは,動的計画法を使用することも選択肢に含めると良い.
ここでは,全探索が実用的に不可能であり,動的計画法で最適解を求めることを考え,次の手順に進もう.

②部分問題に分割可能かどうかを確認

全探索が可能かを確認した後,今度は部分問題に分割可能かどうかを確認する.これは,動的計画法と呼ばれる条件の1つである分割統治法が適用可能かを考えることと同義である.例えば,先ほど例に挙げていた最短経路問題ではSTARTからGOALまでの経路を求める問題をノード毎の最短経路を求める部分問題に分割した.部分問題に分割することで,そのままでは解けない大きな問題を解くことができるようになる.ただし部分問題に分割した結果,大きな問題が解けることが最低条件である.

③求める状態(パラメータ)を列挙

ここからは具体例なしでの理解は難しいため,最短経路問題を例に説明していく.部分問題に分割した後は,求めたい値を計算するにあたって必要となる状態(パラメータ)を列挙する.最短経路問題でいうところのSTARTから各ノードへの最小コストどのノードから遷移してきたかが状態(パラメータ)にあたる.まとめると,最短経路問題の場合の求める対象はSTARTからGOALへの最短経路,求める状態はSTARTから各ノードへの最小コストと遷移元ノードとなる.

④メモ化のための配列を用意

分割統治法の導入と状態の列挙ができたら,動的計画法のもう1つの条件であるメモ化で使用する配列を用意する.配列の次元数は状態の個数と同じになるため,最短経路問題の場合は1次元(各ノードでのSTARTからの最短距離)となるため,例えばメモ化配列をdpとするとdp[ノード]=最小コストという形で管理することになる.このようにメモ化配列を用意することで,何度もSTARTからの最小コストを計算する必要がなくなり,計算量を削減することができる.

⑤漸化式を作成

次は,メモ化配列から漸化式を作成する.漸化式とはあるステップから次のステップを計算する際に使用する式である.漸化式の例として,フィボナッチ数列を考えてみよう.フィボナッチ数列は,直前とその前の数字を足した数列であるが,それを数式で表すと以下のようになる.

$$\begin{eqnarray}\left\{\begin{array}{l} F(x)=F(x-1)+F(x-2)\\ F(1)=1, F(0)=0 \end{array} \right. \end{eqnarray}$$

この式のように,ある項がそれ以前の項から計算できる式を漸化式と呼ぶ.動的計画法ではこのような漸化式を作成し,再帰的に計算しながら部分問題を解くことで最終的に大きな問題を解く.漸化式が完成したらあとはプログラムに落とし込むだけだが部分問題を再帰的に解き,その過程はメモ化配列に格納することを意識すれば特に問題なくコーディングできるだろう.

以上で,動的計画法の解説は終わる.今回学習した内容を実践したい場合は,AtCoderで公開されている過去問などに取り組むと良いだろう.

参考

【Webサイト】
動的計画法 – wikipedia
多項式時間 – wikipedia
最短経路問題
アルゴリズム入門(3)(分割統治法)
メモ化
情報科学シケスラ Fibonacci
フィボナッチ数の計算と計算量
漸化式を用いた動的計画法の関数の作り方
典型的なDP(動的計画法)のパターンを整理Part1~ナップサックDP編~