Simulated Annealing Simulated annealing is a probabilistic search - PDF document

Simulated Annealing Simulated Annealing • Simulated annealing is a probabilistic search algorithm. • The terminology is borrowed from the physics literature. • For the simulated annealing algorithm we need – a scoring function, – a move set, – a selection probability, – an acceptance function. 1

Simulated Annealing The Traveling Salesman Problem • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • S • • • • • • • • • • Which is the shortest path that connects all cities? 2

Simulated Annealing The Traveling Salesman Problem (cont.) · · · 43 44 35 36 37 47 46 56 55 45 34 24 14 13 · · · • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • · · · 43 44 45 55 56 46 47 37 36 35 34 24 14 13 · · · ↑ ↑ • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • 3

Simulated Annealing Properties of our Simulated Annealing run • We use the acceptance function α ( ǫ old , ǫ new , t ) = min { 1 , exp ([ ǫ old − ǫ new ] /t ) } • We run homogeneous Markov chains at constant temperatures. • We constructed the move set to be irreducible and aperiodic, therefore each homogeneous Markov chain has a limiting distribution π t ( S ). • The limit (as t → 0) of those distributions assigns probability 1 to the optimal scoring states. • With limited resources, we cannot guarantee to find an optimal scoring state. 4

Simulated Annealing The Traveling Salesman Problem (cont.) •••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••• 500 400 score •••• 300 ••• ••••••••••••••••••••••••••••••••••••••••••••••••••••• 200 100 3 2 1 0 -1 -2 log10(temperature) 5

Simulated Annealing The Traveling Salesman Problem (cont.) • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • The initial path. • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • The tour after 60 steps. • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • The tour after 90 steps. • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • The tour after 125 steps. • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • 6

Simulated Annealing The Traveling Salesman Problem (cont.) 90 85 80 75 70 65 60 55 1 0.15 0.10 0.05 0.0 100 200 300 400 500 600 score Anything noteworthy in the score distributions? 7

Simulated Annealing The Traveling Salesman Problem (cont.) • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • 500 • • • • • • • • • • • • • • • • • • • 400 • mean [scores] • • • • • • • 300 • • • • • • • 200 • • • • • • • • • • • • • • • • • 100 • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • 20 • • deviation [scores] • • • 15 • • • • • • 10 • • • • • • • • 5 • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • 0 3 2 1 0 -1 -2 log10(temperature) The mean and the standard deviation of the scores. 8

Simulated Annealing The Traveling Salesman Problem (cont.) • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • 500 • • • • • • • • • • • • • • • • • • • • 400 • mean [scores] • • • • • • • 300 • • • • • • • 200 • • • • • • • • • • • • • • • • • • 100 • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • 20 • • deviation [scores] • • • 15 • • • • • • 10 • • • • • • • • 5 • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • 0 3 2 1 0 -1 -2 log10(temperature) Normal scores with mean µ ( t ) = µ ∞ − σ 2 ∞ and t standard deviation σ ( t ) = σ ∞ . 9