Non-zero sum games and control February 3, 2015, - PowerPoint PPT Presentation

Correct-­‑by-­‑construc-on ¡control ¡synthesis ¡ for ¡highly ¡dynamics ¡systems: ¡an ¡applica-on ¡ in ¡automo-ve ¡safety ¡systems ¡ Necmiye ¡Ozay ¡ EECS, ¡University ¡of ¡Michigan ¡ ¡ Joint ¡work ¡with: ¡ ¡ Pe?er ¡Nilsson, ¡Jessy ¡Grizzle, ¡Yuxiao ¡Chen, ¡Huei ¡Peng ¡(UM) ¡ Aaron ¡Ames ¡(TAMU), ¡Paulo ¡Tabuada ¡(UCLA), ¡Jun ¡Liu ¡(Sheffield) ¡ Oscar ¡Mickelin ¡(KTH), ¡Richard ¡Murray ¡(Caltech) ¡ ¡ ✗ ¡ Non-­‑zero ¡sum ¡games ¡and ¡ control ¡ February ¡3, ¡2015, ¡Dagstuhl ¡ Research ¡partly ¡ ¡ 1 ¡ funded ¡by ¡ ¡

Mo-va-on ¡ ¡Excerpt ¡From ¡“Dad’s ¡Sixth ¡Sense” ¡(Hyundai) ¡[2014 ¡Super ¡Bowl] ¡ Third ¡Highest ¡Scoring ¡Ad ¡of ¡all ¡Time ¡According ¡to ¡Ace ¡Metrix ¡

Mo-va-on ¡ • Crashes ¡in ¡which ¡at ¡least ¡one ¡driver ¡was ¡ distracted: ¡ • 3,267 ¡fatali[es ¡( 2010 ) ¡ • 735,000 ¡nonfatal ¡injuries ¡ ¡ • 3.3 ¡million ¡damaged ¡vehicles ¡ • ¡ Costs ¡$45.8 ¡billion ¡in ¡2010 ¡ • roughly ¡17 ¡percent ¡of ¡all ¡economic ¡costs ¡ from ¡motor ¡vehicle ¡crashes. ¡ ¡ 3 ¡

Mo-va-on ¡ • Crashes ¡in ¡which ¡at ¡least ¡one ¡driver ¡was ¡ distracted: ¡ • 3,267 ¡fatali[es ¡( 2010 ) ¡ • 735,000 ¡nonfatal ¡injuries ¡ ¡ Automa-on ¡can ¡help ¡with: ¡ • 3.3 ¡million ¡damaged ¡vehicles ¡ -­‑ ¡safety, ¡aging ¡society, ¡energy/conges-on ¡ • ¡ Costs ¡$45.8 ¡billion ¡in ¡2010 ¡ • roughly ¡17 ¡percent ¡of ¡all ¡economic ¡costs ¡ from ¡motor ¡vehicle ¡crashes. ¡ ¡ 4 ¡

Trends ¡in ¡Automa-on ¡ NHTSA ¡“Preliminary ¡Statement ¡of ¡Policy ¡ Concerning ¡Automated ¡Vehicles” ¡defines ¡levels ¡ of ¡automa[on: ¡ • Level ¡0 ¡-­‑ ¡no ¡automa[on ¡ • Level ¡1 ¡-­‑ ¡Func[on-­‑specific ¡automa[on ¡ • Level ¡2 ¡-­‑ ¡Combined ¡func[on ¡automa[on ¡ • Level ¡3 ¡-­‑ ¡Limited ¡self-­‑driving ¡automa[on ¡ • Level ¡4 ¡-­‑ ¡Full ¡self-­‑driving ¡automa[on ¡ ¡ 5 ¡

Trends ¡in ¡Automa-on ¡ NHTSA ¡“Preliminary ¡Statement ¡of ¡Policy ¡ Concerning ¡Automated ¡Vehicles” ¡defines ¡levels ¡ of ¡automa[on: ¡ All ¡new ¡vehicles ¡in ¡the ¡ ¡ US ¡at ¡“Level ¡1” ¡with ¡elec-­‑ ¡ • Level ¡0 ¡-­‑ ¡no ¡automa[on ¡ tronic ¡stability ¡control ¡ ¡since ¡2012. ¡ • Level ¡1 ¡-­‑ ¡Func-on-­‑specific ¡automa-on ¡ • Level ¡2 ¡-­‑ ¡Combined ¡func-on ¡automa-on ¡ • Level ¡3 ¡-­‑ ¡Limited ¡self-­‑driving ¡automa[on ¡ • Level ¡4 ¡-­‑ ¡Full ¡self-­‑driving ¡automa[on ¡ Google ¡ 6 ¡

Challenges ¡ • Many ¡vehicle ¡ac[ve ¡safety ¡systems ¡are ¡being ¡ conceived ¡and ¡deployed ¡ – extreme ¡increase ¡in ¡sobware ¡complexity ¡ • Combining ¡two ¡safety ¡systems ¡can ¡lead ¡to ¡ unexpected ¡interac[ons ¡ – hard ¡to ¡test ¡and ¡cer[fy ¡ • Many ¡complaints ¡(e.g., ¡unintended ¡ accelera[on) ¡and ¡recalls ¡ – cost ¡to ¡economy ¡ Can ¡we ¡guarantee ¡correctness ¡by ¡design ¡using ¡ ¡ formal ¡methods? ¡ 7 ¡

Methodology ¡ • Formalizing ¡the ¡problem: ¡ – From ¡text ¡to ¡formal ¡specifica[ons ¡ – Dynamical ¡models ¡ • Synthesis ¡of ¡controllers ¡ • Implementa[on ¡ 8 ¡

Formalizing ¡the ¡problem ¡ x = f ( x, u, δ ) ˙ Σ : y = g ( x, u, δ ) x (0) ∈ X 0 u : control inputs δ : disturbance y : outputs available to control Proposi-ons: ¡ Π . = { π init , π 1 , . . . , π n p } h : X → 2 Π E 9 ¡

Formalizing ¡the ¡problem ¡ x = f ( x, u, δ ) ˙ Σ : y = g ( x, u, δ ) x (0) ∈ X 0 u : control inputs δ : disturbance y : outputs available to control Proposi-ons: ¡ Π . = { π init , π 1 , . . . , π n p } h : X → 2 Π Environment: ¡ ¡ e ( t ) ∈ { e 1 , e 2 , . . . , e N } ; ∀ t Con[nuous-­‑[me ¡ discrete-­‑valued ¡ e 2 e 1 signal ¡( with ¡finite ¡ E variability ) ¡ 10 ¡ e 3

Formalizing ¡the ¡problem ¡ Problem ¡statement: ¡ x = f ( x, u, δ ) ˙ Given ¡a ¡dynamical ¡system ¡ ¡ ¡ ¡ ¡ ¡, ¡a ¡set ¡of ¡ Σ Σ : y = g ( x, u, δ ) ( Π , h ) proposi[ons ¡over ¡its ¡state ¡space ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡, ¡ an ¡environment ¡descrip[on ¡ ¡ ¡ ¡ ¡ ¡ ¡and ¡ E x (0) ∈ X 0 some ¡LTL ¡(without ¡next) ¡specifica[on ¡ ¡ ¡ ¡, ¡ ϕ design ¡a ¡controller ¡ u ( y ( t ) , e ( t )) u : control inputs such ¡that ¡the ¡trajectories ¡of ¡the ¡system ¡ δ : disturbance sa[sfies ¡the ¡spec ¡for ¡all ¡ini[al ¡condi[ons ¡ y : outputs available to control Proposi-ons: ¡ x(0) ¡in ¡a ¡given ¡set, ¡for ¡all ¡disturbances ¡d, ¡ Π . = { π init , π 1 , . . . , π n p } and ¡for ¡all ¡environment ¡behaviors. ¡ ¡ h : X → 2 Π Environment: ¡ ¡ ¡ e ( t ) ∈ { e 1 , e 2 , . . . , e N } ; ∀ t Con[nuous-­‑[me ¡ discrete-­‑valued ¡ e 2 e 1 signal ¡( with ¡finite ¡ E variability ) ¡ 11 ¡ e 3

Tools: ¡reac-ve ¡synthesis ¡and ¡control ¡ THREE ¡DIFFERENT ¡APPROACHES ¡ x = f ( x, u, δ ) ˙ 1. Abstrac-on-­‑based ¡ y = g ( x, u, δ ) 2. Fixed ¡point ¡opera-ons ¡on ¡ x (0) ∈ X 0 con-nuous ¡domain ¡ 3. Incremental ¡synergis-c ¡ approach ¡ 12 ¡

Tools: ¡reac-ve ¡synthesis ¡and ¡control ¡ 1. Abstrac-on-­‑based ¡ – Proposi[on ¡preserving ¡par[[ons ¡of ¡ x = f ( x, u, δ ) ˙ state-­‑space, ¡(approx.) ¡(alterna[ng) ¡ y = g ( x, u, δ ) simula[on ¡rela[ons, ¡input ¡ abstrac[ons ¡ x (0) ∈ X 0 – Encode ¡a?ractors, ¡invariant ¡sets, ¡ equilibria ¡of ¡the ¡dynamics ¡as ¡jus-ce ¡ or ¡ liveness ¡assump[ons: ¡ 1. ¡ ϕ prog → ϕ – Robust ¡control ¡at ¡cont. ¡level ¡to ¡ prevent ¡state ¡explosion ¡ – Solve ¡reac[ve ¡synthesis ¡on ¡disc. ¡level ¡ u 1 u 2 2. Fixed ¡point ¡opera-ons ¡on ¡ u 2 , u 1 u 1 con-nuous ¡domain ¡ q 0 q 1 q 2 3. Incremental ¡synergis-c ¡ u 1 approach ¡ u 2 13 ¡

Tools: ¡reac-ve ¡synthesis ¡and ¡control ¡ 1. Abstrac-on-­‑based ¡ x = f ( x, u, δ ) ˙ 2. Fixed ¡point ¡opera-ons ¡on ¡ con-nuous ¡domain ¡ y = g ( x, u, δ ) – Understand ¡the ¡structure ¡of ¡the ¡ x (0) ∈ X 0 fixed ¡point ¡operator ¡ – Discre[ze ¡[me, ¡implement ¡the ¡ fixed ¡point ¡on ¡cont. ¡level ¡ 2. ¡ – Limited ¡to ¡piecewise ¡affine ¡systems ¡ and ¡subsets ¡of ¡LTL ¡ u 1 u 2 – Termina[on ¡only ¡under ¡certain ¡ condi[ons ¡ u 2 , u 1 u 1 q 0 q 1 q 2 3. Incremental ¡synergis-c ¡ u 1 approach ¡ u 2 14 ¡

Tools: ¡reac-ve ¡synthesis ¡and ¡control ¡ 1. Abstrac-on-­‑based ¡ x = f ( x, u, δ ) ˙ 2. Fixed ¡point ¡opera-ons ¡on ¡ y = g ( x, u, δ ) con-nuous ¡domain ¡ x (0) ∈ X 0 3. Incremental ¡synergis-c ¡ approach ¡ – a. ¡Start ¡with ¡a ¡coarse ¡abstrac[on ¡ 3. ¡ ¡ ¡ ¡ ¡b. ¡Solve ¡the ¡game ¡at ¡disc. ¡level ¡ ¡ ¡ ¡ ¡c. ¡Map ¡the ¡winning ¡and ¡for-­‑sure ¡ u 1 u 2 losing ¡sets ¡to ¡cont. ¡level ¡to ¡decide ¡ u 2 , u 1 where ¡to ¡further ¡par[[on ¡ u 1 q 0 q 1 q 2 ¡ ¡ ¡ ¡d. ¡Redefine ¡“goals” ¡and ¡go ¡to ¡b. ¡ u 1 u 2 – ¡Subsets ¡of ¡LTL ¡(extensible) ¡ 15 ¡

Methodology ¡ • Formalizing ¡the ¡problem: ¡ – From ¡text ¡to ¡formal ¡specifica[ons ¡ – Dynamical ¡models ¡ • Synthesis ¡of ¡controllers ¡ • Implementa[on ¡– ¡all ¡the ¡three ¡approaches ¡are ¡ inherently ¡correct ¡and ¡implementable ¡ • Examples: ¡Adap[ve ¡Cruise ¡Control, ¡Lane ¡ Keeping ¡ 16 ¡

Adap-ve ¡Cruise ¡Control ¡(ACC) ¡ Example ¡ • Two ¡modes ¡of ¡opera[on ¡ – If ¡there ¡is ¡no ¡lead ¡car ¡in ¡front ¡(M1), ¡regulate ¡ velocity ¡(v) ¡ – Otherwise ¡(M2), ¡regulate ¡headway ¡(h), ¡distance ¡to ¡ the ¡lead ¡car ¡ ¡ + ¡in ¡each ¡mode ¡hard ¡safety ¡constraints: ¡accelera[on ¡ limits, ¡minimum ¡allowed ¡“[me ¡headway” ¡(h/v) ¡ ¡ • Mode ¡is ¡determined ¡by ¡a ¡sensor ¡(radar) ¡ reading: ¡is ¡there ¡a ¡car ¡within ¡the ¡radar ¡range? ¡ Nilsson ¡et ¡al ¡CDC ¡14 ¡ 17 ¡