Zur militrischen Nutzung der Knstlichen Intelligenz: Ethische, - PowerPoint PPT Presentation

Zur militärischen Nutzung der Künstlichen Intelligenz: Ethische, völkerrechtliche und technische Probleme Prof. Dr. rer. nat. Wolfgang Koch dies academicus 2019 Universität Bonn 15. Mai 2019, 16.15 Uhr, Hörsaal I, Hauptgebäude Längst durchzieht Künstliche Intelligenz KI alle Bereiche der Technosphäre, die uns umgibt. Immer mehr gilt dies auch für die Verteidigung und Sicherheit. Welche Risiken ergeben sich daraus? Bleiben sie nicht nur technisch, sondern auch ethisch und völkerrechtlich beherrsch- bar? Nur eines der Beispiele ist Future Combat Air System FCAS, das europäische Luftkampfsystem der Zukunft, auf dessen Entwicklung sich Deutschland und Frankreich 2017 verständigt haben. Anders als bisherige Systeme ist FCAS weit mehr als nur ein Kampfflugzeug, sondern ein kom- plexes System der Systeme, das nur durch Algorithmen kontrollierbar sein wird. Wie kaum ein Großvorhaben zuvor wirft die Integration unbemannter Subsysteme in FCAS die Frage auf, wie ethische und völkerrechtliche Regeln technisch zu implementieren sind. Vor allem ist die Vorgabe zu erfüllen, das „ein Waffeneinsatz von unbemannten Luftfahrzeugen ausschließlich unter der Kontrolle des Menschen erfolgt“, wie die „Militärische Luftfahrstra- tegie“ der Bundesregierung festschreibt. Denn being killed by a machine is the ultimate human indignity . Zudem gilt der Koalitionsvertrag: „Autonome Waffensysteme, die der Verfügung des Menschen entzogen sind, lehnen wir ab“. Die Diskussion ethischer, rechtlicher und ingenieurwissenschaftlicher Probleme, die nicht nur die militärische Nutzung der KI aufwirft, muss in einen gesamtgesellschaftlichen Diskurs ein- gebettet sein, zu dem die Vorlesung beitragen möchte. Er wird uns noch lange begleiten. Sensor Data Fusion - Methods and Applications, 4th Lecture on April May 8, 2019 — slide 1

More Precise Formulation of the B AYES ian Approach Consider a set of measurements Z l = { z j l } m l j =1 of a single or a multiple target state x l at time instants t l , l = 1 , . . . , k and the time series: Z k = { Z k , m k , Z k − 1 , m k − 1 , . . . , Z 1 , m 1 } = { Z k , m k , Z k − 1 } ! Based on Z k , what can be learned about the object states x l at t 1 , . . . , t k , t k +1 , . . . , i.e. for the past, present, and future? p ( x l |Z k ) Evidently the answer is given be calculating the pdf ! Calculate p ( x |Z k 1 , . . . , Z k multiple sensor measurement fusion: N ) ! • communication lines • common coordinate system: sensor registration Sensor Data Fusion - Methods and Applications, 4th Lecture on April May 8, 2019 — slide 2

How to calculate the pdf p ( x l |Z k ) ? Consider at first the present time: l = k . an observation: p ( x k |Z k ) = p ( x k | Z k , m k , Z k − 1 ) Bayes’ rule: p ( Z k , m k | x k , Z k − 1 ) p ( x k |Z k − 1 ) = � d x k p ( Z k , m k | x k , Z k − 1 ) p ( x k |Z k − 1 ) Sensor Data Fusion - Methods and Applications, 4th Lecture on April May 8, 2019 — slide 3

How to calculate the pdf p ( x l |Z k ) ? Consider at first the present time: l = k . an observation: p ( x k |Z k ) = p ( x k | Z k , m k , Z k − 1 ) Bayes’ rule: p ( Z k , m k | x k , Z k − 1 ) p ( x k |Z k − 1 ) = � d x k p ( Z k , m k | x k , Z k − 1 ) p ( x k |Z k − 1 ) � �� � � �� � likelihood function prediction • p ( x k |Z k − 1 ) is a prediction of the target state at time t k based on all measurements in the past . • p ( Z k , m k | x k ) ∝ ℓ ( x k ; Z k , m k ) describes, what the current sensor output Z k , m k can say about the current target state x k and is called likelihood function . Sensor Data Fusion - Methods and Applications, 4th Lecture on April May 8, 2019 — slide 4

• p ( x k |Z k − 1 ) is a prediction for time t k based on all measurements in the past . p ( x k |Z k − 1 ) = � d x k − 1 p ( x k , x k − 1 |Z k − 1 ) marginal pdf = � d x k − 1 p ( x k | x k − 1 , Z k − 1 ) p ( x k − 1 |Z k − 1 ) notion of a conditional pdf � �� � � �� � object dynamics! idea: iteration! � � sometimes: p ( x k | x k − 1 ) = N x k ; F k | k − 1 (linear G AUSS -M ARKOV ) x k − 1 , D k | k − 1 � �� � � �� � deterministic random • p ( Z k , m k | x k ) ∝ ℓ ( x k ; Z k , m k ) describes, what the current sensor output Z k , m k can say about the current target state x k and is called likelihood function . � � sometimes: ℓ ( x k ; z k ) = N z k ; H k x k , R k (1 target, 1 measurement) ℓ ( x k ; z k ) � d x k − 1 p ( x k | x k − 1 ) p ( x k − 1 |Z k − 1 ) p ( x k |Z k ) = iteration formula: � d x k ℓ ( x k ; z k ) � d x k − 1 p ( x k | x k − 1 ) p ( x k − 1 |Z k − 1 ) Sensor Data Fusion - Methods and Applications, 4th Lecture on April May 8, 2019 — slide 5

A popular model for object evolutions Piecewise Constant White Acceleration Model Consider state vectors: x k = ( r ⊤ r ⊤ k ) ⊤ k , ˙ (position, velocity) For known x k − 1 and without external influences we have with ∆ T k = t k − t k − 1 : � � � � ∆ T k I I r k − 1 x k = =: F k | k − 1 x k − 1 , see blackboard! ˙ O I r k − 1 Assume during the interval ∆ T k a constant acceleration a k causing the state evolution: � 1 � 2 ∆ T 2 k I a k =: G k a k , linear transform! ∆ T k I � � a k ; o , Σ 2 Let a k be a Gaussian RV with pdf: p ( a k ) = N , we therefore have: k I � � G k a k ; o , Σ 2 k G k G ⊤ p ( G k a k ) = N . k Sensor Data Fusion - Methods and Applications, 4th Lecture on April May 8, 2019 — slide 6

Remember: Affine Transforms of G AUSS ian RVs. � � y = t + Tx � x , TPT ⊤ � N − − − − − − − → N x ; ¯ x , P y ; t + T ¯ � � � p ( y ) = d x p ( x , y ) = d x p ( y | x ) p ( x ) = d x δ ( y − t − Tx ) p ( x ) � � A possible representation: δ ( y − t − Tx ) = N y ; t + Tx , R with R → O ! � d x N ( y − t ; Tx , R ) N ( x ; ¯ for R → 0 p ( y ) = x , P ) � � x , TPT ⊤ + R = N y ; t + T ¯ for R → 0; product formula! Also true if dim( x ) � = dim( y ) ! Sensor Data Fusion - Methods and Applications, 4th Lecture on April May 8, 2019 — slide 7

� � p ( x k | x k − 1 ) = N x k ; F k | k − 1 x k − 1 , D k | k − 1 Therefore: with � � � 1 � 2 ∆ T 3 I 1 4 ∆ T 4 ∆ T k I k I I D k | k − 1 = Σ 2 F k | k − 1 = , 1 k 2 ∆ T 3 ∆ T 2 O I k I k I Sensor Data Fusion - Methods and Applications, 4th Lecture on April May 8, 2019 — slide 8

� � p ( x k | x k − 1 ) = N x k ; F k | k − 1 x k − 1 , D k | k − 1 Therefore: with � � � 1 � 1 4 ∆ T 4 2 ∆ T 3 ∆ T k I k I k I I D k | k − 1 = Σ 2 F k | k − 1 = , 1 k 2 ∆ T 3 ∆ T 2 O I k I k I Consider x k = ( r ⊤ r ⊤ r ⊤ k ) ⊤ k , ˙ k , ¨ Exercise 4.1 (position, velocity, acceleration) k G k G ⊤ Show that F k | k − 1 and D k | k − 1 = Σ 2 k (constant acceleration rates) are given by:     1 1 1 4 ∆ T 4 2 ∆ T 3 2 ∆ T 2 1 2 ∆ T 2 k I k I k I ∆ T k I I k I D k | k − 1 = Σ 2 1  , 2 ∆ T 3 ∆ T 2 F k | k − 1 = ∆ T k I ∆ T k I k I k I O I    k 1 2 ∆ T 2 O I I ∆ T k I k I I 1 with ∆ T k = t k − t k − 1 . 2 q max ≤ Σ k ≤ q max Reasonable choice: Sensor Data Fusion - Methods and Applications, 4th Lecture on April May 8, 2019 — slide 9

A more Insightful Look at a Data Fusion Algorithm k ) ⊤ , Z k = { z k , Z k − 1 } Kalman filter: x k = ( r ⊤ r ⊤ k , ˙ p ( x 0 ) = N � x 0 ; x 0 | 0 , P 0 | 0 � initiation: initial ignorance: P 0 | 0 ‘large’ , N � x k − 1 ; x k − 1 | k − 1 , P k − 1 | k − 1 � dynamics model N � x k ; x k | k − 1 , P k | k − 1 � prediction: − − − − − − − − − → F k | k − 1 , D k | k − 1 x k | k − 1 = F k | k − 1 x k − 1 | k − 1 ⊤ + D k | k − 1 P k | k − 1 = F k | k − 1 P k − 1 | k − 1 F k | k − 1 � � � � current measurement z k N − − − − − − − − − − − − − → N filtering: x k ; x k | k − 1 , P k | k − 1 x k ; x k | k , P k | k sensor model: H k , R k = x k | k − 1 + W k | k − 1 ν k | k − 1 , ν k | k − 1 = z k − H k x k | k − 1 x k | k S k | k − 1 = H k P k | k − 1 H k ⊤ + R k P k | k − 1 − W k | k − 1 S k | k − 1 W k | k − 1 ⊤ , = P k | k W k | k − 1 = P k | k − 1 H k ⊤ S k | k − 1 − 1 ‘K ALMAN gain matrix’ Sensor Data Fusion - Methods and Applications, 4th Lecture on April May 8, 2019 — slide 10