Applications of Variational Bayes & DAGs in Neuroimaging - PowerPoint PPT Presentation

Applications ¡of ¡Variational ¡Bayes ¡& ¡DAGs ¡ in ¡Neuroimaging ¡ ECE ¡6504: ¡ ¡ Advanced ¡Topics ¡in ¡Machine ¡Learning ¡ ¡ ¡ ¡ Rosalyn ¡Moran ¡ rosalynj@vtc.vt.edu ¡

ì ¡ Overview ¡ 1. Dynamics ¡in ¡Dynamic ¡Causal ¡Modeling ¡ 2. Graphical ¡Model ¡ -­‑ VariaFonal ¡Inversion ¡ -­‑ ¡StaFsFcal ¡Inference ¡from ¡VB ¡ 3. Examples ¡ ¡ -­‑ ¡ANenFon ¡in ¡the ¡Human ¡Brain ¡ -­‑ ¡Synesthesia ¡

Dynamic ¡Causal ¡Modelling ¡ Time ¡Series ¡ DCM ¡ is ¡not ¡ intended ¡for ¡‘modelling’ ¡ ¡ ¡ DCM ¡ is ¡ an ¡analysis ¡framework ¡for ¡empirical ¡data ¡ ¡ DCM ¡ uses ¡a ¡Fmes ¡series ¡to ¡test ¡mechanisFc ¡hypotheses ¡ ¡ Hypotheses ¡ are ¡constrained ¡ by ¡the ¡underlying ¡dynamic ¡ generaFve ¡(biological) ¡model ¡ dx dt Friston ¡et ¡al ¡2003; ¡Stephan ¡et ¡al ¡2008 ¡ Kiebel ¡et ¡al, ¡2006; ¡Garrido ¡et ¡al, ¡2007 ¡ David ¡et ¡al, ¡2006; ¡Moran ¡et ¡al, ¡2007 ¡ ¡

Dynamic ¡Causal ¡Modelling ¡(DCM) ¡ Hemodynamic
 Electromagnetic forward model:
 forward model:
 neural activity → EEG
 neural activity → BOLD MEG LFP Neural state equation: dx = F ( x , u , ) θ fMRI EEG/MEG dt simple neuronal model complicated neuronal model complicated forward model simple forward model

DCM ¡for ¡fMRI ¡  x = ( A + uB ) x + Cu y ¡ y ¡ y = g ( x , H ) + ε ε ~ N (0, σ ) H{2} ¡ x 2 ¡ H{1} ¡ A(2,2) ¡ ¡ ¡ ¡ A(2,1) ¡ ¡ ¡ ¡ A(1,2) ¡ ¡ ¡ ¡ x 1 ¡ B(1,2) ¡ ¡ ¡ ¡ C(1) ¡ u2 ¡ u1 ¡ A(1,1) ¡ ¡ ¡ ¡

Neuronal ¡model ¡ Aim: ¡model ¡temporal ¡evoluFon ¡of ¡a ¡set ¡of ¡neuronal ¡states ¡ x t ¡ System ¡states ¡ x t ¡ State ¡ changes ¡ are ¡dependent ¡ on: ¡ – the ¡current ¡state ¡ x ¡ x1 ¡ x2 ¡ x3 ¡ – external ¡inputs ¡ u ¡ – its ¡connecFvity ¡ θ ¡ Inputs ¡ u t ¡ dx = ConnecFvity ¡parameters ¡ θ ¡ F ( x , u , ) θ dt

Example: ¡a ¡linear ¡model ¡of ¡interacFng ¡visual ¡regions ¡ Visual ¡input ¡in ¡the ¡ ¡visual ¡field ¡ ¡-­‑ ¡le\ ¡(LVF) ¡ ¡-­‑ ¡right ¡(RVF) ¡  x 3 = a 31 x 1 + a 33 x 3 + a 34 x 4 ¡ LG ¡= ¡lingual ¡gyrus ¡ FG ¡= ¡fusiform ¡gyrus ¡ FG ¡ FG ¡ x 3 ¡ x 4 ¡ le\ ¡ right ¡  x 4 = a 42 x 2 + a 43 x 3 + a 44 x 4 LG ¡ LG ¡ x 1 ¡ x 2 ¡ le\ ¡ right ¡ RVF ¡ LVF ¡ u 1 ¡ u 2 ¡   x 1 = a 11 x 1 + a 12 x 2 + a 13 x 3 + c 12 u 2 x 2 = a 21 x 1 + a 22 x 2 + a 24 x 4 + c 21 u 1

Example: ¡a ¡linear ¡model ¡of ¡interacFng ¡visual ¡regions ¡ FG ¡ FG ¡ x 3 ¡ x 4 ¡ Visual ¡input ¡in ¡the ¡ ¡visual ¡field ¡ le\ ¡ right ¡ ¡-­‑ ¡le\ ¡(LVF) ¡ ¡-­‑ ¡right ¡(RVF) ¡ ¡ LG ¡= ¡lingual ¡gyrus ¡ LG ¡ LG ¡ x 1 ¡ x 2 ¡ le\ ¡ right ¡ FG ¡= ¡fusiform ¡gyrus ¡ RVF ¡ LVF ¡ u 1 ¡ u 2 ¡  x 1 = a 11 x 1 + a 12 x 2 + a 13 x 3 + c 12 u 2  x 2 = a 21 x 1 + a 22 x 2 + a 24 x 4 + c 21 u 1  x 3 = a 31 x 1 + a 33 x 3 + a 34 x 4  x 4 = a 42 x 2 + a 43 x 3 + a 44 x 4

Example: ¡a ¡linear ¡model ¡of ¡interacFng ¡visual ¡regions ¡ Visual ¡input ¡in ¡the ¡ ¡ FG ¡ FG ¡ x 3 ¡ x 4 ¡ visual ¡field ¡ le\ ¡ right ¡ ¡-­‑ ¡le\ ¡(LVF) ¡ ¡-­‑ ¡right ¡(RVF) ¡ ¡ LG ¡ LG ¡ LG ¡= ¡lingual ¡gyrus ¡ x 1 ¡ x 2 ¡ le\ ¡ right ¡ FG ¡= ¡fusiform ¡gyrus ¡ RVF ¡ LVF ¡ u 1 ¡ u 2 ¡ state 
 effective system
 input external
 changes connectivity state parameters inputs ! $ ! $ ! $  ! $ x 1 a 11 a 12 a 13 0 x 1 0 c 12 # & # & # &  # & x = Ax + Cu ! $  # x 2 & # a 21 a 22 0 a 24 & # x 2 & u 1 c 21 # & 0 # & # & = # & # & + # &  x 3 a 31 0 a 33 a 34 x 3 # u 2 & 0 0 # & # & # & # & " % # & # & # & { A , C } # 0 0 & θ =  x 4 0 a 42 a 43 a 44 x 4 " % # & # & # & " % " % " %

Example: ¡a ¡linear ¡model ¡of ¡interacFng ¡visual ¡regions ¡ FG ¡ FG ¡ x 3 ¡ x 4 ¡ le\ ¡ right ¡ m u j B ( j )  x = ( A + ) x + Cu ∑ LG ¡ LG ¡ x 1 ¡ x 2 ¡ le\ ¡ right ¡ RVF ¡ LVF ¡ u 1 ¡ u 2 ¡ j = 1 ATTENTION ¡ u 3 ¡ ' + ! $ ! $ ! $  ! $ ! $ x 1 a 11 a 12 a 13 0 x 1 (3) 0 b 0 0 0 c 12 ! $ ) ) 0 # & # & # & u 1 # & # & 12 # &  ) ) # x 2 & # a 21 a 22 0 a 24 & # x 2 & c 21 ) # & ) # & 0 0 0 0 0 0 + u 3 # u 2 & # & = ( # & , # & + # & # &  x 3 a 31 0 a 33 a 34 (3) x 3 0 0 0 0 b 34 # & 0 0 # & # & # & ) ) # & # & u 3 # & # & # & # & ) ) 0 # & # 0 0 & " %  x 4 0 a 42 a 43 a 44 x 4 0 0 0 0 " % " % # & # & # & ) ) " % " % " % * -

DeterminisFc ¡Bilinear ¡DCM ¡ driving Simply a two-dimensional input taylor expansion (around x 0 =0, u 0 =0): 2 dx f f f ∂ ∂ ∂ f ( x , u ) f ( x , 0 ) x u ux ... = ≈ + + + + 0 dt x u x u ∂ ∂ ∂ ∂ modulation A = ∂ f ∂ x u = 0 C = ∂ f Bilinear state equation: ∂ u x = 0 m dx ⎛ ⎞ 2 f ( i ) A u B x Cu ∑ = ⎜ + ⎟ + B = ∂ i dt ⎝ ⎠ i = 1 ∂ x ∂ u

Context-­‑dependent ¡enhancement ¡ stimulus u 1 u 1 context u 2 x 1 u 2 a 21 x 1 x 2 x 2 ( )  2 x Ax u B x Cu = + + 2  x a 0 x 0 0 x c 0 u ⎡ ⎤ ⎡ ⎤ ⎡ ⎤ ⎡ ⎤ ⎡ ⎤ ⎡ ⎤ ⎡ ⎤ 1 11 1 1 11 1 u = + + ⎢ ⎥ ⎢ ⎥ ⎢ ⎥ ⎢ ⎥ ⎢ ⎥ ⎢ ⎥ ⎢ ⎥ 2 ( )  2 x a a x b 0 x 0 0 u ⎣ ⎦ ⎣ ⎦ ⎣ ⎦ ⎣ ⎦ ⎣ ⎦ ⎣ ⎦ ⎣ ⎦ 2 21 22 2 21 2 2

DCM ¡for ¡fMRI: ¡the ¡full ¡picture ¡ y ¡ BOLD ¡ y ¡ y ¡ y ¡ hemodynamic ¡ H ¡ model ¡ ac#vity ¡ x 2 ( t ) ¡ ac#vity ¡ x ¡ ac#vity ¡ x 3 ( t ) ¡ integraFon ¡ x 1 ( t ) ¡ Neuronal ¡ states ¡ Neural ¡state ¡equaFon ¡ ( j )  x ( A u B ) x Cu ∑ = + + modulatory ¡ j input ¡ u 2 ( t ) ¡  endogenous ¡ x ∂ driving ¡ A = connecFvity ¡ x t ¡ ∂ input ¡ u 1 ( t ) ¡  x ∂ ∂ modulaFon ¡of ¡ ( j ) B = connecFvity ¡ u x ∂ ∂ j t ¡  x ∂ direct ¡inputs ¡ C = u ∂ Stephan & Friston (2007), Handbook of Brain Connectivity

DCM: ¡Neuronal ¡and ¡hemodynamic ¡level ¡ Cognitive system is modelled at its underlying ì neuronal level (not directly accessible for fMRI). y ¡ hemodynamic ¡ H ¡ model ¡ The modelled neuronal dynamics ( x ) are transformed ì x ¡ into area-specific BOLD signals ( y ) by a integraFon ¡ hemodynamic model ( λ ). Overcomes regional variability at the hemodynamic ì level DCM not based on temporal precedence at ì measurement level

The ¡hemodynamic ¡“Balloon” ¡model ¡ 3 ¡ ì hemodynamic ¡ parameters ¡ Region-­‑specific ¡ ì HRFs ¡ Important ¡for ¡ ì model ¡fibng, ¡ but ¡of ¡no ¡ interest ¡

Hemodynamic ¡model ¡ y ¡represents ¡the ¡simulated ¡ observaFon ¡of ¡the ¡bold ¡response, ¡ including ¡noise, ¡i.e. ¡ ¡ y ¡= ¡h(u,θ)+e ¡ 4 BOLD u 1 2 (with noise added) 0 u 2 0 20 40 60 y 1 z 1 4 BOLD 2 (with noise added) 0 y 2 0 20 40 60 z 2 seconds blue: neuronal Z: neuronal activity Y: BOLD response   

ì ¡ Overview ¡ 1. Dynamics ¡in ¡Dynamic ¡Causal ¡Modeling ¡ 2. Graphical ¡Model ¡ -­‑ Varia#onal ¡Inversion ¡ -­‑ ¡Bayesian ¡Sta#s#cal ¡Inference ¡from ¡VB ¡ 3. Examples ¡ ¡ -­‑ ¡ANenFon ¡in ¡the ¡Human ¡Brain ¡ -­‑ ¡Synesthesia ¡

Parameter ¡estimation: ¡Bayesian ¡inversion ¡ u 1 ¡EsFmate ¡neural ¡& ¡ ¡hemodynamic ¡ parameters ¡such ¡that ¡the ¡ u 2 MODELLED ¡ and ¡ MEASURED ¡ BOLD ¡ y 1 x 1 signals ¡are ¡similar ¡(model ¡evidence ¡ is ¡opFmised), ¡using ¡variaFonal ¡bayes ¡ under ¡mean ¡field: ¡ ¡P(X, ¡λ, ¡A, ¡B, ¡C ¡| ¡Y) ¡ ¡ x 2 y 2