Variations of the consensus algorithm � ��������������� � ( � ) = �� ( � ) ˙ ����� � ������������������������������������� � − � � ��������������� � ����������������� � ( � + � ) = � ( � ) � ( � ) � �������������������������� � ( � + � ) = � ( � ) � ( � ) �������� � ( � ) �������������������������������������� ���� ��������������� ������������������������ 5th HYCON2 PhD School
Variations of the consensus algorithm ������������������������������ � � ( � ) ∈ R � � � ( � + � ) = �� � ( � ) + �� � ( � ) � � ( � ) = �� � ( � ) ��������������������� � � � � ( � ) = � �� � � ( � ) � = � ����� � ∈ R � × � ���������������������������� � � ( � ) − → α 5th HYCON2 PhD School
Variations of the consensus algorithm ��������������������������� � � ( � ) ∈ R � � � ( � + � ) = � ( � � ( � )) + � ( � � ( � )) � � ( � ) � � ( � ) = � ( � � ( � )) ��������������������� � � � � ( � ) = � �� � � ( � ) � = � ����� � ∈ R � × � ���������������������������� � � ( � ) − → α 5th HYCON2 PhD School
Example: vehicle formation �������������� � ����������������������������� ���������������������������� � � ( � ) = ( � � ( � ) , � � ( � )) � � ������������������������������������������������������� �������������������������������������������������������� ��������� � � � � ( � + � ) = � �� � � ( � ) � = � ����������������������������������������������������������������������������� 5th HYCON2 PhD School
Example: distributed estimation ����������� � ����������������������������������� � ∈ R ���������������� ������������� ������������������������������������������� � �� � � = � + � � ����� � � ������������������������������������������������ �� �������������� ������� � ������������������������ � := � � � � ˆ � � Sensor Communication link Sensing link 5th HYCON2 PhD School
Example: distributed least square ����������������������� � ���������������������� � � , � � ������������ ��������������������������������������������� �������������������� y ������������������������������������������ � � � ( � ) = θ � � � ( � ) � = � ������������������� � � ( � ) ������������������������������������� �� �������������������������������� θ � � ������������ x � ( � ) = � � ( � ) Θ ����� � � ( � ) = [ � � ( � ) · · · � � ( � )] Θ = [ θ � · · · θ � ] � ������������������ � ( � � − � � ( � � ) Θ ) � ˆ � Θ := argmin Θ � = � 5th HYCON2 PhD School
Example: distributed least square �������������������������������������������������������������� y � − � � � � � � � � � ( � � ) � � ( � � ) ˆ � � � ( � � ) � � Θ = � � � = � � = � �������� average x consensus � � � ( ∞ ) = � � � ( � ) = � ( � � ) � � ( � � ) ∈ R � × � � ( � � ) � � ( � � ) � � � = � average consensus � � � ( ∞ ) = � � � ( � ) = � ( � � ) � � ∈ R � � � ( � � ) � � � � = � 5th HYCON2 PhD School
Example: distributed least square �������������������������������������������������������������� y � − � � � � � � � � � ( � � ) � � ( � � ) ˆ � � � ( � � ) � � Θ = � � � = � � = � �������� average x consensus � � � ( ∞ ) = � � � ( � ) = � ( � � ) � � ( � � ) ∈ R � × � � ( � � ) � � ( � � ) � � � = � Initial knowledge of the node i Final knowledge average of the node i consensus � � � ( ∞ ) = � � � ( � ) = � ( � � ) � � ∈ R � � � ( � � ) � � � � = � 5th HYCON2 PhD School
Example: distributed least square �������������������������������������������������������������� y � − � � � � � � � � � ( � � ) � � ( � � ) ˆ � � � ( � � ) � � Θ = � � � = � � = � �������� average x consensus � � � ( ∞ ) = � � � ( � ) = � ( � � ) � � ( � � ) ∈ R � × � � ( � � ) � � ( � � ) � � � = � Initial knowledge of the node i Final knowledge average of the node i consensus � � � ( ∞ ) = � � � ( � ) = � ( � � ) � � ∈ R � � � ( � � ) � � � � = � Θ = ( � � ( ∞ )) − � � � ( ∞ ) ˆ 5th HYCON2 PhD School
Example: distributed calibration ������������������������� ���������������������� � = ( � , � ) ��������������� � = { � , . . . , � } ������������ � ⊆ � × � ������������������������� � ( � , � ) ������� ( � , � ) ∈ � � ������������������� ��������������������������������� ������ � ( � , � ) ( � � − � � − � ( � , � ) ) � � min � � ,..., � � ( � , � ) ∈ � ����� � ( � , � ) ������������ ��������������������������� || �� − � || � min � � ����� � ������������������������������������������������ | � | × | � | ����������� � , � , − �� ��������� � = diag { � � : � ∈ � } � 5th HYCON2 PhD School
Example: distributed calibration ������������������������������������������������������������������ � � | � � � = � || �� − � || � min � �������������������������� �������������������������������������� � ������������������������ �������������� � ( � + � ) = �� ( � ) + α � � �� � ( � ) = � ����� � = � − α � � �� ������������������������������������������ α ����������������������� �� �������� � ( � ) := � − � ( � ) � ������������ � ( � + � ) = �� ( � ) � ( � ) = � ������ � ( ∞ ) = � − � ( ∞ ) = � − � � � � = � � � 5th HYCON2 PhD School
Example: distributed decision making � − � � �������������������������������� � ��������������� � � � ( � = � ) = � ( � = � ) = � / � � � � �������������������� � ������������������������������� � � ����� �������������������������������������������������������������� � � � ( � � = � | � = � ) = � ( � � = � | � = � ) = � � � ( � � = � | � = � ) = � ( � � = � | � = � ) = � − � � � � ������������������������������������������������������������� � � L ( � � , . . . , � � ) = � � log � ( � | � � , · · · , � � ) � ( � | � � , · · · , � � ) = � ( � − � � � ) log � − � � � � � � � � � = � ⇐ ⇒ L ( � � , . . . , � � ) > � ˆ � � 5th HYCON2 PhD School
Pros and cons Advantages �� �������������������������������������� �� ��������������������������� �� ���������������������������������������������������������� Disadvantages �� ��������������������������������������������������������������������� �� �������������������������������������� 5th HYCON2 PhD School
Performance metrics � � � ( � + � ) = �� ( � ) � � � � ( � ) − µ � � � ( � ) , µ � = � → � ( � ) = � � = � � = � ������������������� �� ������������������������� ���������������������� µ � ��� � / � � �� ���������������������� ����������������������� � � ( � ) �� � � ( ∞ ) � 5th HYCON2 PhD School
Performance metrics � � � � ( � ) − µ � � � ( � ) → � = � �������������������������������� �� ���������� ( µ � , . . . , µ � ) ��������������������������� ����������������� ��������� µ � = � / � ����������� �� � ���������������������� � , � � ��������������������� �� ������������������������������������������������� ρ ( P ) ρ ( � ) �������������������������������� � � ρ ( � ) = λ ∈ Λ ( � ) \{ � } | λ | max ����� Λ ( � ) �������������������������������� � � 5th HYCON2 PhD School
Performance metrics �������������������������������� �� ���������������������� �������������� � ���������������������� ��������������������������� �� ��������������������������������� �������������������������� ���������������������������������������� ������������������������������������������������������������������� �������������������������������������������������������������������� �������������������������������������������� 5th HYCON2 PhD School
Performance metrics ���������������������������������������������������������������������� ���������������������������������� ρ ( � ) ������������������������� � � ����������������������������������������� � ����������������������� � �������������� ������������������� ������������������� ������ ����������������� �������������������������������������������������������������������� �������������������������� 5th HYCON2 PhD School
Network topologies We consider here network topologies coming from wireless sensor networks applications, namely the geometric graphs 5th HYCON2 PhD School
Network topologies ������������������������������������ ������������� ����������������� � �������������������������������������� R � ������������������������ ��������� � ��������������� � ������������������������������������������� � ������������������������������ � ������������������ � ���������������������������������� � � � ���������� γ �������������������������� � ����������� ρ ����������������������������������������������� ������������������������������� ��������� ���������������� ���������������������������� 5th HYCON2 PhD School
Network topologies 5th HYCON2 PhD School
Network topologies � 5th HYCON2 PhD School
Network topologies � 5th HYCON2 PhD School
Network topologies � 5th HYCON2 PhD School
Network topologies γ 5th HYCON2 PhD School
Network topologies � � � ( � , � ) � 5th HYCON2 PhD School
Network topologies � � � ( � , � ) � 5th HYCON2 PhD School
Network topologies � � � � ( � , � ) ρ = min � � ( � , � ) � � � ( � , � ) � � � ( � , � ) ≤ � � ( � , � ) ρ 5th HYCON2 PhD School
Network topologies In certain cases we need to restrict to lines and grids 5th HYCON2 PhD School
Network topologies The simplest “geometric” graphs are circles and toruses (no boundary effects) 5th HYCON2 PhD School
Rate of convergence ������� (Boyd, Ghosh, Prabhakar, Sha 2006, Lovisari, Zampieri 2011) ��� G ���� � ����������������������������������������������������� ��� � ���������������������������������������� G � ���� � � / � ≤ ρ ( � ) ≤ � − � �� � � � − � � / � ����� � �������������������������� � � , � �� ����������������������� 5th HYCON2 PhD School
Rate of convergence 5th HYCON2 PhD School
Rate of convergence 5th HYCON2 PhD School
Rate of convergence 5th HYCON2 PhD School
Rate of convergence 5th HYCON2 PhD School
Rate of convergence Circle 5th HYCON2 PhD School
Rate of convergence Torus 5th HYCON2 PhD School
Rate of convergence Circle and torus 5th HYCON2 PhD School
Rate of convergence Geometric graph 5th HYCON2 PhD School
Rate of convergence Random graph 5th HYCON2 PhD School
Rate of convergence Random graph and circle 5th HYCON2 PhD School
H 2 performance ��������������������������������������������� ���������������� � � ( � ) ��� ���������������������������� � ∞ � � ( � ) := � || � ( � ) − � ( ∞ ) || � � �� � = � ����� || · || �������������� 5th HYCON2 PhD School
H 2 performance ��������������������������������������������������� ������ �������� ���������� ������ ���������������������� ������� �������� ��������� ����������������������������������������������������������������������� ����� � ( � + 1) = �� ( � ) + � ( � ) �������������������������������� 1 � ( � ) := lim sup �� {|| � ( � ) − � � ( � )1 1 ||} � →∞ ����� � � ( � ) = 1 / � � � � ( � ) �������������������������������������� � ( � ) ��� 1 1 ������������������������������������������ 1 � 5th HYCON2 PhD School
Consensus with noise Circle 5th HYCON2 PhD School
Consensus with noise Geometric graph 5th HYCON2 PhD School
H 2 performance �������������������������� � ������������� ���� ∞ 1 � � 2 � − 1 � 1 � � � ( � ) = � tr � 1 11 � =0 1 1 � = � 1 − λ 2 λ ∈ Λ ( � ) \{ 1 } ����� 1 1 ���������������������������������������������� 1 � 5th HYCON2 PhD School
L 2 performance ������� ��� G ���� � ��������������������������������������������������������� � �� ����������������������������������������������� G � ���� � � � ≤ � ( � ) ≤ � �� � �� � = � � � log( � ) ≤ � ( � ) ≤ � �� log( � ) �� � = � � � ≤ � ( � ) ≤ � �� �� � ≥ � ����� � �������������������������� � � , � �� ����������������������� 5th HYCON2 PhD School
Electrical network (Doyle, Snell) ����������������� 5th HYCON2 PhD School
Electrical network (Doyle, Snell) ����������������� � := � � ��������������������������� 5th HYCON2 PhD School
Electrical network (Doyle, Snell) ����������������� � := � � ��������������������������� ����������������������� � ��������������������� � �� / � ����������� ����� � ��� � ������������������ � / � �� �� 5th HYCON2 PhD School
Electrical network (Doyle, Snell) ����������������� � := � � ��������������������������� ����������������������� � ��������������������� � �� / � ����������� ����� � ��� � ������������������ � / � �� �� R �� ���������������������������������������������������������� � ��� �������� � � 5th HYCON2 PhD School
Electrical network (Doyle, Snell) ����������������� � := � � ��������������������������� ����������������������� � ��������������������� � �� / � ����������� ����� � ��� � ������������������ � / � �� �� R �� ���������������������������������������������������������� � ��� �������� � � � ( � ) = � � R �� � � � � = � 5th HYCON2 PhD School
Electrical network (Doyle, Snell) 5th HYCON2 PhD School
Electrical network (Doyle, Snell) � / � �� ��� 5th HYCON2 PhD School
Electrical network (Doyle, Snell) R �� � � 5th HYCON2 PhD School
Electrical network (Doyle, Snell) 5th HYCON2 PhD School
Electrical network (Doyle, Snell) � � � 5th HYCON2 PhD School
Electrical network (Doyle, Snell) � � 5th HYCON2 PhD School
Electrical network (Doyle, Snell) � � � 5th HYCON2 PhD School
Electrical network (Doyle, Snell) ������������� � ������������������������������������� � � � = � Current Kirchhoff’s current law C �� = � Ohm’s law 1 � � = 0 1 Condition to get uniqueness ����� � ���������������������������������������� C �������������������� ������ � �� / 2 ��������������������� ���������������������������������� ��������� � � C � � � � � � � � � 1 1 = 1 � 0 0 1 0 ������ � − 1 � � � C � � � � � � � 1 1 = 1 � 0 0 1 0 5th HYCON2 PhD School
Electrical network (Doyle, Snell) � − 1 � � � C � � � � � � � 1 1 = 1 � 0 0 1 0 ����������� � � C � = � − � ����������������� � − 1 � − � � ( � ) � − 1 1 � � � 1 1 1 = 1 � 1 � � − 1 1 1 0 0 ����� ∞ � � � � − 1 1 � � � ( � ) := � 1 11 Green function � =0 ��������� � = � ( � ) � 5th HYCON2 PhD School
Electrical network (Doyle, Snell) − � ������ � ������ � � 5th HYCON2 PhD School
Electrical network (Doyle, Snell) � ( � ) = � � tr � ( � � ) � − 1 � − � � ( � ) � − 1 1 � � � 1 1 1 = 1 � 1 � � − 1 1 1 0 0 � � C � � − 1 � � � C � � � � � � � � � � � � � � � 1 1 1 1 = = 1 � 1 � 0 0 1 0 0 0 1 0 � � C � = � − � � − 1 � � C � � ( � ) � − 1 1 � � � 1 1 1 � = � ( � ) � = 1 � 1 � � − 1 1 1 0 0 5th HYCON2 PhD School
Electrical network (Doyle, Snell) ���� � = � � − � � � ����� � � ������������������������������������� � ������������ � ����������� � � ������������������������������������� � ��� � �� � � − � � = ( � � − � � ) � � = R �� ( � � − � � ) � � ( � ) � = ( � � − � � ) � � ( � )( � � − � � ) = ��������� � R �� = � � � tr � ( � ) � � � � = � 5th HYCON2 PhD School
Electrical network (Doyle, Snell) � R �� = � � � tr � ( � ) � � � � = � � ( � ) = � ∞ � � � � − 1 � 1 � � � ( � ) := R �� � 1 11 � � � � = � � =0 � ( � ) = � � � � − � ∞ � � � � tr � � = � 5th HYCON2 PhD School
Example: distributed estimation ����������� � ����������������������������������� � ∈ R ���������������� ������������� ������������������������������������������� � �� � � = � + � � ����� � � ������������������������������������������������ �� �������������� ������� � ������������������������ � := � � � � ˆ � � Sensor Communication link Sensing link 5th HYCON2 PhD School
Example: distributed estimation ��������������������������������������������������������������� ����������� � ( � + � ) = �� ( � ) � ( � ) = � � � ( � ) � � := � � � � � ����������������������������������������������������������������� ����� � ���������� � ( � , � ) := � E [( � � ( � ) − � ) � ] � � � 5th HYCON2 PhD School
Performance in distributed estimation ���������������������� � ���������� � ( � , � ) = � � tr � � � = � λ � � � � λ ∈ Λ ( � ) 5th HYCON2 PhD School
Performance in distributed estimation ����������������������� � ��������������������������������������������� ����������������� � / � ������ ������������ ρ ( � � ) = � ������������������������������������������������� ������� � ( � � , � ) = � / � , � ≥ � 5th HYCON2 PhD School
Performance in distributed estimation ���������������������� � × � ���������������� � � / � � / � � � / � · · · · · · � / � � / � � / � � · · · · · · � � / � � / � � / � � · · · � � = � � � ��� ��� ��� � � � � � � � � / � � / � � / � · · · · · · � / � � � / � � / � · · · · · · ρ ( � � ) � � − ���� → � � � − 5th HYCON2 PhD School
Performance in distributed estimation 0.32 � ������������� � � �������� 0.28 ���������������������� � ( � � , � ) � 0.24 � �� � < � / � ���� 0.2 � ( � � , � ) = � ( � ∞ , � ) J(P N ,t) N=6 0.16 ������������������������������ 0.12 � � ������� � ����������� ��������� N=12 0.08 N=18 � ��� � , � ���������� N=24 0.04 N=30 � � N = 8 � , � � 0 � ( � � , � ) � max 0 20 40 60 80 100 120 140 160 180 200 √ � time t 5th HYCON2 PhD School
Performance in distributed estimation ����������������������������������������������������������������������� ���������������� ������������������������������������������������������������ ������� 5th HYCON2 PhD School
Time varying consensus algorithm � ( � + 1) = � ( � ) � ( � ) G � ���������������������������� � ( � ) ������������ � �� ( � ) > 0 ������� � , � �������������� �������� � ����������������� � ��������� G � := G � � ∪ G � � +1 ∪ · · · G ( � − 1) � − 1 ���� � � � ( � ) − → α ������� � � � ����������� � ( � ) �������������������������� � � � (0) ������� � � → 1 ���� � � ( � ) − � 5th HYCON2 PhD School
Time varying consensus algorithm � ( � + 1) = � ( � ) � ( � ) G � ���������������������������� � ( � ) ������������ � �� ( � ) > 0 ������� � , � �������������� �������� � ����������������� � ��������� G � := G � � ∪ G � � +1 ∪ · · · G ( � − 1) � − 1 ���� � � � ( � ) − → α ������� � � � ����������� � ( � ) �������������������������� � � � (0) ������� � � → 1 ���� � � ( � ) − � 5th HYCON2 PhD School
Performance of randomized consensus algorithms ������������������������������������� ������������������� � ( � ) ��������� � ( � ) �� > 0 ������� � , � � �������������������� � ( � + 1) = � ( � ) � ( � ) ������������� ��������� ������������� � � ( � ) → � ����� � = � µ � � � (0) ��������� µ � �������� �������������� �������������������� • Hatano Mesbahi • Boyd, Ghosh, Prabhakar, Shah • Tahbaz-Salehi, Jadbabaie 1 µ � � ( � − 1) · · · � (0) → 1 • Porfiri, Stilwell • Kar, Moura ����� µ := ( µ 1 , . . . , µ � ) � ��� �� ������ • Patterson, Bamieh, Abbadi • Wu ������� • Fagnani, Zampieri 5th HYCON2 PhD School
Performance of randomized consensus algorithms ������������������������������������� ������������������� � ( � ) ��������� � ( � ) �� > 0 ������� � , � � �������������������� � ( � + 1) = � ( � ) � ( � ) ������������� ��������� ������������� � � ( � ) → � ����� � = � µ � � � (0) ��������� µ � �������� �������������� �������������������� • Hatano Mesbahi • Boyd, Ghosh, Prabhakar, Shah • Tahbaz-Salehi, Jadbabaie 1 µ � � ( � − 1) · · · � (0) → 1 • Porfiri, Stilwell • Kar, Moura ����� µ := ( µ 1 , . . . , µ � ) � ��� �� ������ • Patterson, Bamieh, Abbadi • Wu ������� • Fagnani, Zampieri 5th HYCON2 PhD School
Gossip algorithm (Boyd et al. 2006) ����������������������������������������������� G � ������������������ ������� ( � , � ) ������������������������������������� G ���������������� � �� > 0 ����������������������������������� � � ( � + 1) 1 / 2 � � ( � ) + 1 / 2 � � ( � ) = � � ( � + 1) 1 / 2 � � ( � ) + 1 / 2 � � ( � ) = � � ( � + 1) � � ( � ) � � = � , � = x i ( t ) i j x j ( t ) 5th HYCON2 PhD School
Gossip algorithm (Boyd et al. 2006) ����������������������������������������������� G � ������������������ ������� ( � , � ) ������������������������������������� G ���������������� � �� > 0 ����������������������������������� � � ( � + 1) 1 / 2 � � ( � ) + 1 / 2 � � ( � ) = � � ( � + 1) 1 / 2 � � ( � ) + 1 / 2 � � ( � ) = � � ( � + 1) � � ( � ) � � = � , � = x i ( t ) i j x j ( t ) 5th HYCON2 PhD School
Gossip algorithm (Boyd et al. 2006) ����������������������������������������������� G � ������������������ ������� ( � , � ) ������������������������������������� G ���������������� � �� > 0 ����������������������������������� � � ( � + 1) 1 / 2 � � ( � ) + 1 / 2 � � ( � ) = � � ( � + 1) 1 / 2 � � ( � ) + 1 / 2 � � ( � ) = � � ( � + 1) � � ( � ) � � = � , � = x i ( t ) i j x j ( t ) 5th HYCON2 PhD School
Recommend
More recommend