Improving Performance and Cost in a Hyperconnected World - PowerPoint PPT Presentation

Improving ¡Performance ¡and ¡Cost ¡in ¡ a ¡Hyperconnected ¡World ¡ ¡ Georgios ¡Smaragdakis ¡

Th The New Internet Google, ¡ Akamai, ¡NeJlix ¡ Amazon, ¡… ¡ Global Transit / "Hyper Giants" National Large Content, Consumer, Hosting CDN Global Internet Backbones Core IXP IXP IXP Regional / Tier2 ISP1 ISP2 Providers Customer IP Networks Source: ¡Arbor ¡Networks ¡2010 ¡ New ¡core ¡of ¡interconnected ¡content ¡and ¡consumer ¡networks ¡ [1,2] ¡ ¡ ¡ � ¡“HyperconnecGvity” ¡ ¡ ¡ ¡ [1] ¡ ¡“Internet ¡Interdomain ¡Traffic”, ¡Labovicz ¡et ¡al. ¡ ¡SIGCOMM ¡2010 ¡ [2] ¡ ¡“Anatomy ¡of ¡a ¡large ¡European ¡IXP”, ¡Ager ¡et ¡al. ¡SIGCOMM ¡2012 ¡ ¡ 2 2

Th The New Internet Google, ¡ Akamai, ¡NeJlix ¡ Amazon, ¡… ¡ Global Transit / "Hyper Giants" National Large Content, Consumer, Hosting CDN Global Internet Backbones Core IXP IXP IXP Regional / Tier2 ISP1 ISP2 Providers Customer IP Traffic ¡Engineering: ¡ Networks ¡ Source: ¡Arbor ¡Networks ¡2010 ¡ Adjust ¡rouGng ¡or ¡peering ¡ -­‑ ¡ Offline ¡process ¡ Will ¡the ¡ISPs ¡conGnue ¡to ¡overprovision ¡their ¡networks? ¡ -­‑ ¡Oscilla5ons ¡ [1] ¡ ¡ [1] ¡ ¡“Internet ¡Traffic ¡Engineering ¡by ¡OpGmizing ¡OSPF ¡ ¡Weights”, ¡Fortz, ¡Thorup, ¡INFOCOM ¡2000 ¡ 3 3

New Chal allenges Google, ¡ Akamai, ¡NeJlix ¡ Amazon, ¡… ¡ Global Transit / "Hyper Giants" National Large Content, Consumer, Hosting CDN Global Internet Backbones Core IXP IXP IXP Regional / Tier2 ISP1 ISP2 Providers Movi ving Tar arget I : Customer IP Movi ving Tar arget II : Networks Popular ar Applicat ations, Bottle Bo ttlenecks s [1 [1] ] Source: ¡Arbor ¡Networks ¡2010 ¡ new CDN par arad adigms [1] ¡ ¡“Improving ¡Performance ¡on ¡the ¡Internet”, ¡Leighton, ¡CACM ¡2009 ¡ 4 4

New Chal allenges Google, ¡ Akamai, ¡NeJlix ¡ RapidShare, ¡… ¡ Global Transit / "Hyper Giants" National Large Content, Consumer, Hosting CDN Global Internet Backbones Core IXP IXP IXP Regional / Tier2 ISP1 ISP2 Providers Movi ving Tar arget I : Customer IP Movi ving Tar arget II : Networks Popular ar Applicat ations Bo Bottle ttlenecks s [1 [1] ] Source: ¡Arbor ¡Networks ¡2010 ¡ When ¡ISPs ¡loose ¡the ¡control ¡and ¡moneGzaGon ¡of ¡their ¡network: ¡ ¡ [1] ¡ ¡“Improving ¡Performance ¡on ¡the ¡Internet”, ¡Leighton, ¡CACM ¡2009 ¡ “René ¡Obermann, ¡Deutsche ¡Telekom’s ¡chief ¡ ¡ execuGve, ¡said ¡Google ¡and ¡others ¡should ¡pay ¡ ¡ telecoms ¡groups ¡for ¡carrying ¡content ¡on ¡their ¡networks” ¡ 5 5

Content Distribution Chal allenges CDN DNS CDN DNS User ¡ ¡ 3 ¡ Mis-­‑locaGon ¡ [1] ¡ Internet Servi vice Provi vider r 2 ¡ ¡ (ISP) (IS ) Provi vider/ r/ 3 rd rd par arty 5 ¡ DN DNS 1 ¡ 4 ¡ Client Client CDN Host CDN Hos t [1] ¡ ¡“Comparing ¡DNS ¡Resolvers ¡in ¡the ¡Wild”, ¡Ager ¡et ¡al. ¡IMC ¡2010 ¡ 6 6

Content Distribution Chal allenges CDN DNS CDN DNS User ¡ ¡ 3 ¡ Internet Servi vice Provi vider r Mis-­‑locaGon ¡ 2 ¡ (ISP) (IS ) ¡ Provi vider/ r/ 3 rd rd par arty Unawareness ¡ 5 ¡ DN DNS of ¡Network ¡ 1 ¡ Boelenecks ¡ [1] ¡ ¡ 4 ¡ Client Client CDN Host CDN Hos t [1] ¡ ¡“Moving ¡Beyond ¡End-­‑to-­‑end ¡Path ¡ ¡InformaGon ¡to ¡OpGmize ¡CDN ¡Performance”, ¡Krishnan, ¡Madhyasta, ¡ Srinivasan, ¡Krishnamurthy, ¡Anderson, ¡Gao, ¡ ¡IMC ¡2009 ¡ 7 7

Content Distribution Chal allenges CDN DNS CDN DNS User ¡ ¡ 3 ¡ Internet Servi vice Provi vider r Mis-­‑locaGon ¡ 2 ¡ (IS (ISP) ) ¡ Provi vider/ r/ 3 rd rd par arty Unawareness ¡ 5 ¡ DN DNS of ¡Network ¡ 1 ¡ Boelenecks ¡ 4 ¡ Diminishing ¡ Revenue ¡of ¡“Bytes ¡ Client Client CDN Host CDN Hos t Delivery” ¡ ¡ ¡ 8 8

Gran and Chal allenge Dynamically ¡adapts ¡traffic ¡demand ¡by ¡taking ¡advantage ¡of ¡ server ¡and ¡path ¡diversity, ¡and ¡ISP ¡network ¡knowledge! ¡ ¡ ¡ Ho Host B B Internet Servi vice Provi vider r Host A Ho A (ISP) (IS ) Ho Host C C Cong Conges ested ed pat ath Ho Host D D Client Client Ho Host [1] ¡ ¡“Content-­‑aware ¡Traffic ¡Engineering”, ¡ ¡Frank ¡et ¡al. ¡SIGMETRICS ¡2012, ¡CCR ¡2012 ¡ 9 9

Gran and Chal allenge Dynamically ¡adapts ¡traffic ¡demand ¡by ¡taking ¡advantage ¡of ¡ server ¡and ¡path ¡diversity, ¡and ¡ISP ¡network ¡knowledge! ¡ ¡ ¡ Ho Host B B Internet Servi vice Provi vider r Host A Ho A (IS (ISP) ) ¡ Ho Host C C Requirements: ¡ Cong Conges ested ed -­‑ ¡Online ¡Process ¡ pat ath -­‑ ¡No ¡RouGng ¡Re-­‑configuraGon ¡ -­‑ ¡No ¡AddiGonal ¡Investments/Possible ¡OpEx ¡ReducGon ¡ -­‑ ¡Transparent ¡to ¡end-­‑users ¡ Ho Host D D Client Client ¡ Host Ho [1] ¡ ¡“Content-­‑aware ¡Traffic ¡Engineering”, ¡ ¡Frank ¡et ¡al. ¡SIGMETRICS ¡2012, ¡CCR ¡2012 ¡ 10 10

Gran and Chal allenge Dynamically ¡adapts ¡traffic ¡demand ¡by ¡taking ¡advantage ¡of ¡ server ¡and ¡path ¡diversity, ¡and ¡ISP ¡network ¡knowledge! ¡ ¡ win-­‑win ¡situaGon ¡ ¡ Ho Host B B ¡ ¡ Internet Servi vice Provi vider r ¡ Host A Ho A (IS (ISP) ) � ¡A ¡new ¡paradigm ¡for ¡negoGaGons ¡and ¡collaboraGon! ¡ ¡ Host C Ho C E.g. ¡joint ¡products, ¡rethinking ¡VoD, ¡rewards ¡if ¡your ¡behave ¡nicely. ¡ Conges Cong ested ed pat ath ¡ � ¡A ¡new ¡blue ¡print ¡to ¡design ¡networks! ¡ ¡ E.g., ¡making ¡decisions: ¡backbones ¡or ¡colocaGon/exchange ¡points? ¡ ¡ Is ¡remote ¡peering ¡enough? ¡ Host D Ho D Client Client Host Ho [1] ¡ ¡“Content-­‑aware ¡Traffic ¡Engineering”, ¡ ¡Frank ¡et ¡al. ¡SIGMETRICS ¡2012, ¡CCR ¡2012 ¡ 11 11

Ne Network D Diver ersi sity o y of CD f CDN Ser N Server ers s ¡ -­‑ ¡Significant ¡Network ¡Diversity ¡of ¡servers ¡over ¡Gme ¡for ¡top ¡content ¡ providers, ¡especially ¡during ¡peak ¡Gme ¡ -­‑ ¡Typically, ¡a ¡significant ¡number ¡(3 ¡to ¡10) ¡of ¡different ¡paths ¡to ¡access ¡the ¡ content ¡are ¡available ¡ 12 12

ISP-CDN Collab aborat ation [Avai ailab able Servers], CPU load ad, External al DNS TTL ( TTL (seco second nds) s) 5 ¡ Host 1 Ho 1 Internet Servi vice Provi vider r Full ¡View ¡of ¡ 2 ¡ the ¡ISP ¡ (ISP) (IS ) Network ¡ Provi vider/ r/ 3 rd rd par arty and ¡user ¡ 4 ¡ 3 ¡ DNS DN locaGon ¡ 7 ¡ 1 ¡ Network ¡ ¡ 6 ¡ Monitor ¡ Host 2 Ho 2 Client Client Host Ho 7 ¡ 13 13

ISP-CDN Collab aborat ation Host1 Ho Ho Host2 2 External al DNS Host3 Ho Host4 Ho 5 ¡ Host 1 Ho 1 Internet Servi vice Provi vider r 2 ¡ (IS (ISP) ) Provi vider r 4 ¡ DN DNS Ho Host2 2 3 ¡ 7 ¡ Ho Host1 1 ¡ Ho Host3 Network ¡ ¡ 6 ¡ Ho Host4 Monitor ¡ Ho Host 2 2 Client Client Host Ho 7 ¡ 14 14

ISP-CDN Collab aborat ation Ho Host1 Host2 Ho 2 Ho Host2 2 Ho Host1 External al DNS Ho Host3 Host4 Ho Ho Host4 5 ¡ Host 1 Ho 1 Internet Servi vice Provi vider Host3 Ho r 2 ¡ (IS (ISP) ) Provi vider r 4 ¡ DNS DN Host2 Ho 2 3 ¡ 7 ¡ Ho Host1 1 ¡ Ho Host3 Network ¡ ¡ 6 ¡ Ho Host4 Host 2 Ho 2 Monitor ¡ Client Client Host Ho 7 ¡ 15 15

Network Function Virtual alizat ation Full ¡View ¡of ¡the ¡ISP ¡ Network ¡& ¡ Resources, ¡and ¡user ¡ ¡ ¡ ¡ Deman and Request locaGon ¡ CDN CDN Avai ailab able Locat ations ISP IS Slice Specificat ations Resource Re Slice Allocat ation Brok Br oker [1 [1] ] Slice Co Sl ce Commi mmit IS ISP Generic Gener ic Applian ance [1] ¡ ¡“Pushing ¡CDN-­‑ISP ¡CollaboraGon ¡to ¡the ¡Limit”, ¡Frank ¡et ¡al. ¡CCR ¡, ¡July ¡2013 ¡ 16 16