Overview Based on Above the Clouds: A Berkeley View of - PowerPoint PPT Presentation

ì ¡ Cloud ¡Computing ¡ ECPE ¡276 ¡ Overview ¡ Based ¡on ¡“Above ¡the ¡Clouds: ¡A ¡Berkeley ¡View ¡of ¡Cloud ¡CompuBng”, ¡2009 ¡

2 ¡ Schedule ¡ ì Tue, ¡Jan ¡26 th ¡What ¡is ¡Cloud ¡CompuBng? ¡ ì ConBnuaBon ¡of ¡today’s ¡discussion ¡ ì Your ¡Homework: ¡Pick ¡2-­‑3 ¡papers ¡from ¡the ¡approved ¡ reading ¡list ¡that ¡you ¡could ¡present ¡and ¡ email ¡me ¡ ì Thur, ¡Jan ¡28 th ¡– ¡First ¡paper ¡presentaBon ¡ ì Presenter: ¡Dr. ¡Shafer ¡ (use ¡an ¡an ¡example) ¡ ì MapReduce ¡paper ¡ (used ¡for ¡your ¡first ¡project) ¡ ì Your ¡Homework: ¡Audience ¡members ¡role ¡ ì Read ¡paper ¡and ¡prepare ¡summary ¡document ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

3 ¡ Cloud ¡Computing ¡ ì How ¡are ¡we ¡defining ¡cloud ¡compu9ng ¡again? ¡ ì And ¡why ¡do ¡people ¡use ¡it? ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

4 ¡ What ¡is ¡Old ¡and ¡What ¡is ¡New? ¡ ì Old ¡idea ¡– ¡ u9lity ¡compu9ng ¡ ì What ¡if ¡compuBng ¡was ¡as ¡ubiquitous ¡as ¡the ¡power ¡ grid? ¡ ¡Just ¡flip ¡a ¡switch, ¡and ¡(presto!) ¡computaBon! ¡ ì Billed ¡for ¡only ¡the ¡resources ¡you ¡consume ¡ ì This ¡vision ¡took ¡decades ¡to ¡be ¡achieved! ¡ “If ¡computers ¡of ¡the ¡kind ¡I ¡have ¡advocated ¡become ¡the ¡computers ¡of ¡ the ¡future, ¡then ¡compuBng ¡may ¡someday ¡be ¡organized ¡as ¡a ¡public ¡ uBlity ¡just ¡as ¡the ¡telephone ¡system ¡is ¡a ¡public ¡uBlity... ¡The ¡computer ¡ uBlity ¡could ¡become ¡the ¡basis ¡of ¡a ¡new ¡and ¡important ¡industry.” ¡ ¡ —1961, ¡ John ¡McCarthy ¡(inventor ¡of ¡Lisp, ¡Turing ¡Award ¡winner) ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

5 ¡ What ¡is ¡Old ¡and ¡What ¡is ¡New? ¡ ì New ¡ideas: ¡ ì No ¡up-­‑front ¡cost ¡ ì Fine-­‑grained ¡billing ¡(hourly) ¡ ì Illusion ¡of ¡infinite ¡resources ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

6 ¡ Why ¡Now ¡for ¡Cloud ¡Computing? ¡ ì First ¡.com ¡boom ¡created ¡companies ¡with ¡ experience ¡in ¡very ¡large ¡datacenters ¡ ¡ ì Economies ¡of ¡scale ¡– ¡5-­‑7 ¡Bmes ¡cheaper ¡(going ¡from ¡ a ¡1,000 ¡machine ¡to ¡50,000 ¡machine ¡datacenter) ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

7 ¡ Datacenter ¡ ì Warehouse ¡for ¡computers ¡ ì Design ¡goals ¡ Maximum ¡density ¡for ¡ ì minimum ¡space ¡ Economy ¡of ¡scale ¡– ¡few ¡ ì people ¡managing ¡large ¡ numbers ¡of ¡computers ¡ Security ¡ ì Network ¡and ¡power ¡ ì Apple’s ¡1 ¡billion ¡dollar ¡datacenter ¡in ¡North ¡Carolina ¡ redundancy ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

The ¡Datacenter ¡ 8 ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

The ¡Datacenter ¡ 9 ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

Google ¡Datacenter ¡(1 ¡of ¡many…) ¡ 10 ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

Microso@ ¡Datacenter ¡(Dublin, ¡Ireland) ¡ 11 ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

NSA ¡Datacenter ¡(Bluffdale, ¡Utah. ¡2+ ¡Billion ¡$$) ¡ 12 ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

13 ¡ Datacenter ¡Designs ¡– ¡Traditional ¡Racks ¡ 42U ¡rack ¡= ¡42 ¡“1U” ¡servers ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

14 ¡ Datacenter ¡Designs ¡– ¡Traditional ¡Racks ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

15 ¡ Datacenter ¡Design ¡– ¡Innovative ¡ Shipping ¡containers ¡ ì with ¡2000+ ¡servers ¡ pre-­‑installed? ¡ Water ¡cooled? ¡ ì Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

16 ¡ Datacenter ¡Design ¡– ¡Innovative ¡ ì TradiBonal ¡cooling ¡(chilled ¡ water ¡or ¡air) ¡is ¡expensive ¡ and ¡bad ¡for ¡the ¡environment ¡ ì Can ¡we ¡run ¡servers ¡hoker ¡ and ¡use ¡ambient ¡air ¡instead? ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

17 ¡ Why ¡Now ¡for ¡Cloud ¡Computing? ¡ ì Pervasive ¡broadband ¡Internet ¡ ¡ ì Standard ¡hardware/somware ¡stack ¡ ì Fast ¡x86 ¡/ ¡x86-­‑64 ¡virtualizaBon ¡ ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

18 ¡ x86 ¡Virtualization ¡ Virtual ¡machine ¡monitor ¡ ì controls ¡several ¡guest ¡ User ¡ ¡ User ¡ ¡ User ¡ ¡ domains ¡ ApplicaBon ¡ ApplicaBon ¡ ApplicaBon ¡ (Webserver) ¡ (Email ¡Server) ¡ (File ¡Server) ¡ Services ¡ ì CPU ¡scheduling ¡ ì Memory ¡allocaBon ¡ ì OS ¡#1 ¡ OS ¡#2 ¡ OS ¡#3 ¡ Resource ¡sharing ¡ ì ProtecBon/IsolaBon ¡ ì A ¡virtual ¡machine ¡provides ¡ Virtual ¡Machine ¡Monitor ¡(aka ¡“Hypervisor ”) ì the ¡same ¡type ¡of ¡services ¡to ¡a ¡ (Examples: Xen, VMWare) ¡ guest ¡domain ¡that ¡a ¡general ¡ OS ¡provides ¡to ¡individual ¡ Hardware ¡ processes! ¡ ¡ (Processors, ¡memory, ¡I/O) ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

19 ¡ Sharing ¡Homogeneous ¡Resources ¡ Figure ¡from ¡hkp://www.qatar.cmu.edu/~msakr/15319-­‑s10/lectures/lecture02.pdf ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

20 ¡ Sharing ¡Heterogeneous ¡Resources ¡ Figure ¡from ¡hkp://www.qatar.cmu.edu/~msakr/15319-­‑s10/lectures/lecture02.pdf ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

21 ¡ More ¡Virtualization ¡ Virtual ¡Networks ¡ Virtual ¡Disks ¡ ì One ¡physical ¡datacenter ¡ ì One ¡storage ¡array ¡in ¡ network ¡that ¡is ¡shared ¡ datacenter ¡that ¡is ¡shared ¡ Each ¡customer ¡thinks ¡that ¡ ì Each ¡customer ¡OS ¡thinks ¡it ¡ ì their ¡virtual ¡machines ¡are ¡ is ¡managing ¡its ¡own ¡private ¡ in ¡the ¡same ¡rack ¡connected ¡ disk ¡ to ¡the ¡same ¡private ¡ But ¡in ¡reality, ¡it’s ¡just ¡a ¡file ¡ network ¡ ì spread ¡out ¡across ¡many ¡ But ¡in ¡reality, ¡they ¡could ¡be ¡ ì disks ¡of ¡a ¡large ¡array! ¡ widely ¡separated! ¡ ì Why ¡is ¡this ¡useful? ¡ ì Why ¡is ¡this ¡useful? ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

22 ¡ Spectrum ¡of ¡Cloud ¡Designs ¡ ì VirtualizaBon ¡provides ¡ isola9on ¡between ¡customers ¡ Share ¡CPU, ¡memory, ¡disk ¡dynamically ¡ ì ì Tradeoff: ¡Flexibility/portability ¡versus ¡built-­‑in ¡features ¡ Amazon ¡EC2 ¡ ì ì VirtualizaBon ¡at ¡the ¡ instruc9on/hardware ¡level ¡ Microsom ¡Azure ¡ ì ì VirtualizaBon ¡at ¡the ¡ bytecode ¡level ¡ Google ¡AppEngine ¡ ì ì VirtualizaBon ¡at ¡the ¡ framework ¡level ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡

23 ¡ Amazon ¡EC2 ¡ ì Amazon ¡sells ¡you ¡one ¡virtual ¡ ¡ machine ¡instance ¡(or ¡a ¡thousand!) ¡ ì You ¡configure ¡the ¡OS ¡ ì You ¡configure ¡the ¡applicaBon ¡somware ¡ ì Thin ¡API ¡(related ¡to ¡starBng/stopping ¡machines) ¡ ì VirtualizaBon: ¡raw ¡CPU ¡cycles, ¡block-­‑device ¡storage, ¡ IP-­‑level ¡connecBvity ¡ ì Advantages? ¡ ì Disadvantages? ¡ Cloud ¡Compu9ng ¡ Spring ¡2016 ¡