Energy-Efficient Circuit Design Kirk Pruhs with - PowerPoint PPT Presentation

Energy-­‑Efficient ¡Circuit ¡Design ¡ ¡ Kirk ¡Pruhs ¡ ¡ with ¡Antonios ¡Antoniadis, ¡Neal ¡Barcelo, ¡ Michael ¡Nugent, ¡and ¡Michele ¡Scquizzato ¡

Moore’s ¡Gap ¡ • Moore’s ¡Law: ¡Transistor ¡density ¡doubles ¡every ¡18-­‑24 ¡ months. ¡ • Computer ¡performance ¡has ¡not ¡kept ¡pace ¡over ¡the ¡last ¡10 ¡ years ¡due ¡to ¡the ¡prohibiRve ¡cost ¡of ¡cooling ¡such ¡a ¡high ¡ density ¡of ¡switches. ¡ ¡The ¡result ¡is ¡“Moore’s ¡Gap”. ¡ • One ¡possible ¡parRal ¡soluRon: ¡Near ¡Threshold ¡CompuRng ¡

Transistors ¡101 ¡ High ¡Voltage: ¡ Low ¡Voltage: ¡ • The ¡building ¡blocks ¡of ¡computers ¡ Voltage ¡to ¡turn ¡“on” ¡ • Acts ¡as ¡a ¡switch ¡when ¡supplied ¡ with ¡a ¡high ¡voltage ¡ Threshold ¡ ¡ • Threshold ¡Voltage: ¡The ¡lowest ¡ Voltage ¡ Open ¡or ¡ voltage ¡at ¡which ¡the ¡switch ¡works ¡ Closed? ¡ (ideally) ¡ ?? ¡ • In ¡reality, ¡the ¡probability ¡that ¡the ¡ switch ¡works ¡depends ¡on ¡the ¡ difference ¡between ¡the ¡supply ¡and ¡ threshold ¡voltages. ¡

Choosing ¡the ¡Supply ¡Voltage ¡ • TradiRonal ¡soluRon: ¡Increase ¡supply ¡voltage ¡ so ¡that ¡the ¡probability ¡of ¡error ¡is ¡negligible. ¡ • Benefits: ¡ – Increased ¡reliability ¡ – Decreased ¡delays ¡

Near-­‑Threshold ¡CompuRng ¡ • Set ¡the ¡supply ¡voltage ¡ closer ¡to ¡the ¡threshold ¡ voltage ¡ • Save ¡energy ¡per ¡ Failure ¡ Probability ¡ transistor ¡ • How ¡to ¡handle ¡the ¡ Voltage ¡ decreased ¡transistor ¡ reliability? ¡

SoluRon: ¡Fault-­‑Tolerant ¡Circuits ¡ SRAM ¡circuits ¡ • TradiRonal ¡Approach: ¡ • Near-­‑Threshold ¡ – Smaller ¡number ¡of ¡ Approach ¡ transistors ¡ vs. ¡ – Larger ¡number ¡of ¡ – Less ¡fault ¡tolerant ¡ transistors ¡ – Higher ¡energy ¡per ¡ – More ¡fault ¡tolerant ¡ transistor ¡ – Lower ¡energy ¡per ¡ transistor ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡

Balancing ¡Act ¡ How ¡can ¡we ¡design ¡fault-­‑tolerant ¡circuits ¡that ¡ balance ¡the ¡conflicRng ¡demands ¡of ¡energy ¡ efficiency ¡per ¡transistor ¡and ¡the ¡number ¡of ¡ transistors? ¡

Modeling: ¡Abstract ¡from ¡Transistors ¡to ¡ Gates ¡ • Gates ¡are ¡composed ¡of ¡ transistors, ¡e.g., ¡ – High ¡Voltage: ¡1 ¡ – Low ¡Voltage: ¡0 ¡ Two ¡transistor ¡AND ¡gate ¡

Modeling: ¡Energy-­‑Error ¡RelaRonship ¡ • For ¡each ¡gate ¡g ¡we ¡can ¡ choose ¡voltage ¡supply ¡ Failure ¡ v ¡ Probability ¡ – Induces ¡energy ¡usage ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ – Probability ¡of ¡failure ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ε g ¡= ¡2 -­‑v ¡ – Therefore, ¡failure-­‑to-­‑ energy ¡funcRon ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ E(ε) ¡= ¡log 2 ¡(1/ε) ¡ Voltage ¡

Modeling: ¡Error ¡ Example ¡– ¡3 ¡AND ¡Gates ¡ Each ¡gate ¡fails ¡independently ¡with ¡probability ¡ 𝜗 ¡ 0 ¡ 𝜗 ¡ ¡ ¡ 1 ¡ 𝜗 ¡ ¡ 1 ¡ ¡ 𝜗 ¡ ¡ ¡ 1 ¡

Modeling: ¡Error ¡ Example ¡– ¡3 ¡AND ¡Gates ¡ Each ¡gate ¡fails ¡independently ¡with ¡probability ¡ 𝜗 ¡ 0 ¡ 𝜗 ¡ ¡ ¡ 1 ¡ 𝜗 ¡ ¡ 1 ¡ ¡ 𝜗 ¡ ¡ ¡ 1 ¡

Modeling: ¡Error ¡ Example ¡– ¡3 ¡AND ¡Gates ¡ Each ¡gate ¡fails ¡independently ¡with ¡probability ¡ 𝜗 ¡ 0 ¡ 0 ¡ 𝜗 ¡ ¡ ¡ 1 ¡ 𝜗 ¡ ¡ 1 ¡ ¡ 𝜗 ¡ ¡ ¡ 1 ¡

Modeling: ¡Error ¡ Example ¡– ¡3 ¡AND ¡Gates ¡ Each ¡gate ¡fails ¡independently ¡with ¡probability ¡ 𝜗 ¡ 0 ¡ 0 ¡ 𝜗 ¡ ¡ ¡ 1 ¡ 𝜗 ¡ ¡ 1 ¡ ¡ 𝜗 ¡ ¡ ¡ 1 ¡

Modeling: ¡Error ¡ Example ¡– ¡3 ¡AND ¡Gates ¡ Each ¡gate ¡fails ¡independently ¡with ¡probability ¡ 𝜗 ¡ 0 ¡ 0 ¡ 𝜗 ¡ ¡ ¡ 1 ¡ 𝜗 ¡ ¡ 0 ¡ 1 ¡ ¡ 𝜗 ¡ ¡ ¡ 1 ¡

Modeling: ¡Error ¡ Example ¡– ¡3 ¡AND ¡Gates ¡ Each ¡gate ¡fails ¡independently ¡with ¡probability ¡ 𝜗 ¡ 0 ¡ 0 ¡ 𝜗 ¡ ¡ ¡ 1 ¡ 𝜗 ¡ ¡ 0 ¡ 1 ¡ ¡ 𝜗 ¡ ¡ ¡ 1 ¡

Modeling: ¡Error ¡ Example ¡– ¡3 ¡AND ¡Gates ¡ Each ¡gate ¡fails ¡independently ¡with ¡probability ¡ 𝜗 ¡ 0 ¡ 0 ¡ 𝜗 ¡ ¡ ¡ 1 ¡ 0 ¡ 𝜗 ¡ ¡ 0 ¡ 1 ¡ ¡ 𝜗 ¡ ¡ ¡ 1 ¡

First ¡QuesRon ¡We ¡Asked ¡Ourselves ¡ Aker ¡Modeling ¡ • What ¡are ¡some ¡interesRng ¡ quesRons ¡in ¡this ¡sehng ¡that ¡might ¡ be ¡tractable? ¡ – Most ¡natural: ¡Given ¡a ¡funcRon/ relaRon, ¡what ¡is ¡the ¡least ¡energy ¡ circuit ¡layout ¡and ¡threshold ¡voltage ¡ sehng ¡to ¡compute ¡that ¡funcRon? ¡ • Way ¡too ¡hard ¡even ¡without ¡gate ¡faults! ¡

Our ¡Results ¡ [ITCS ¡14] ¡ • General ¡lower ¡bound ¡on ¡energy ¡required ¡to ¡reliably ¡ compute ¡a ¡relaRon. ¡ • General ¡upper ¡bound ¡on ¡energy ¡required ¡to ¡reliably ¡ compute ¡a ¡relaRon. ¡ • Instances ¡where ¡heterogeneous ¡voltages ¡are ¡ not ¡helpful. ¡ • Instances ¡where ¡heterogeneous ¡voltages ¡are ¡helpful. ¡ [To ¡be ¡submi6ed ¡to ¡Green ¡Compu;ng ¡Conference ¡14] ¡ • Hardness ¡and ¡approximaRon ¡for ¡compuRng ¡the ¡minimum ¡ energy ¡for ¡a ¡given ¡circuit. ¡

Our ¡Results ¡ [ITCS ¡14] ¡ • General ¡lower ¡bound ¡on ¡energy ¡required ¡to ¡reliably ¡ compute ¡a ¡relaRon. ¡ • General ¡upper ¡bound ¡on ¡energy ¡required ¡to ¡reliably ¡ compute ¡a ¡relaRon. ¡ • Instances ¡where ¡heterogeneous ¡voltages ¡are ¡ not ¡helpful. ¡ • Instances ¡where ¡heterogeneous ¡voltages ¡are ¡helpful. ¡ [To ¡be ¡submi6ed ¡to ¡Green ¡Compu;ng ¡Conference ¡14] ¡ • Hardness ¡and ¡approximaRon ¡for ¡compuRng ¡the ¡minimum ¡ energy ¡for ¡a ¡given ¡circuit. ¡

Lower ¡Bound ¡ Our ¡Results ¡ Theorem: ¡Given ¡ ¡and ¡a ¡relaRon ¡ ¡with ¡sensiRvity ¡, ¡ any ¡circuit ¡that ¡computes ¡ ¡w.p. ¡ ¡requires ¡Ω(s ¡log ¡s ¡ (1-­‑2√δ)/δ) ¡energy. ¡ ¡ • The ¡sensiRvity ¡of ¡ ¡on ¡an ¡input ¡ ¡is ¡the ¡number ¡of ¡ bits ¡of ¡ ¡that, ¡if ¡flipped, ¡change ¡the ¡output ¡of ¡. ¡ ¡ • The ¡sensiRvity ¡of ¡ ¡is ¡the ¡maximum ¡sensiRvity ¡of ¡ ¡ over ¡all ¡inputs. ¡ ¡ . ¡

Energy ¡Lower ¡Bound ¡ Proof ¡Idea ¡ • Fault-­‑tolerant ¡lower ¡bound ¡gives ¡a ¡lower ¡bound ¡on ¡ circuit ¡size ¡for ¡each ¡fixed ¡ 𝜗 . ¡ • Energy ¡lower ¡bound ¡follows ¡from ¡finding ¡the ¡ 𝜗 ¡that ¡ minimizes ¡the ¡circuit ¡energy. ¡ Energy ¡ 𝜗 ¡

Our ¡Results ¡ [ITCS ¡14] ¡ • General ¡lower ¡bound ¡on ¡energy ¡required ¡to ¡reliably ¡ compute ¡a ¡relaRon. ¡ • General ¡upper ¡bound ¡on ¡energy ¡required ¡to ¡reliably ¡ compute ¡a ¡relaRon. ¡ • Instances ¡where ¡heterogeneous ¡voltages ¡are ¡ not ¡helpful. ¡ • Instances ¡where ¡heterogeneous ¡voltages ¡are ¡helpful. ¡ [To ¡be ¡submi6ed ¡to ¡Green ¡Compu;ng ¡Conference ¡14] ¡ • Hardness ¡and ¡approximaRon ¡for ¡compuRng ¡the ¡minimum ¡ energy ¡for ¡a ¡given ¡circuit. ¡

Upper ¡Bound ¡ Theorem: ¡Given ¡a ¡circuit ¡with ¡ ¡gates ¡that ¡ computes ¡a ¡relaRon ¡ ¡(with ¡no ¡failures), ¡there ¡is ¡a ¡ circuit ¡that ¡uses ¡O(N ¡log ¡(N/δ)) ¡energy ¡and ¡ correctly ¡computes ¡the ¡relaRon ¡with ¡probability ¡ 1-­‑δ ¡ ¡ ¡

Energy ¡Upper ¡Bound ¡ Proof ¡Idea ¡ • Fault-­‑tolerant ¡upper ¡bound ¡gives ¡a ¡construcRon ¡with ¡ different ¡circuit ¡size ¡for ¡each ¡fixed ¡ 𝜗 . ¡ • Energy ¡upper ¡bound ¡follows ¡from ¡finding ¡the ¡ 𝜗 ¡that ¡ minimizes ¡the ¡circuit ¡energy. ¡ Energy ¡ 𝜗 ¡