Privacy as a tool for Robust Mechanism Design in Large Markets - PowerPoint PPT Presentation

Privacy ¡as ¡a ¡tool ¡for ¡Robust ¡ Mechanism ¡Design ¡ in ¡Large ¡Markets Aaron ¡Roth ¡ ¡ ¡ Based ¡on ¡joint ¡works ¡with: ¡ ¡ Rachel ¡Cummings, ¡Jus;n ¡Hsu, ¡Zhiyi ¡Huang, ¡Sampath ¡Kannan, ¡ Michael ¡Kearns, ¡Mallesh ¡Pai, ¡Jamie ¡Morgenstern, ¡Ryan ¡Rogers, ¡ Tim ¡Roughgarden ¡Jon ¡Ullman, ¡and ¡Steven ¡Wu ¡

Large ¡Games ¡and ¡Markets

Large ¡Games ¡and ¡Markets • The ¡ common ¡situa;on ¡when ¡we ¡have: ¡ • 𝑜 ¡agents ¡interac;ng ¡( 𝑜 ¡is ¡a ¡ big ¡number) ¡ • The ¡agents ¡are ¡ small ¡(No ¡single ¡other ¡agent’s ¡ac;on ¡has ¡a ¡significant ¡affect ¡ on ¡ my ¡u;lity). ¡ ¡ • Examples: ¡Traffic ¡rou;ng, ¡inves;ng, ¡college ¡admissions ¡

Large ¡Games ¡and ¡Markets • Difficul;es: ¡ • Definitely ¡not ¡games ¡of ¡complete ¡informa;on ¡ • Players ¡likely ¡have ¡ no ¡informa;on ¡about ¡the ¡types ¡of ¡their ¡opponents ¡(or ¡ even ¡the ¡number) ¡– ¡not ¡even ¡distribu;onal ¡informa;on ¡ • … ¡or ¡even ¡about ¡the ¡payoff ¡structure ¡of ¡the ¡game ¡ • … ¡and ¡no ¡means ¡of ¡communica;ng ¡with ¡them ¡ • So ¡equilibrium ¡selec;on ¡becomes ¡a ¡big ¡problem ¡

Large ¡Games ¡and ¡Markets • Makes ¡ robustness ¡especially ¡important ¡ • Want ¡ dominant ¡strategy ¡solu;ons ¡without ¡Bayesian ¡assump;ons, ¡or ¡at ¡ least.. ¡ • Prior-­‑free ¡( ex-­‑post ) ¡Nash ¡equilibria ¡ • Want ¡light-­‑weight ¡solu;ons ¡to ¡ equilibrium ¡selec8on ¡problems ¡ • But ¡– ¡Largeness ¡should ¡also ¡ help ¡us ¡ • Insensi;vity ¡might ¡let ¡us ¡achieve ¡things ¡that ¡are ¡impossible ¡in ¡small ¡markets. ¡ ¡

Large ¡Games ¡and ¡Markets • Intui;on: ¡``Insensi;vity ¡to ¡agent ¡ac;ons ¡should ¡yield ¡approximate ¡ truthfulness’’ ¡ • Important ¡point: ¡Insensi;vity ¡of ¡agent ¡ u8lity ¡func8ons ¡to ¡single ¡ opponent ¡devia;ons ¡is ¡not ¡the ¡same ¡as ¡insensi;vity ¡of ¡the ¡ mechanism ¡outcome ¡to ¡single ¡agent ¡devia;ons. ¡ ¡ • In ¡mechanism ¡design, ¡we ¡are ¡building ¡ algorithms ¡whose ¡sensi;vity ¡we ¡must ¡ reason ¡about. ¡ ¡ ¡

Differen>al ¡Privacy ¡[DMNS06] ¡ A ¡measure ¡of ¡Algorithmic ¡Stability • Let ¡ 𝑢 ∈ ​ 𝒰 ↑𝑜 ¡denote ¡an ¡arbitrary ¡type ¡profile, ¡and ¡let ¡ ​𝑢↓𝑗↑ ′ ∈𝒰 ¡be ¡any ¡ possible ¡report ¡for ¡agent ¡ 𝑗 . ¡Then ¡a ¡mechanism ¡ 𝑁 : ​ 𝒰 ↑𝑜 →𝒫 ¡is ¡ 𝜗 -­‑ differen;ally ¡private ¡if ¡for ¡all ¡ 𝑇 ⊆𝒫 : ¡ ¡ ​ Pr ⁠ [𝑁(𝑢) ∈ 𝑇] ≤(1+ 𝜗 )Pr​[ 𝑁(​𝑢↓𝑗↑ ′ , ¡ ​𝑢↓ − 𝑗 ) ¡∈ 𝑇 ] ¡ ¡ In ¡par;cular, ¡for ¡any ¡ 𝑣 :𝒫→ ​ ℝ ↓ ≥0 : ¡ ​ 𝔽 ↓𝑦 ∼ 𝑁 ( 𝑢 ) [𝑣(𝑦)] ≤ ( 1+ 𝜗)​ 𝔽 ↓𝑦 ∼ 𝑁(​𝑢↓𝑗↑ ′ , ​𝑢↓ − 𝑗 ) [ 𝑣(𝑦) ] ¡ ¡ Algorithmically ¡enforced ¡ informa8onal ¡smallness . ¡ ¡

Joint ¡Differen>al ¡Privacy ¡ A ¡slightly ¡relaxed ¡measure • Let ¡ 𝑢 ∈ ​ 𝒰 ↑𝑜 ¡denote ¡an ¡arbitrary ¡type ¡profile, ¡and ¡let ¡ ​𝑢↓𝑗↑ ′ ∈𝒰 ¡be ¡any ¡ possible ¡report ¡for ¡agent ¡ 𝑗 . ¡Then ¡a ¡mechanism ¡ 𝑁 : ​ 𝒰 ↑𝑜 → ​ 𝒫 ↑𝑜 ¡is ¡ 𝜗 -­‑ jointly ¡differen;ally ¡private ¡if ¡for ¡all ¡ ​𝑇↓ − 𝑗 ⊆ ​ 𝒫 ↑𝑜 −1 : ¡ ¡ ​ Pr ⁠ [𝑁​(𝑢)↓ − 𝑗 ∈ ​𝑇↓ − 𝑗 ] ≤(1+ 𝜗 )Pr​[ 𝑁​(​𝑢↓𝑗↑ ′ , ¡ ​𝑢↓ − 𝑗 )↓ − 𝑗 ¡∈ ​𝑇↓ − 𝑗 ] ¡ ¡ In ¡par;cular, ¡for ¡any ¡ 𝑣 : ​ 𝒫 ↑𝑜 −1 → ​ ℝ ↓ ≥0 : ¡ ​ 𝔽 ↓𝑦 ∼ 𝑁​(𝑢)↓ − 𝑗 [𝑣(𝑦)] ≤ ( 1+ 𝜗)​ 𝔽 ↓𝑦 ∼ 𝑁​(​𝑢↓𝑗↑ ′ , ​𝑢↓ − 𝑗 )↓ − 𝑗 [ 𝑣(𝑦) ] ¡ ¡ Player ¡ 𝑗 ’s ¡output ¡can ¡depend ¡arbitrarily ¡on ¡ ​𝑢↓𝑗 . ¡

A ¡Meta-­‑Theorem • Compu;ng ¡equilibria ¡subject ¡to ¡joint ¡differen;al ¡privacy ¡yields ¡ robust, ¡asympto;cally ¡truthful ¡mechanisms ¡ • Ex-­‑post ¡(i.e. ¡in ¡se\ngs ¡of ¡incomplete ¡informa;on ¡even ¡with ¡no ¡distribu;onal ¡ assump;ons) ¡ • In ¡many ¡se\ngs, ¡for ¡many ¡kinds ¡of ¡equilibria… ¡ ¡ • Some ¡instan;a;ons! ¡

The ¡Alloca>on ¡Problem Given: ¡ 𝑜 ¡bidders, ¡ 𝑛 ¡items ¡ Private ¡valua;on ¡func;ons ¡ ​𝑤↓𝑗 : ​ 2 ↑ [ 𝑛 ] →[0,1] ¡ Find: ¡A ¡feasible ¡alloca;on ¡ ​𝑇↓ 1 ,…, ​𝑇↓𝑜 ¡to ¡maximize: ¡ 𝑇𝑋(𝑤 , ¡ 𝑇) = ∑𝑗 =1 ↑𝑜▒​𝑤↓𝑗 ( ​𝑇↓𝑗 ) ¡ VCG ¡prices ¡will ¡in ¡general ¡be ¡complex: ¡not ¡ item ¡pricings, ¡not ¡anonymous, ¡not ¡envy ¡free. ¡ ¡

Walrasian ¡Equilibrium • An ¡item ¡pricing ¡ ​𝑞↓ 1 ,…, ¡ ​𝑞↓𝑛 ¡together ¡with ¡an ¡alloca;on ¡ ​𝑇↓ 1 ,…, ​𝑇↓𝑜 ¡ form ¡an ¡ 𝛽 -­‑approximate ¡Walrasian ¡equilibrium ¡if: ¡ For ¡all ¡ 𝑗 : ¡ ​𝑤↓𝑗 (​𝑇↓𝑗 ) − ∑𝑘 ∈ ​𝑇↓𝑗 ↑▒​𝑞↓𝑘 ≥ ​ max ┬𝑇 ⊆[ 𝑛 ] ⁠ (​𝑤↓𝑗 (𝑇) − ∑𝑘 ∈ 𝑇↑▒​ 1. 𝑞↓𝑘 ) − 𝛽 ¡ 2. For ¡all ¡ 𝑘 : ¡If ¡ 𝑘 ∉ ​𝑇↓ 1 ∪…∪ ​𝑇↓𝑜 ¡then ¡ ​𝑞↓𝑘 =0 ¡ ¡ “Simultaneously, ¡everyone ¡is ¡ge\ng ¡their ¡favorite ¡bundle ¡given ¡the ¡ prices” ¡ ¡ Bonus ¡Fact ¡(“First ¡Welfare ¡Theorem”) ¡ If ¡ ​𝑇↓ 1 ,…, ​𝑇↓𝑜 ¡is ¡part ¡of ¡an ¡ 𝛽 -­‑approximate ¡Walrasian ¡equilibrium, ¡then: ¡ ∑𝑗↑▒​𝑤↓𝑗 (​𝑇↓𝑗 ) ≥ OPT − 𝛽𝑜 ¡

Private ¡Walrasian ¡Equilibria ¡yield ¡ Asympto>cally ¡Truthful ¡Item ¡Pricings • Theorem: ¡Any ¡ 𝜗 -­‑jointly ¡differen;ally ¡private ¡mechanism ¡ 𝑁 ¡which ¡ computes ¡an ¡alloca;on ¡ ​𝑇↓ 1 ,…, ​𝑇↓𝑜 ¡and ¡price ¡vector ¡ 𝑞 ¡that ¡form ¡an ¡ 𝛽 -­‑approximate ¡Walrasian ¡equilibrium ¡makes ¡truthful ¡repor;ng ¡an ¡ ¡ ¡ ¡ ¡ ( 𝜗 + 𝛽 ) -­‑approximate ¡dominant ¡strategy. ¡ ¡ Most ¡interes;ng ¡if ¡we ¡can ¡take ¡ (𝜗 + 𝛽) →0 ¡as ¡the ¡market ¡grows ¡large. ¡

Private ¡Walrasian ¡Equilibria ¡yield ¡ Asympto>cally ¡Truthful ¡Item ¡Pricings Proof: ¡ ¡Fix ¡any ¡ 𝑗 , ¡ 𝑤 , ¡ ​𝑤↓𝑗↑ ′ ¡and ¡let ¡ (𝑇 , 𝑞) = 𝑁(𝑤) ¡and ¡ (​𝑇↑ ′ , ¡ ​𝑞↑ ′ ) = 𝑁 ( ​𝑤↓𝑗↑ ′ , ¡ ​𝑤↓ − 𝑗 ) . ¡ We ¡have: ¡ 𝛽 − 𝑋𝐹 ¡ 𝔽[ ​𝑤↓𝑗 (​𝑇↓𝑗 ) − ∑𝑘 ∈ ​𝑇↓𝑗 ↑▒​𝑞↓𝑘 ]≥ ​ max ┬𝑇 ⊆[ 𝑛 ] ⁠ [​𝑤↓𝑗 (𝑇) −𝔽 [∑𝑘 ∈ 𝑇↑▒​ 𝑞↓𝑘 ]] − 𝛽 ¡ ≥ ​ max ┬𝑇 ⊆ [𝑛] ⁠ [​𝑤↓𝑗 (𝑇) − ( 1+ 𝜗) 𝔽 [∑𝑘 ∈ 𝑇↑▒​𝑞↓𝑘↑ ′ ]] − 𝛽 ¡ 𝜗 -­‑DP ¡ ≥ ​ max ┬𝑇 ⊆ [𝑛] ⁠ [​𝑤↓𝑗 (𝑇) −𝔽 [∑𝑘 ∈ 𝑇↑▒​𝑞↓𝑘↑ ′ ]] − 𝛽 − 𝜗 ¡ ≥ ​𝑤↓𝑗 (​𝑇↓𝑗↑ ′ ) − ¡ ∑𝑘 ∈ ​𝑇↓𝑗 ↑▒​𝑞↓𝑘↑ ′ − 𝛽 − 𝜗 ¡ ¡ ¡

Private ¡Walrasian ¡Equilibria ¡yield ¡ Asympto>cally ¡Truthful ¡Item ¡Pricings • Theorem: ¡There ¡is ¡a ¡mechanism ¡such ¡that ¡for ¡bidders ¡with ¡arbitrary ¡ 𝑙 -­‑demand ¡valua;ons ¡over ¡ 𝑛 ¡types ¡of ¡goods ¡of ¡supply ¡ 𝑡 ¡each, ¡ Large ¡market ¡assump;on: ¡supply ¡grows ¡with ¡ computes ¡an ¡ 𝛽 -­‑approximate ¡Walrasian ¡equilibrium ¡subject ¡to ¡ 𝜗 -­‑joint ¡ market. ¡ ¡ differen;al ¡privacy ¡whenever: ¡ No ¡assump;on ¡on ¡bidder ¡valua;ons! ¡ 𝑡 ≥ ¡ ​𝑃 (​𝑙 ⋅ 𝑛/​𝛽↑ 2 𝜗 ) ¡ ¡ ¡ There ¡is ¡an ¡ 𝜃 -­‑approximately ¡dominant ¡strategy ¡truthful ¡mechanism ¡that ¡uses ¡ an ¡anonymous ¡item ¡pricing. ¡Whenever: ¡ 𝑡 ≥ 𝜕 ( 𝑙 ⋅ 𝑛 ) ¡ We ¡can ¡take ¡ 𝜃 = 𝑝 (1) . ¡

What ¡else ¡can ¡we ¡do? ¡

Many-­‑to-­‑one ¡Stable ¡Matchings