Discussion of Privacy as a Tool for Robust Mechanism - PowerPoint PPT Presentation

Discussion ¡of ¡Privacy ¡as ¡a ¡Tool ¡for ¡Robust ¡ Mechanism ¡Design ¡in ¡Large ¡Markets ¡ ¡ Leeat ¡Yariv ¡

General ¡Theme ¡ • Interpret ¡differenAal ¡privacy ¡as ¡a ¡criterion ¡for ¡ robustness ¡of ¡mechanisms ¡ • A ¡unilateral ¡deviaAon ¡does ¡not ¡affect ¡outcomes ¡ substanAally ¡ • Show ¡link ¡between ¡differenAal ¡privacy ¡and ¡truthful ¡ revelaAon ¡as ¡an ¡approximately ¡dominant ¡strategy ¡in ¡ large ¡games ¡ • Very ¡nice ¡collecAon ¡of ¡results! ¡

Outline ¡for ¡Discussion ¡ • Mostly ¡contrast ¡approach ¡with ¡that ¡in ¡ Economics ¡ • Robustness ¡in ¡Economics ¡ – Making ¡distribuAonal ¡assumpAons ¡ – Robust ¡implementaAon ¡ • Large ¡markets ¡literature ¡in ¡Economics ¡

Making ¡DistribuAonal ¡AssumpAons ¡ • Focus ¡on ¡the ¡matching ¡setup ¡ • One-­‑to-­‑one ¡matching ¡(slightly ¡different) ¡ • Firms: ¡{F 1 , ¡F 2 ,…,F n } ¡ • Workers: ¡{W 1 ,W 2 ,…,W n } ¡

Random ¡Matching ¡ • Suppose ¡at ¡the ¡outset, ¡match ¡uAliAes ¡are ¡randomly ¡ selected: ¡ • U f ij ¡– ¡Firm ¡i’s ¡uAlity ¡from ¡matching ¡with ¡j ¡ • U w ij ¡– ¡Worker ¡j’s ¡uAlity ¡from ¡matching ¡with ¡i ¡ • Suppose ¡U f ij, ¡ U w ij ¡ ¡ are ¡i.i.d ¡and ¡uniform ¡on ¡[0, ¡1] ¡ • Assume ¡all ¡prefer ¡to ¡be ¡matched ¡with ¡anyone ¡over ¡ remaining ¡unmatched ¡

Random ¡Matching ¡ ¡ ¡ ¡ ¡ ¡ U f 11 , ¡ U w 11 ¡ U f 12 , ¡ U w 12 ¡ ¡ ¡ ¡ U ¡= ¡ ¡ ¡ ¡ ¡ U f nn , ¡ U w nn ¡ ¡ ¡ • We ¡know ¡that ¡stable ¡mechanisms ¡are ¡not ¡ incenAve ¡compaAble ¡ ¡ ¡

Random ¡Matching ¡ How ¡to ¡find ¡an ¡almost ¡stable ¡matching ¡in ¡a ¡way ¡that ¡makes ¡truthful ¡telling ¡ • approximately ¡incenAve ¡compaAble? ¡ Pick ¡an ¡ε ¡> ¡0 ¡ • Agents ¡report ¡their ¡true ¡“types” ¡– ¡vector ¡of ¡match ¡uAliAes ¡ • Create ¡a ¡bi-­‑parAte ¡graph, ¡with ¡firms ¡on ¡one ¡side, ¡workers ¡on ¡the ¡other ¡ • side ¡ Generate ¡a ¡link ¡between ¡i ¡and ¡j ¡if ¡and ¡only ¡if ¡ ¡ • ¡ ¡ ¡ ¡ ¡ ¡U f ij ¡ ¡ > ¡1 ¡– ¡ε ¡ ¡and ¡ ¡U w ij ¡ ¡ > ¡1 ¡– ¡ε ¡ ¡ A ¡link ¡occurs ¡with ¡probability ¡ε 2 ¡ ¡(uniform ¡distribuAon ¡on ¡[0,1]) ¡ •

Random ¡Matching ¡ How ¡to ¡find ¡an ¡almost ¡stable ¡matching ¡in ¡a ¡way ¡that ¡makes ¡truthful ¡telling ¡ • approximately ¡incenAve ¡compaAble? ¡ Pick ¡an ¡ε ¡> ¡0 ¡ • Agents ¡report ¡their ¡true ¡“types” ¡– ¡vector ¡of ¡match ¡uAliAes ¡ • Create ¡a ¡bi-­‑parAte ¡graph, ¡with ¡firms ¡on ¡one ¡side, ¡workers ¡on ¡the ¡other ¡ • side ¡ Generate ¡a ¡link ¡between ¡i ¡and ¡j ¡if ¡and ¡only ¡if ¡ ¡ • ¡ ¡ ¡ ¡ ¡ ¡U f ij ¡ ¡ > ¡1 ¡– ¡ε ¡ ¡and ¡ ¡U w ij ¡ ¡ > ¡1 ¡– ¡ε ¡ ¡ A ¡link ¡occurs ¡with ¡probability ¡ε 2 ¡ ¡(uniform ¡distribuAon ¡on ¡[0,1]) ¡ •

Random ¡Matching ¡ How ¡to ¡find ¡an ¡almost ¡stable ¡matching ¡in ¡a ¡way ¡that ¡makes ¡truthful ¡telling ¡ • approximately ¡incenAve ¡compaAble? ¡ Pick ¡an ¡ε ¡> ¡0 ¡ • Agents ¡report ¡their ¡“types” ¡– ¡vector ¡of ¡match ¡uAliAes ¡ • Create ¡a ¡bi-­‑parAte ¡graph, ¡with ¡firms ¡on ¡one ¡side, ¡workers ¡on ¡the ¡other ¡ • side ¡ Generate ¡a ¡link ¡between ¡i ¡and ¡j ¡if ¡and ¡only ¡if ¡ ¡ • ¡ ¡ ¡ ¡ ¡ ¡U f ij ¡ ¡ > ¡1 ¡– ¡ε ¡ ¡and ¡ ¡U w ij ¡ ¡ > ¡1 ¡– ¡ε ¡ ¡ A ¡link ¡occurs ¡with ¡probability ¡ε 2 ¡ ¡(uniform ¡distribuAon ¡on ¡[0,1]) ¡ •

Random ¡Matching ¡ How ¡to ¡find ¡an ¡almost ¡stable ¡matching ¡in ¡a ¡way ¡that ¡makes ¡truthful ¡telling ¡ • approximately ¡incenAve ¡compaAble? ¡ Pick ¡an ¡ε ¡> ¡0 ¡ • Agents ¡report ¡their ¡“types” ¡– ¡vector ¡of ¡match ¡uAliAes ¡ • Create ¡a ¡bi-­‑parAte ¡graph, ¡with ¡firms ¡on ¡one ¡side, ¡workers ¡on ¡the ¡other ¡ ¡ • Generate ¡a ¡link ¡between ¡i ¡and ¡j ¡if ¡and ¡only ¡if ¡ ¡ • ¡ ¡ ¡ ¡ ¡ ¡U f ij ¡ ¡ > ¡1 ¡– ¡ε ¡ ¡and ¡ ¡U w ij ¡ ¡ > ¡1 ¡– ¡ε ¡ ¡ A ¡link ¡occurs ¡with ¡probability ¡ε 2 ¡ ¡(uniform ¡distribuAon ¡on ¡[0,1]) ¡ •

Random ¡Matching ¡ How ¡to ¡find ¡an ¡almost ¡stable ¡matching ¡in ¡a ¡way ¡that ¡makes ¡truthful ¡telling ¡ • approximately ¡incenAve ¡compaAble? ¡ Pick ¡an ¡ε ¡> ¡0 ¡ • Agents ¡report ¡their ¡“types” ¡– ¡vector ¡of ¡match ¡uAliAes ¡ • Create ¡a ¡bi-­‑parAte ¡graph, ¡with ¡firms ¡on ¡one ¡side, ¡workers ¡on ¡the ¡other ¡ ¡ • Generate ¡a ¡link ¡between ¡i ¡and ¡j ¡if ¡and ¡only ¡if ¡ ¡ • ¡ ¡ ¡ ¡ ¡ ¡U f ij ¡ ¡ > ¡1 ¡– ¡ε ¡ ¡and ¡ ¡U w ij ¡ ¡ > ¡1 ¡– ¡ε ¡ ¡ A ¡link ¡occurs ¡with ¡probability ¡ε 2 ¡ ¡(uniform ¡distribuAon ¡on ¡[0,1]) ¡ •

Random ¡Matching ¡ ¡ Firms ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡Workers ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡

Random ¡Matching ¡ • Random ¡graph ¡– ¡probability ¡of ¡each ¡link ¡is ¡ε 2 ¡ • Erdos ¡and ¡Renyi ¡(1964): ¡ As ¡long ¡as ¡the ¡graph ¡is ¡connected ¡enough, ¡ namely ¡as ¡long ¡as ¡ε 2 ¡approaches ¡0 ¡slower ¡than ¡log(n)/n, ¡there ¡is ¡a ¡ perfect ¡matching ¡with ¡probability ¡ � ¡1 ¡ • In ¡the ¡induced ¡matching: ¡ – Any ¡blocking ¡pair ¡can ¡gain ¡at ¡most ¡ε ¡each ¡from ¡matching ¡ à ¡ almost ¡stable ¡ – Any ¡individual ¡can ¡gain ¡at ¡most ¡ε ¡from ¡mis-­‑reporAng, ¡regardless ¡ of ¡what ¡others’ ¡are ¡doing ¡ à ¡almost ¡incenAve ¡compaAble ¡ – [Does ¡it ¡saAsfy ¡differenAal ¡privacy?] ¡

Random ¡Matching ¡ • Random ¡graph ¡– ¡probability ¡of ¡each ¡link ¡is ¡ε 2 ¡ • Erdos ¡and ¡Renyi ¡(1964): ¡ As ¡long ¡as ¡the ¡graph ¡is ¡connected ¡enough, ¡ namely ¡as ¡long ¡as ¡ε 2 ¡approaches ¡0 ¡slower ¡than ¡log(n)/n, ¡there ¡is ¡a ¡ perfect ¡matching ¡with ¡probability ¡ � ¡1 ¡ • In ¡the ¡induced ¡matching: ¡ – Any ¡blocking ¡pair ¡can ¡gain ¡at ¡most ¡ε ¡each ¡from ¡matching ¡ à ¡ almost ¡stable ¡ – Any ¡individual ¡can ¡gain ¡at ¡most ¡ε ¡from ¡mis-­‑reporAng ¡ à ¡almost ¡ incenAve ¡compaAble ¡ – [Does ¡it ¡saAsfy ¡differenAal ¡privacy?] ¡

So ¡What’s ¡the ¡Problem? ¡ • This ¡seems ¡to ¡depend ¡on ¡distribuAonal ¡ assumpAons ¡(though ¡some ¡general ¡results ¡ exist ¡– ¡Lee, ¡2014) ¡ • Not ¡robust ¡to ¡ any ¡belief ¡about ¡others’ ¡ behavior ¡

Robust ¡ImplementaAon ¡ Wilson ¡Doctrine ¡(1987): ¡A ¡good ¡theory ¡of ¡mechanism ¡design ¡ should ¡not ¡rely ¡too ¡heavily ¡on ¡assumpAons ¡of ¡common ¡ knowledge ¡ ¡ • Desire ¡for ¡a ¡robust ¡mechanism ¡ • Desire ¡for ¡a ¡mechanism ¡that ¡is ¡“simple” ¡for ¡parAcipants ¡ • Desire ¡for ¡a ¡mechanism ¡that ¡is ¡“fair” ¡– ¡those ¡who ¡cannot ¡ make ¡complex ¡inferences ¡or ¡calculaAons ¡are ¡not ¡ disadvantaged ¡