Network Economics -- Lecture 3: Incen5ves in online - PowerPoint PPT Presentation

Network ¡Economics ¡ -­‑-­‑ ¡ Lecture ¡3: ¡Incen5ves ¡in ¡online ¡ systems ¡II: ¡robust ¡reputa5on ¡ systems ¡and ¡informa5on ¡elicita5on ¡ Patrick ¡Loiseau ¡ EURECOM ¡ Fall ¡2015 ¡ 1 ¡

References ¡ • Main: ¡ ¡ – N. ¡Nisam, ¡T. ¡Roughgarden, ¡E. ¡Tardos ¡and ¡V. ¡Vazirani ¡(Eds). ¡ “Algorithmic ¡Game ¡Theory”, ¡CUP ¡2007. ¡Chapters ¡27. ¡ ¡ • Available ¡online: ¡ hWp://www.cambridge.org/journals/nisan/downloads/Nisan_Non-­‑ printable.pdf ¡ ¡ • Addi5onal: ¡ ¡ – Yiling ¡Chen ¡and ¡Arpita ¡Gosh, ¡“Social ¡Compu5ng ¡and ¡User ¡ Generated ¡Content,” ¡EC’13 ¡tutorial ¡ • Slides ¡at ¡ hWp://www.arpitaghosh.com/papers/ec13_tutorialSCUGC.pdf ¡and ¡ hWp://yiling.seas.harvard.edu/wp-­‑content/uploads/ SCUGC_tutorial_2013_Chen.pdf ¡ ¡ – M. ¡Chiang. ¡“Networked ¡Life, ¡20 ¡Ques5ons ¡and ¡Answers”, ¡CUP ¡ 2012. ¡Chapters ¡3-­‑5. ¡ • See ¡the ¡videos ¡on ¡www.coursera.org ¡ ¡ 2 ¡

Outline ¡ 1. Introduc5on ¡ 2. Elici5ng ¡effort ¡and ¡honest ¡feedback ¡ 3. Reputa5on ¡based ¡on ¡transi5ve ¡trust ¡ 3 ¡

Outline ¡ 1. Introduc5on ¡ 2. Elici5ng ¡effort ¡and ¡honest ¡feedback ¡ 3. Reputa5on ¡based ¡on ¡transi5ve ¡trust ¡ 4 ¡

Importance ¡of ¡reputa5on ¡systems ¡ • Internet ¡enables ¡interac5ons ¡between ¡en55es ¡ • Benefit ¡depends ¡on ¡the ¡en55es ¡ability ¡and ¡ reliability ¡ • Revealing ¡history ¡of ¡previous ¡interac5on: ¡ – Informs ¡on ¡abili5es ¡ – Deter ¡moral ¡hazard ¡ • Reputa5on: ¡numerical ¡summary ¡of ¡previous ¡ interac5ons ¡records ¡ – Across ¡users ¡– ¡can ¡be ¡weighted ¡by ¡reputa5on ¡ (transi5vity ¡of ¡trust) ¡ – Across ¡5me ¡ 5 ¡

Reputa5on ¡systems ¡opera5on ¡ 6 ¡

AWacks ¡on ¡reputa5on ¡systems ¡ • Whitewashing ¡ • Incorrect ¡feedback ¡ • Sybil ¡aWack ¡ 7 ¡

A ¡simplis5c ¡model ¡ C ¡ D ¡ • Prisoner’s ¡dilemma ¡again! ¡ ¡ • One ¡shot ¡ C ¡ 1, ¡1 ¡ -­‑1, ¡2 ¡ – (D, ¡D) ¡dominant ¡ • Infinitely ¡repeated ¡ ¡ 2, ¡-­‑1 ¡ 0, ¡0 ¡ D ¡ – Discount ¡factor ¡δ ¡ 8 ¡

Equilibrium ¡with ¡2 ¡players ¡ • Grim ¡= ¡Cooperate ¡unless ¡the ¡other ¡player ¡ defected ¡in ¡the ¡previous ¡round ¡ • (Grim, ¡Grim) ¡is ¡a ¡subgame ¡perfect ¡Nash ¡ equilibrium ¡if ¡δ≥1/2 ¡ – We ¡only ¡need ¡to ¡consider ¡single ¡devia5ons ¡ • à ¡If ¡users ¡do ¡not ¡value ¡future ¡enough, ¡they ¡ don’t ¡cooperate ¡ 9 ¡

Game ¡with ¡N+1 ¡Players ¡(N ¡odd) ¡ • Each ¡round: ¡players ¡paired ¡randomly ¡ • With ¡reputa5on ¡(reputa5on-­‑grim): ¡agents ¡ begin ¡with ¡good ¡reputa5on ¡and ¡keep ¡it ¡as ¡long ¡ as ¡they ¡play ¡C ¡against ¡players ¡with ¡good ¡ reputa5on ¡and ¡D ¡against ¡those ¡with ¡bad ¡ones ¡ – SPNE ¡if ¡δ ¡≥ ¡1/2 ¡ ¡ • Without ¡reputa5on ¡(personalized-­‑grim): ¡keep ¡ track ¡of ¡previous ¡interac5on ¡with ¡same ¡agent ¡ – SPNE ¡if ¡δ ¡≥ ¡1-­‑1/(2N) ¡ ¡ 10 ¡

Whitewashing ¡ • Play ¡D ¡and ¡come ¡back ¡as ¡new ¡user! ¡ • Possible ¡to ¡avoid ¡this ¡with ¡entry ¡fee ¡ f ¡ 11 ¡

Outline ¡ 1. Introduc5on ¡ 2. Elici5ng ¡effort ¡and ¡honest ¡feedback ¡ 3. Reputa5on ¡based ¡on ¡transi5ve ¡trust ¡ 12 ¡

Different ¡seongs ¡ • How ¡to ¡enforce ¡honest ¡repor5ng ¡of ¡interac5on ¡ experience? ¡ ¡ 1. Objec5ve ¡informa5on ¡publicly ¡revealed: ¡can ¡just ¡ compare ¡report ¡to ¡real ¡outcome ¡ – E.g., ¡weather ¡predic5on ¡ 2. No ¡objec5ve ¡outcome ¡is ¡available ¡ – E.g., ¡product ¡quality ¡– ¡not ¡objec5ve ¡ – E.g., ¡product ¡breakdown ¡frequency ¡– ¡objec5ve ¡but ¡no ¡ revealed ¡ 13 ¡

The ¡Brier ¡scoring ¡rule ¡ • Expert ¡has ¡belief ¡q: ¡ – Sunny ¡with ¡proba ¡q, ¡rainy ¡with ¡proba ¡1-­‑q ¡ • Announces ¡predic5on ¡p ¡(proba ¡of ¡sunny) ¡ • How ¡to ¡incen5vize ¡honest ¡predic5on? ¡ – Give ¡him ¡“score” ¡ ¡ • S(p, ¡sunny) ¡= ¡1 ¡-­‑ ¡(1-­‑p) 2 ¡ • S(p, ¡rainy) ¡= ¡1 ¡-­‑ ¡p 2 ¡ • Expected ¡score ¡S(p, ¡q) ¡= ¡1-­‑q+q 2 -­‑(p-­‑q) 2 ¡ – Maximized ¡at ¡p=q ¡ 14 ¡

Proper ¡scoring ¡rules ¡ • Defini5on: ¡a ¡scoring ¡rule ¡is ¡proper ¡if ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡S(q, ¡q) ¡≥ ¡S(p, ¡q) ¡for ¡all ¡p ¡ • It ¡is ¡strictly ¡proper ¡if ¡the ¡inequality ¡is ¡strict ¡for ¡all ¡ p≠q ¡ • Brier ¡rule ¡is ¡strictly ¡proper ¡ • Other ¡strictly ¡proper ¡scoring ¡rule: ¡ ¡ – S(p, ¡state) ¡= ¡log ¡p state ¡ 15 ¡

Different ¡seongs ¡ • How ¡to ¡enforce ¡honest ¡repor5ng ¡of ¡interac5on ¡ experience? ¡ ¡ 1. Objec5ve ¡informa5on ¡publicly ¡revealed: ¡can ¡just ¡ compare ¡report ¡to ¡real ¡outcome ¡ – E.g., ¡weather ¡predic5on ¡ 2. No ¡objec5ve ¡outcome ¡is ¡available ¡ – E.g., ¡product ¡quality ¡– ¡not ¡objec5ve ¡ – E.g., ¡product ¡breakdown ¡frequency ¡– ¡objec5ve ¡but ¡no ¡ revealed ¡ 16 ¡

Peering ¡agreement ¡rewarding ¡ • Rewarding ¡agreement ¡is ¡not ¡good ¡ • If ¡a ¡good ¡outcome ¡is ¡likely ¡(e.g., ¡because ¡of ¡well ¡ noted ¡seller), ¡a ¡customer ¡will ¡not ¡report ¡a ¡bad ¡ experience ¡ à peer-­‑predic5on ¡method ¡ – Use ¡report ¡to ¡update ¡a ¡reference ¡distribu5on ¡of ¡ ra5ngs ¡(prior ¡distribu5on) ¡ – Reward ¡based ¡on ¡comparison ¡of ¡probabili5es ¡of ¡the ¡ reference ¡ra5ng ¡and ¡the ¡actual ¡reference ¡report ¡ 17 ¡

Model ¡ • Product ¡of ¡given ¡quality ¡(called ¡type) ¡observed ¡ with ¡errors ¡ • Each ¡rater ¡sends ¡feedback ¡to ¡central ¡ processing ¡center ¡ • Center ¡computes ¡rewards ¡based ¡exclusively ¡ on ¡raters ¡indica5ons ¡(no ¡independent ¡ informa5on) ¡ 18 ¡

Model ¡(2) ¡ • Finite ¡number ¡of ¡types ¡t=1, ¡…, ¡T ¡ • Commonly ¡known ¡prior ¡Pr 0 ¡ • Set ¡of ¡raters ¡I ¡ – Each ¡gets ¡a ¡‘signal’ ¡ – S={s 1 , ¡…, ¡s M }: ¡set ¡of ¡signals ¡ – S i : ¡signal ¡received ¡by ¡i, ¡distributed ¡as ¡f(.|t) ¡ 19 ¡

Example ¡ • Two ¡types: ¡H ¡(high) ¡and ¡L ¡(low) ¡ – Pr 0 (H)=.5, ¡Pr 0 (L)=.5 ¡ • Two ¡possible ¡signals: ¡h ¡or ¡l ¡ • f(h|H)=.85, ¡f(l|H)=.15, ¡f(h|L)=.45, ¡f(l|L)=.55 ¡ ¡ – Pr(h)=.65, ¡Pr(l)=.35 ¡ 20 ¡

Game ¡ • Rewards/others ¡ra5ngs ¡revealed ¡only ¡ayer ¡ receiving ¡all ¡reports ¡from ¡all ¡raters ¡ • à ¡simultaneous ¡game ¡ • x i : ¡i’s ¡report, ¡x ¡= ¡(x 1 , ¡…, ¡x I ): ¡vector ¡of ¡ announcements ¡ • x i m : ¡i’s ¡report ¡if ¡signal ¡s m ¡ • i’s ¡strategy: ¡ ¡ • τ i (x): ¡payment ¡to ¡i ¡if ¡vector ¡of ¡announcement ¡x ¡ 21 ¡

Best ¡Response ¡ • Best ¡response ¡ • Truthful ¡revela5on ¡is ¡a ¡Nash ¡equilibrium ¡if ¡this ¡ holds ¡for ¡all ¡i ¡when ¡x i m =s m ¡ ¡ 22 ¡

Example ¡ 23 ¡

Scoring ¡rules ¡ • How ¡to ¡assign ¡points ¡to ¡rater ¡i ¡based ¡on ¡his ¡ report ¡and ¡that ¡of ¡j? ¡ • Def: ¡a ¡scoring ¡rule ¡is ¡a ¡func5on ¡that, ¡for ¡each ¡ possible ¡announcement ¡assigns ¡a ¡score ¡to ¡each ¡ possible ¡value ¡s ¡in ¡S ¡ • We ¡cannot ¡access ¡s j , ¡but ¡in ¡a ¡truthful ¡equilibrium, ¡ we ¡can ¡use ¡j’s ¡report ¡ • Def: ¡A ¡scoring ¡rule ¡is ¡strictly ¡proper ¡if ¡the ¡rater ¡ maximizes ¡his ¡expected ¡score ¡by ¡announcing ¡his ¡ true ¡belief ¡ 24 ¡