Personal Data and Ci/zenship The Technical perspec/ve - PowerPoint PPT Presentation

Personal ¡Data ¡and ¡Ci/zenship ¡ ¡ The ¡Technical ¡perspec/ve ¡ Claudia ¡Diaz ¡ KU ¡Leuven ¡– ¡COSIC ¡ Digital ¡Enlightenment ¡Forum ¡ ¡ September ¡18, ¡2013 ¡ Claudia ¡Diaz ¡(KU ¡Leuven) ¡ 1 ¡

About ¡this ¡talk ¡ • Review ¡of ¡different ¡families ¡of ¡privacy ¡ technologies ¡focusing ¡on: ¡ – the ¡concept ¡of ¡“privacy” ¡they ¡embed ¡ – their ¡goals ¡ – their ¡assump/ons ¡ – their ¡challenges ¡and ¡limita/ons ¡ – incen/ves/obstacles ¡for ¡deployment ¡ ¡ Claudia ¡Diaz ¡(KU ¡Leuven) ¡ 2 ¡

Concepts ¡of ¡“privacy” ¡in ¡technology ¡(1): ¡ ¡ “ Social ¡privacy” ¡ Privacy ¡concerns: ¡ ¡ • – Technology ¡media/on ¡of ¡social ¡interac/ons ¡leading ¡to ¡problems ¡in ¡the ¡immediate ¡social ¡context ¡of ¡the ¡user ¡ • Examples : ¡“My ¡parents ¡discovered ¡I’m ¡gay”, ¡“My ¡boss ¡found ¡out ¡that ¡I ¡despise ¡him”, ¡“My ¡friends ¡saw ¡my ¡naked ¡pictures!” ¡ – Self-­‑presenta/on ¡and ¡iden/ty ¡construc/on ¡towards ¡friends, ¡family, ¡colleagues ¡ – Par/cularly ¡relevant ¡in ¡social ¡media ¡applica/ons: ¡tension ¡between ¡privacy ¡and ¡publicity ¡ – Decision ¡making: ¡cogni/ve ¡overload, ¡bounded ¡ra/onality, ¡immediate ¡gra/fica/on, ¡hyperbolic ¡discoun/ng, ¡ behavioral ¡biases ¡ Goals: ¡ ¡ • – Meet ¡ privacy ¡expecta0ons : ¡system ¡behaves ¡as ¡expected ¡by ¡the ¡user: ¡ “don’t ¡surprise ¡the ¡user!” ¡ – Make ¡ privacy ¡controls ¡ more ¡visible ¡and ¡understandable ¡ – Assist ¡users ¡in ¡privacy-­‑relevant ¡ decision ¡making : ¡users ¡can ¡predict ¡the ¡outcomes ¡of ¡their ¡ac/ons, ¡such ¡that ¡ they ¡do ¡not ¡ regret ¡ their ¡ac/ons ¡a]er ¡the ¡fact ¡ – Help ¡users ¡develop ¡appropriate ¡ privacy ¡prac0ces ¡ (e.g., ¡e/queae) ¡ Examples : ¡ ¡ • – appropriate ¡defaults ¡ – usable ¡privacy ¡sebngs, ¡tools ¡for ¡audience ¡segrega/on ¡(e.g., ¡automated ¡grouping ¡of ¡friends) ¡ – contextual ¡feedback ¡mechanisms ¡(e.g., ¡“how ¡others ¡see ¡my ¡profile”) ¡ ¡ ¡ – privacy ¡nudges ¡ (e.g., ¡/mer ¡nudge, ¡content ¡analysis ¡nudge) ¡ Claudia ¡Diaz ¡(KU ¡Leuven) ¡ 3 ¡

Social ¡privacy ¡technologies: ¡challenges ¡and ¡ limita/ons ¡ Focus ¡on ¡voli/onal ¡ac/ons ¡(e.g., ¡user-­‑generated ¡content) ¡ • Concerns ¡relate ¡to ¡harms ¡that ¡are ¡ direct ¡ consequences ¡of ¡user ¡ac/ons ¡ – Typically ¡leaving ¡out ¡implicit ¡data, ¡more ¡abstract ¡privacy ¡risks ¡ ¡ – Focus ¡on ¡the ¡front-­‑end ¡ • Making ¡abstrac/on ¡of ¡how ¡the ¡back-­‑end ¡is ¡implemented, ¡what ¡informa/on ¡is ¡disclosed ¡to ¡the ¡ – service ¡provider, ¡how ¡it ¡can ¡be ¡(stealthily) ¡used ¡by ¡the ¡provider ¡ Research ¡methodology: ¡user ¡studies ¡ ¡ • Mostly ¡conducted ¡in ¡Europe ¡and ¡North ¡America ¡ – Focus ¡on ¡the ¡“average ¡consumer” ¡ – Limited ¡by ¡users’ ¡understanding ¡and ¡percep/on ¡of ¡the ¡system ¡ – Focus ¡on ¡“privacy ¡expecta/ons” ¡ • Slippery ¡slope ¡if ¡expecta/ons ¡erode ¡ – • Example: ¡prisoners ¡in ¡the ¡Panop/con ¡have ¡no ¡expecta/on ¡of ¡privacy, ¡thus, ¡the ¡system ¡design ¡perfectly ¡ meets ¡their ¡privacy ¡expecta/ons ¡ Paradox ¡of ¡control ¡(affects ¡all ¡types ¡of ¡privacy ¡technologies) ¡ • Incen/ves ¡for ¡deployment: ¡strong ¡ • Aligned ¡with ¡industry’s ¡interests: ¡make ¡users ¡comfortable ¡with ¡sharing ¡informa/on ¡in ¡their ¡ – systems ¡ ¡ Claudia ¡Diaz ¡(KU ¡Leuven) ¡ 4 ¡

Concepts ¡of ¡“privacy” ¡in ¡technology ¡(2): ¡ ¡ “ Ins9tu9onal ¡privacy” ¡ Privacy ¡concerns ¡ • – Data ¡collec/on ¡without ¡user ¡awareness ¡or ¡ informed ¡ consent ¡ – Use ¡of ¡data ¡for ¡illegi/mate ¡purposes ¡ – Data ¡security: ¡ • Informa/on ¡becoming ¡public ¡(or ¡widely ¡available ¡to ¡third ¡par/es) ¡ • Safety, ¡protec/on ¡from ¡crime: ¡iden/ty ¡the], ¡stalking, ¡etc. ¡ – Data ¡correctness, ¡integrity, ¡dele/on ¡ Goals ¡ • – Ensure ¡compliance ¡with ¡data ¡protec/on ¡principles: ¡informed ¡consent, ¡purpose ¡limita/on, ¡data ¡security ¡ obliga/ons, ¡subject ¡access ¡rights ¡ – Data ¡security: ¡prevent ¡(or ¡mi/gate ¡the ¡consequences ¡of) ¡data ¡breaches ¡ – Auditability ¡and ¡accountability ¡ Examples : ¡ ¡ • – appropriate ¡defaults ¡and ¡privacy ¡controls ¡(again, ¡but ¡here ¡towards ¡organiza/ons ¡instead ¡of ¡peers) ¡ – tools ¡to ¡make ¡privacy ¡policies ¡easy ¡to ¡understand ¡and ¡nego/ate ¡(e.g., ¡P3P) ¡ ¡ – tools ¡help ¡organiza/ons ¡define ¡and ¡enforce ¡access ¡control ¡policies ¡(e.g., ¡purpose-­‑based ¡access ¡control) ¡ – audi/ng ¡systems ¡ – database ¡privacy ¡technologies ¡(anonymiza/on ¡and ¡differen/al ¡privacy ¡techniques) ¡ Claudia ¡Diaz ¡(KU ¡Leuven) ¡ 5 ¡

Ins/tu/onal ¡privacy ¡technologies: ¡challenges ¡ and ¡limita/ons ¡ Assumes ¡the ¡collec/on ¡and ¡processing ¡of ¡personal ¡informa/on ¡by ¡organiza/ons ¡is ¡good ¡and ¡ • necessary ¡ ¡ The ¡organiza/on ¡is ¡(semi-­‑)trusted ¡to ¡be ¡honest, ¡competent, ¡and ¡act ¡in ¡the ¡best ¡interest ¡of ¡the ¡user ¡ ¡ • – Reliance ¡on ¡the ¡legal ¡system ¡to ¡punish ¡lack ¡of ¡compliance ¡ • Can ¡be ¡bypassed: ¡e.g., ¡recent ¡study ¡on ¡ device ¡fingerprin9ng ¡ – ¡bypasses ¡“cookie” ¡direc/ve, ¡DNT ¡ – No ¡(technical) ¡protec/on ¡guarantees ¡towards ¡organiza/ons ¡that ¡want ¡to ¡violate ¡user ¡privacy ¡by ¡stealthily ¡ abusing ¡the ¡data ¡that ¡they ¡hold ¡ Focus ¡on ¡limi/ng ¡(mis)use ¡of ¡personal ¡data, ¡rather ¡than ¡collec/on ¡ • – In ¡spite ¡of ¡data ¡minimiza/on ¡principles ¡in ¡data ¡protec/on, ¡it ¡is ¡easy ¡to ¡jus/fy ¡mass ¡collec/on ¡and/or ¡obtain ¡ consent ¡for ¡it ¡ – Audi/ng ¡and ¡legal ¡compliance ¡mechanisms ¡may ¡result ¡in ¡more ¡data ¡being ¡recorded ¡ – Does ¡not ¡preempt ¡the ¡crea/on ¡of ¡large ¡databases ¡ Who ¡has ¡the ¡power ¡to ¡define ¡and ¡enforce ¡the ¡policies ¡on ¡data ¡use? ¡ • – Do ¡whatever ¡we ¡wanted ¡to ¡do ¡with ¡the ¡data ¡while ¡being ¡compliant ¡ Focus ¡on ¡“personal ¡data” ¡ ¡ • – Does ¡not ¡address ¡inferences ¡from ¡anonymized ¡or ¡aggregated ¡data ¡(discrimina/on ¡concerns) ¡ Limits ¡on ¡transparency ¡posed ¡by ¡IP ¡(proprietary ¡so]ware, ¡algorithms, ¡databases) ¡ • Incen/ves ¡for ¡deployment: ¡strong ¡ • – Legal ¡compliance ¡is ¡a ¡very ¡strong ¡driver ¡ ¡ Claudia ¡Diaz ¡(KU ¡Leuven) ¡ 6 ¡