Einfach erklärt
Differenzielle Privatsphäre sorgt dafür, dass aus Auswertungen über viele Personen nichts Zuverlässiges über eine einzelne Person herauszulesen ist. Dafür wird gezielt Zufall (Rauschen) in Antworten oder Zwischenergebnisse eingebracht. So bleiben Trend‑Informationen erhalten, persönliche Details aber geschützt.
Ganz einfache Beispiele:
• Zählen mit Schutz: Eine App zählt, wie oft Nutzer eine Funktion verwenden. Vor dem Melden wird der Zähler leicht verrauscht. Über viele Nutzer mittelt sich das Rauschen heraus – man sieht den Trend, nicht die Einzelperson.
• Anonyme Umfrage: Vor der heiklen Frage wird eine Münze geworfen. Bei „Kopf“ antwortet man zufällig, bei „Zahl“ ehrlich. So kann die Gruppe zuverlässig ausgewertet werden, ohne einzelne offenzulegen.
• Telefon‑Statistik: Ein Handy teilt nur verrauschte Häufigkeiten (z. B. neue Wörter). Aus vielen Geräten entsteht ein nützliches Gesamtbild, ohne einzelne Nutzer preiszugeben.
Professionelle Definition
Ein Mechanismus (\mathcal{M}) erfüllt ((\varepsilon,\delta))-differenzielle Privatsphäre, wenn für alle Nachbar‑Datensätze (D, D‘) (sie unterscheiden sich in einem Individuum) und alle Ereignisse (S) gilt:
[\Pr[\mathcal{M}(D)\in S] \le e^{\varepsilon},\Pr[\mathcal{M}(D‘)\in S] + \delta.]
Damit ändert die Teilnahme einer Person die Ausgabewahrscheinlichkeit nur minimal. Wichtige Bausteine:
• Mechanismen: Laplace‑ und Gauss‑Mechanismus (Rauschen gemäß Sensitivität), Exponential‑Mechanismus für nichtnumerische Ausgaben.
• Budget/Komposition: Mehrere Abfragen addieren Privatsphäre‑Verlust ((\varepsilon)); fortgeschrittene Sätze geben genauere Schranken.
• Zentral vs. Lokal: Zentral: Rauschen beim Veröffentlichen durch eine vertrauenswürdige Stelle. Lokal: Rauschen auf dem Gerät des Nutzers (z. B. Telemetrie).
• Differenziell private ML‑Trainingsverfahren: z. B. DP‑SGD: Gradienten clippen und Rauschen addieren; misst die Gesamtkosten via Privacy‑Budget.
Quellen
• Wikipedia – Differential privacy (Definition, Mechanismen, reale Einsätze)
https://en.wikipedia.org/wiki/Differential_privacy
• Dwork & Roth – The Algorithmic Foundations of Differential Privacy (Lehrbuch/Standardreferenz)
https://www.cis.upenn.edu/~aaroth/Papers/privacybook.pdf
https://www.nowpublishers.com/article/DownloadEBook/TCS-042
• Abadi et al. (2016) – Deep Learning with Differential Privacy (DP‑SGD)
https://arxiv.org/abs/1607.00133
https://arxiv.org/pdf/1607.00133
• Apple – Differential Privacy Overview (Lokal differenzielle Telemetrie, Praxisbericht)
https://www.apple.com/privacy/docs/Differential_Privacy_Overview.pdf
https://docs-assets.developer.apple.com/ml-research/papers/learning-with-privacy-at-scale.pdf
• Wikipedia – Local differential privacy (Lokal vs. zentral, Beispiele/Protokolle)
https://en.wikipedia.org/wiki/Local_differential_privacy