Risiken der Verarbeitung von Daten: Datenschützer fordern strengere Gesetze

Wohin gehen unsere Daten …
Wohin gehen unsere Daten …

Dem Tracking durch Datenanalysefirmen und IT-Giganten wie Facebook, Google oder Instagram entgeht keine Bewegung, die wir im Internet machen. Doch es bleibt nicht bei der bloßen Sammlung von Rohdaten. Die erfassten Informationen werden weiterverarbeitet, um neue Schlüsse daraus zu ziehen. Dafür kommt häufig Künstliche Intelligenz (KI) zum Einsatz. Die Weiterverarbeitung, auch Inferenz oder Scores genannt, wurde bisher von Gesetzgebern wenig beachtet und steht nun in der Kritik.

Gefahren von Inferenzen

Die Risiken, die mit der Weiterverarbeitung von personenbezogenen Informationen einhergehen, sind beträchtlich. Während bloße Rohdaten
ein konkretes Handeln dokumentieren – etwa was wir ‚Liken‘, wie wir den Cursor auf dem Bildschirm bewegen, welche Internetseiten wir wie lange anschauen etc. –, sind die Ergebnisse von Inferenzen oft kaum nachvollziehbar oder korrekt. Ob sie zutreffend sind oder nicht, das ist für die Unternehmen gar nicht wesentlich. Denn die statistische Genauigkeit reicht vielfach aus, um Profite aus bestimmten Erkenntnissen zu machen. Von den Unternehmen wird bei dieser Praxis wohl bewusst in Kauf genommen, dass die Ergebnisse der Verarbeitung einen großen Einfluss auf die Personen haben können, von denen Rohdaten stammen. So können bestimmte Stellenanzeigen für Jobsuchende nicht angezeigt, Kredite nicht bewilligt oder der Zugang zu Sozialleistungen verweigert werden. Inferenzen können also zweifellos einen wesentlichen Einfluss auf die Datenautonomie und die Identität von Personen haben.

Zwei Experten für Datenschutz des Oxford Internet Institute, Sandra Wachter und Brent Mittelstadt, kritisieren nun, dass die Weiterverarbeitung von Daten von den Gesetzgebern nicht ausreichend berücksichtigt wird. Personen, die ihre Datenschutzrechte wahrnehmen wollen, stehen oft nur geringe oder keine rechtlichen Möglichkeiten zur Verfügung.

Gesetzlicher Rahmen bei Inferenzen unzureichend

Ein Blick in den gesetzlichen Status Quo bestätigt die Einschätzung der Forscher. So sieht die unter großem medialem Echo in Kraft getretene Datenschutzgundverordnung (DSGVO) der Europäischen Union zwar vor, dass personenbezogene Daten geschützt werden sollen. Dieser Schutz beschränkt sich jedoch auf Daten, die gesammelt werden. Hinsichtlich der Weiterverarbeitung von Daten ist der rechtliche Rahmen, den etwa die DSGVO vorgibt, jedoch unklar – oder wird gar nicht erst berücksichtigt. So besteht kein Auskunftsrecht oder Berichtigungsrecht hinsichtlich weiterverarbeiteter Daten. Begründet wird dieses Versäumnis damit, dass Personen, die ihr Recht auf Datenschutz geltend machen wollen, nicht die Richtigkeit der neu gewonnenen Daten kontrollieren können; die Kompetenz, um die Korrektheit von Inferenzen prüfen zu können, liege, laut der geltenden Verordnung, lediglich bei einem Richter.

Einen neuen gesetzlichen Rahmen schaffen

Nachdem Inferenzen also einen großen Einfluss auf die Identität und Reputation von Personen nehmen können, fordern die Forscher des Oxford Internet Institute ein ‚Recht auf angemessene Inferenz‘. Demnach sollen Unternehmen künftig nicht nur begründen, warum sie bestimmte Daten sammeln; sie sollen auch dazu verpflichtet werden, die Angemessenheit und Legitimität der Methoden der Datenverarbeitung offenzulegen. Dieser Ansatz folgt einer weiteren Forderung von Wachter und Mittelstadt, die die beiden Autoren als ‚kontrafaktische Erklärung‘ bezeichnen: Unternehmen sollen auch dazu verpflichtet werden, dass negative Ergebnisse der Inferenzen, wie etwa ein negativer Entscheid über Kreditwürdigkeit, offengelegt werden müssen. So soll gewährleistet werden, dass Einblicke in die Mechanismen der jeweiligen Praxis ermöglicht werden.

Wachter führt an, dass Google etwa mit seinem ‚What If Tool‘ bereits ein erstes Tool anbietet, das dieser Idee im Ansatz folgt. Ziel einer entsprechenden Gesetzesänderung wäre es letztlich, nicht nur Mechanismen transparent zu machen, sondern auch die Legitimität der Methode und damit auch die Validität der Ergebnisse prüfen zu können. Ob jedoch Unternehmen auch soweit gehen werden, dass sie ihre Praktiken offenlegen werden, bleibt offen – und muss im Moment wohl eher bezweifelt werden.

Quelle: netzpolitik.de; Foto: crello


Erstellt am: 18. November 2018

Artikel aus der gleichen Kategorie:

 
Legal Disclaimer VPNTESTER

Schreibe einen Kommentar