close

Forschung - 02.03.2021 - 00:00

Künstliche Intelligenz, Datenschutz und der datafizierte Bürger

Veronica Barassi, Professorin an der HSG, argumentiert in ihrem neuesten Buch, dass wir, wenn wir die Auswirkungen von KI auf unsere Gesellschaft verstehen wollen, uns ansehen müssen, wie Bürger bereits vor der Geburt datenmässig erfasst werden.

 

2. März 2021. Im Februar 2021 berichtete CNN über eine Schule in Hongkong, die KI-Gesichtserkennungstechnologie zur Vermessung der Gesichter von Schulkindern einsetzte, um deren Emotionen während des durch die Covid-19-Pandemie bedingten Online-Unterrichts zu erkennen. Die Software überwacht auch das Engagement und die Leistung der Schüler, personalisiert ihre Lernerfahrung und prognostiziert ihre Noten.
 

Der Einsatz von KI-Gesichtserkennungssoftware an Hongkonger Schulen ist nur eines der jüngsten Beispiele für die Datafizierung von Kindern. In meinem neuesten Buch mit dem Titel Child | Data | Citizen, das 2020 bei MIT Press erschienen ist, argumentiere ich, dass wir uns mit der Datafizierung von Kindern befassen müssen, wenn wir eine der wichtigsten Transformationen bewältigen wollen, die durch Datentechnologien und KI-Innovationen hervorgerufen werden: das Aufkommen des datafizierten Bürgers.
 

Digitaler versus datafizierter Bürger

Im Gegensatz zum digitalen Bürger, der Online-Technologien und insbesondere soziale Medien nutzt, um sein öffentliches Selbst zu konstruieren, wird der datafizierte Bürger durch die Informationen definiert, die durch die Verarbeitung von Datenspuren entstehen. Diese Informationen lassen sich mithilfe von Dateninferenz und digitalem Profiling gewinnen. Mit anderen Worten: Datenspuren werden dazu genutzt, für und über uns zu sprechen. Kinder spielen eine Schlüsselrolle, wenn es darum geht, zu verstehen, wie die Gesellschaft durch unsere datengesteuerte Kultur verändert wird.
 

Wie ich in diesem Buch aufzeige, sind Bildungsdaten nur eine von vielen verschiedenen Arten von Daten, die Tech-Unternehmen über Kinder und Familien sammeln. Von Arztterminen bis hin zu künstlicher Intelligenz im Haushalt, von sozialen Medien bis hin zu mobilen Apps wird der Alltag von Kindern auf eine Art und Weise aufgezeichnet, gespeichert und geteilt, die früher nicht möglich war.
 

 

 

 

 

 

Die Kinder von heute sind die allererste Generation von Bürgern, die schon vor ihrer Geburt datafiziert werden.

 

 

 

 

 

Veronica Barassi

 

 

 

 

Die Kinder von heute sind die allererste Generation von Bürgern, die schon vor ihrer Geburt datafiziert werden. In meinem TED-Vortrag, der mehr als 1,7 Millionen Aufrufe erzielt hat, erörtere ich, wie diese Daten manchmal schon ab dem Moment der Empfängnis gesammelt werden, wenn Eltern online nach «Möglichkeiten, schwanger zu werden» suchen oder Eisprung- und Schwangerschafts-Apps nutzen, bis hin zu sogenannten «Sharenting»-Aktivitäten wie dem Posten wichtiger Lebensereignisse eines Kindes über Social-Media-Kanäle.
 

Warum ist also der Umstand wichtig, dass unsere Kinder getrackt werden? Die technologischen Umwälzungen des letzten Jahrzehnts und die Schlüsselinnovationen im Bereich Big Data und künstliche Intelligenz haben uns in eine historische Situation geführt, in der unsere Datenspuren – dekontextualisiert, sterilisiert und mit Standardalgorithmen verglichen – verwendet werden, um Entscheidungen über wichtige Aspekte unseres täglichen Lebens zu treffen. Wenn wir einen Job suchen, eine Versicherung abschliessen, einen Kredit beantragen, unsere Kinder in einer neuen Schule anmelden sowie in unzähligen anderen Situationen werden unsere Datenspuren verwendet, um uns in einer Weise zu beurteilen, die sich unserem Verständnis und unserer Kontrolle entzieht.

Kinder und Jugendliche sind stärker gefährdet

In diesem Zusammenhang sind Kinder und Jugendliche stärker gefährdet. Die Datenspuren, die über sie heute und sogar schon vor ihrer Geburt erzeugt werden, können Kinder ihr ganzes Leben lang verfolgen, wenn sie auf potenziell schädliche Weise profiliert werden und ihnen zukünftige Berufs- und Lebenschancen verschlossen bleiben. Versicherungen, Banken, Polizei und Gerichte nutzen Datenspuren, um Entscheidungen über uns zu treffen, auf eine Art und Weise, die wir nicht kontrollieren können, die aber die Lebenschancen von Kindern erheblich beeinflussen kann. Angesichts der möglichen Fehlschlüsse und der Voreingenommenheit im Zusammenhang mit der Erstellung von Personenprofilen – da Algorithmen Systeme sind, die von Menschen aus bestimmten kulturellen Kontexten entwickelt wurden – erleben wir bereits heute verschiedene Arten von algorithmischer Diskriminierung, einschliesslich der Aufrechterhaltung von geschlechtsspezifischen, rassistischen oder klassenbasierten Ungleichheiten.

 

 

 

 

 

Datenrechte sind Menschenrechte.

 

 

 

 

 

Veronica Barassi

 

 

 

 

Was kann also getan werden? Wie ich in meinem TED-Vortrag argumentiere, glaube ich, dass die Lösung nicht bei den einzelnen Eltern und ihren Verhaltensweisen und Gewohnheiten im Internet liegt. Es handelt sich vielmehr um ein systemisches Problem, das eine politische Lösung erfordert. Datenrechte sind Menschenrechte. Doch aktuelle Datenschutzrichtlinien wie die DSGVO der EU greifen zu kurz, um diese Problemstellungen zu bewältigen. Dies liegt nicht zuletzt auch daran, dass Unternehmen uns legal tracken, da wir tagtäglich unser Einverständnis zu AGBs geben, oft ohne die Möglichkeit zum Ablehnen. In solchen Fällen wird die individuelle Zustimmung bedeutungslos. Stattdessen müssen wir als Institutionen, Organisationen und als kollektive Einheit einen Schulterschluss vollziehen, um die aktuellen Debatten von der individuellen Verantwortung und Privatsphäre zu einer kollektiven Forderung nach dem Schutz unseres Rechts auf freie Meinungsäusserung, Selbstdarstellung und Nicht-Diskriminierung zu verlagern.
 

Solche Diskussionen werden im Zusammenhang mit der anhaltenden Covid-19-Pandemie nur noch dringlicher, wie das jüngste Beispiel von KI-Technologien an Hongkonger Schulen zeigt. In diesem Zusammenhang zielt meine Forschung darauf ab, eine breitere öffentliche Debatte darüber anzuregen, welche Macht die Tech-Unternehmen über die Zukunft unserer Kinder und die Zukunft unserer Demokratien haben, und die Bürger für diese Thematik zu sensibilisieren.

Veronica Barassi ist Professorin für Medien- und Kommunikationswissenschaft an der Universität St.Gallen.
 

Bild: Adobe Stock / Maksim Kabakou
 

 

north