Vereinigtes Königreich

Unabhängige Berater für künstliche Intelligenz und datengesteuerte Technologie veröffentlichen Empfehlungen an die Regierung zu Social Media Targeting

IRIS 2020-3:1/13

Julian Wilkins

Wordley Partnership

Das Zentrum für Datenethik und Innovation (CDEI) hat seinen Abschlussbericht erstellt, in dem empfohlen wird, welche regulatorischen Schritte die britische Regierung ergreifen sollte, um Schaden durch Online-Targeting zu verhindern und dennoch ethisch vertretbare Innovationen in diesem Bereich zu ermöglichen. Das CDEI ist ein unabhängiger Expertenausschuss, der von einem von der britischen Regierung eingerichteten und beauftragten Expertengremium geleitet wird, um zu untersuchen und zu beraten, wie die Vorteile datengesteuerter Technologien maximiert werden können, und um mögliche negative Aspekte anzusprechen. Datengesteuertes Online-Targeting ist eine neue und leistungsstarke Technologieanwendung, bei der die Systeme vorhersagen, welche Inhalte die Menschen am ehesten interessieren und sie zu einem bestimmten Verhalten veranlassen würden.

Der Schwerpunkt des Berichts und der Empfehlungen des CDEI liegt auf Online-Targeting im Zusammenhang mit personalisierten Werbe- und Inhaltsempfehlungssystemen. Darüber hinaus betrachtet der Bericht die Rolle des Online-Targeting in drei Bereichen: Autonomie und Schutzbedürftigkeit, Demokratie und Gesellschaft sowie Diskriminierungen.

Der CDEI befasst sich mit drei Fragenkomplexen. Der erste fragt, inwieweit Technologie nicht mit den öffentlichen Werten übereinstimmt: Was ist die richtige Aufteilung der Verantwortung zwischen Einzelpersonen, Unternehmen und der Regierung?

Der zweite Komplex stellt die Fragen: Sind die derzeitigen Regulierungsmechanismen in der Lage, die beabsichtigten Ergebnisse zu erzielen? Wie gut entsprechen sie den Erwartungen der Öffentlichkeit? Steht die Verwendung von Online-Targeting mit den Prinzipien in Einklang, die durch Gesetzgebung und Regulierung offline angewendet werden?

Der dritte Fragenkomplex befasst sich mit Lösungen. Welche technischen, rechtlichen oder anderen Mechanismen könnten dazu beitragen, dass der Einsatz von Online-Targeting mit dem Gesetz und den öffentlichen Werten vereinbar ist?

Die Nachforschungen des Berichts zeigen, dass die Öffentlichkeit Online-Targeting will, aber dass solche Systeme nach höheren Standards der Rechenschaftspflicht und Transparenz arbeiten, und dass die Menschen wirksame Kontrolle darüber haben wollen, wie sie als Ziel angesprochen werden. Sowohl die Industrie als auch die Öffentlichkeit räumen ein, dass der derzeitige Status quo der Selbstregulierung nicht tragbar ist und dass eine angemessene Regulierung erforderlich ist, um Rechenschaftspflicht, Transparenz und die Befähigung der Nutzer zu gewährleisten.

Der Bericht stellt fest, dass die Verwendung von Online-Targeting nicht den auf den Menschen ausgerichteten Prinzipien der OECD (Organisation für wirtschaftliche Zusammenarbeit und Entwicklung) zur künstlichen Intelligenz (KI) entspricht, die Standards für eine ethische Nutzung von Technologie festlegen.

Daher empfiehlt der CDEI eine prinzipienorientierte Regulierung, bei der die Regulierungsbehörde Veränderungen in der Technologie antizipiert und auf sie reagiert und versucht, deren positive Entwicklung zu lenken, damit sie mit den Interessen der Menschen in Einklang steht.

Eine Regulierungsbehörde für Gefahren im Internet, die eng mit anderen Regulierungsbehörden wie der Datenschutzbehörde (Information Commissioner’s Office ICO) zusammenarbeitet, würde die Rechenschaftspflicht durch Verhaltenskodizes erhöhen, die von den Organisationen die Übernahme von Standards für Risikomanagement, Transparenz und den Schutz gefährdeter Personen verlangen. Die Regulierungsbehörde sollte eine gesetzliche Verpflichtung zur Förderung der Privatsphäre und der Meinungsfreiheit haben.

Darüber hinaus sollte die Regulierungsbehörde befugt sein, Informationen zusammenzustellen, um zu prüfen, ob Online-Plattformen die vorgeschriebenen Verhaltensregeln einhalten. Dazu gehört auch die Befähigung unabhängiger Experten, die Daten einer Plattform zu bewerten, um die Einhaltung des implementierten Verhaltenskodexes zu überprüfen.

Die Regulierungsbehörde muss diese Befugnisse verhältnismäßig einsetzen und der Rechtsstaatlichkeit unterliegen sowie sich mit anderen Regulierungsbehörden wie der ICO und der Wettbewerbs- und Marktaufsichtsbehörde abstimmen, um Einheitlichkeit zu gewährleisten und Doppelarbeit zu vermeiden.

Online-Targeting-Systeme könnten negative Auswirkungen wie zum Beispiel Internet-Sucht haben, die in bestimmten Fällen zu Radikalisierung und Polarisierung der politischen Ansichten führen.

Das CDEI empfiehlt, dass die Regulierungsbehörde unabhängige akademische Forschung zu Themen von erheblichem öffentlichem Interesse erleichtert und solche Arbeiten unterstützt, wofür Online-Plattformen sicheren Zugang zu ihren Daten ermöglichen müssten.

Darüber hinaus sollten Plattformen Online-Werbearchive führen, um Transparenz in Bezug auf personalisierte Werbung zu schaffen, die ein besonderes gesellschaftliches Risiko darstellt, zum Beispiel politische Behauptungen, die überprüft werden müssten, um faire Wahlen zu gewährleisten. Dies würde die Pläne der Regierung für Kennzeichnungen von Online-Wahlwerbung ergänzen, um bezahlte Inhalte leichter identifizierbar zu machen und den Nutzern einige grundlegende Informationen zu geben, die zeigen, dass der Inhalt auf sie ausgerichtet war. In anderen Bereichen würde es sicherstellen, dass Daten fair und nicht diskriminierend verwendet werden, wie zum Beispiel im Bereich Personalbeschaffung.

Der CDEI empfiehlt, neue Märkte zu schaffen, um den Wunsch der Öffentlichkeit nach einer wirksameren Kontrolle zu unterstützen. Hierzu gehören zum Beispiel Sicherheitsanwendungen von Drittanbietern und Drittvermittlern. Klare ethische Standards würden dazu beitragen, öffentliche Einrichtungen zu ermutigen, Online-Targeting effektiv einzusetzen.

Der Bericht stellt fest: „Die Gesellschaften befinden sich in den frühen Jahren der Entwicklung politischer und regulatorischer Antworten auf datengesteuerte Technologien wie Online-Targeting [...] Durch die Konzentration auf den Aufbau der Faktenbasis für eine informierte Politikgestaltung und durch die Schaffung der richtigen Anreize wird das Vereinigte Königreich in der Lage sein, Online-Targeting auf eine Weise zu steuern, die sowohl vertrauenswürdig ist als auch verantwortungsbewusste, nachhaltige Innovationen ermöglicht.“