KI-Massenüberwachung bei den Olympischen Spielen in Paris

Eine Rechtswissenschaftlerin über den Segen für die Sicherheit und den Albtraum für die Privatsphäre.

Die Olympischen Spiele 2024 in Paris ziehen die Augen der Welt auf sich, wenn Tausende von Sportlern und Betreuern sowie Hunderttausende von Besuchern aus aller Welt in Frankreich zusammenkommen. Aber nicht nur die Augen der Welt werden auf sie gerichtet sein. Auch Systeme der künstlichen Intelligenz werden dabei sein.

Staatliche und private Unternehmen werden fortschrittliche KI-Tools und andere Überwachungstechnologien einsetzen, um vor, während und nach den Spielen eine allumfassende und anhaltende Überwachung durchzuführen.

Die olympische Weltbühne und die internationalen Menschenmassen stellen ein so großes Sicherheitsrisiko dar, dass Behörden und Kritiker die Olympischen Spiele in den letzten Jahren als die "weltgrößten Sicherheitsoperationen außerhalb des Krieges" bezeichnet haben.

Die französische Regierung hat Hand in Hand mit dem privaten Technologiesektor dieses legitime Bedürfnis nach mehr Sicherheit zum Anlass genommen, technologisch avancierte Überwachungs- und Datenerfassungsinstrumente einzusetzen.

Ihre Überwachungspläne zur Bewältigung dieser Risiken, einschließlich des umstrittenen Einsatzes experimenteller KI-Videoüberwachung, sind so umfangreich, dass das Land seine Gesetze ändern musste, um die geplante Überwachung zu legalisieren.

Der Plan geht über neue KI-Videoüberwachungssysteme hinaus. Nachrichtenberichten zufolge hat das Büro des Premierministers eine vorläufige Verfügung ausgehandelt, die als geheim eingestuft ist und die es der Regierung erlaubt, die traditionellen, heimlichen Überwachungs- und Informationsbeschaffungsinstrumente für die Dauer der Spiele erheblich zu verstärken.

Dazu gehören das Abhören, das Sammeln von Geolokalisierungs-, Kommunikations- und Computerdaten sowie das Erfassen größerer Mengen von Bild- und Audiodaten.

Ich bin Juraprofessorin und Rechtsanwältin und forsche, lehre und schreibe über Datenschutz, künstliche Intelligenz und Überwachung. Außerdem gebe ich Gesetzgebern und anderen rechtliche und politische Ratschläge zu diesen Themen.

Erhöhte Sicherheitsrisiken können und werden eine verstärkte Überwachung erfordern. In diesem Jahr sah sich Frankreich mit Bedenken hinsichtlich seiner olympischen Sicherheitskapazitäten und glaubwürdigen Bedrohungen rund um öffentliche Sportveranstaltungen konfrontiert.

Präventivmaßnahmen sollten jedoch in einem angemessenen Verhältnis zu den Risiken stehen. Weltweit behaupten Kritiker, dass Frankreich die Olympischen Spiele als Überwachungsmaßnahme nutzt und dass die Regierung diese "außergewöhnliche" Rechtfertigung für die Überwachung nutzen wird, um die gesellschaftsweite staatliche Überwachung zu normalisieren.

Gleichzeitig gibt es berechtigte Bedenken hinsichtlich einer angemessenen und wirksamen Überwachung aus Sicherheitsgründen. In den USA zum Beispiel fragt sich die Nation, wie die Sicherheitsüberwachung des Secret Service ein Attentat auf den ehemaligen Präsidenten Donald Trump am 13. Juli 2024 nicht verhindern konnte.

KI-gestützte Massenüberwachung

Auf der Grundlage der neuen erweiterten Überwachungsgesetze haben die französischen Behörden mit den KI-Unternehmen Videtics, Orange Business, ChapsVision und Wintics zusammengearbeitet, um eine umfassende KI-Videoüberwachung durchzuführen.

Sie haben die KI-Überwachung bei großen Konzerten, Sportereignissen und in Metrostationen und Bahnhöfen während stark frequentierter Zeiten eingesetzt, unter anderem bei einem Konzert von Taylor Swift und den Filmfestspielen von Cannes. Französische Beamte sagten, diese KI-Überwachungsexperimente seien gut verlaufen und es gebe "grünes Licht" für künftige Anwendungen.

Die eingesetzte KI-Software ist im Allgemeinen so konzipiert, dass sie bestimmte Ereignisse wie Veränderungen in der Größe und Bewegung von Menschenmengen, zurückgelassene Objekte, das Vorhandensein oder die Verwendung von Waffen, Körper auf dem Boden, Rauch oder Flammen und bestimmte Verkehrsverstöße erkennt.

Ziel ist es, dass die Überwachungssysteme Ereignisse wie eine Menschenmenge, die sich auf ein Tor zubewegt, oder eine Person, die ihren Rucksack an einer belebten Straßenecke abstellt, sofort und in Echtzeit erkennen und das Sicherheitspersonal alarmieren. Das Erkennen solcher Ereignisse scheint ein logischer und sinnvoller Einsatz von Technologie zu sein.

Die eigentlichen Datenschutz- und Rechtsfragen ergeben sich jedoch daraus, wie diese Systeme funktionieren und genutzt werden. Wie viele und welche Arten von Daten müssen gesammelt und analysiert werden, um diese Ereignisse zu erkennen? Wie lauten die Trainingsdatensätze der Systeme, die Fehlerquoten und die Anzeichen für Verzerrungen oder Ungenauigkeiten? Was wird mit den Daten gemacht, nachdem sie gesammelt wurden, und wer hat Zugang zu ihnen?

Es gibt wenig Transparenz, um diese Fragen zu beantworten. Trotz der Sicherheitsvorkehrungen, die die Verwendung biometrischer Daten, mit denen Personen identifiziert werden können, verhindern sollen, ist es möglich, dass die Trainingsdatensätze diese Informationen erfassen und die Systeme so angepasst werden, dass sie sie verwenden können.

Indem Frankreich diesen privaten Unternehmen Zugang zu Tausenden von Videokameras gewährt, die sich bereits in ganz Frankreich befinden, die Überwachungskapazitäten von Eisenbahngesellschaften und Verkehrsbetrieben nutzt und koordiniert und den Einsatz von Drohnen mit Kameras erlaubt, gewährt und unterstützt Frankreich diese Unternehmen rechtlich darin, KI-Software an seinen Bürgern und Besuchern zu testen und zu schulen.

Legalisierte Massenüberwachung

Sowohl die Notwendigkeit als auch die Praxis staatlicher Überwachung bei Olympischen Spielen ist nichts Neues. Die Sicherheits- und Datenschutzbedenken bei den Olympischen Winterspielen 2022 in Peking waren so groß, dass das FBI "alle Athleten" dringend aufforderte, ihre persönlichen Mobiltelefone zu Hause zu lassen und während ihres Aufenthalts in China nur ein Wegwerfhandy zu benutzen, weil die Überwachung durch die dortige Regierung so extrem ist.

Frankreich ist jedoch ein Mitgliedsstaat der Europäischen Union. Die Allgemeine Datenschutzverordnung der EU ist eines der strengsten Datenschutzgesetze der Welt, und das KI-Gesetz der EU ist führend in den Bemühungen, schädliche Anwendungen von KI-Technologien zu regulieren. Als Mitglied der EU muss Frankreich das EU-Recht befolgen.

In der Vorbereitung auf die Olympischen Spiele verabschiedete Frankreich 2023 das Gesetz Nr. 2023-380, ein Gesetzespaket zur Schaffung eines Rechtsrahmens für die Olympischen Spiele 2024.

Es enthält den umstrittenen Artikel 7, eine Bestimmung, die es den französischen Strafverfolgungsbehörden und ihren technischen Auftragnehmern erlaubt, vor, während und nach den Olympischen Spielen 2024 mit intelligenter Videoüberwachung zu experimentieren, sowie Artikel 10, der insbesondere den Einsatz von KI-Software zur Überprüfung von Video- und Kameraaufnahmen erlaubt. Mit diesen Gesetzen ist Frankreich das erste EU-Land, das ein solch weitreichendes KI-gestütztes Überwachungssystem legalisiert.

Wissenschaftler, Gruppen der Zivilgesellschaft und Befürworter der bürgerlichen Freiheiten haben darauf hingewiesen, dass diese Artikel im Widerspruch zur Allgemeinen Datenschutzverordnung und den Bemühungen der EU zur Regulierung der KI stehen. Sie argumentieren, dass Artikel 7 insbesondere gegen die Bestimmungen der Allgemeinen Datenschutzverordnung zum Schutz biometrischer Daten verstößt.

Französische Beamte und Vertreter von Technologieunternehmen haben erklärt, dass die KI-Software ihr Ziel erreichen kann – nämlich die Identifizierung und Kennzeichnung dieser spezifischen Arten von Ereignissen –, ohne Personen zu identifizieren oder gegen die Beschränkungen der Allgemeinen Datenschutzverordnung bezüglich der Verarbeitung biometrischer Daten zu verstoßen.

Europäische Bürgerrechtsorganisationen haben jedoch darauf hingewiesen, dass, wenn Zweck und Funktion der Algorithmen und KI-gesteuerten Kameras darin bestehen, bestimmte verdächtige Ereignisse im öffentlichen Raum zu erkennen, diese Systeme zwangsläufig "physiologische Merkmale und Verhaltensweisen" von Menschen in diesen Räumen erfassen und analysieren werden.

Dazu gehören Körperhaltung, Gangart, Bewegungen, Gesten und Aussehen. Die Kritiker argumentieren, dass es sich dabei um biometrische Daten handelt, die erfasst und verarbeitet werden, und dass das französische Gesetz daher gegen die allgemeine Datenschutzverordnung verstößt.

KI-gestützte Sicherheit - zu einem gewissen Preis

Für die französische Regierung und die KI-Unternehmen war die KI-Überwachung bisher ein Erfolg zum beiderseitigen Nutzen. Die algorithmischen Überwacher werden immer häufiger eingesetzt und liefern den Regierungen und ihren Tech-Kollegen viel mehr Daten, als Menschen allein liefern könnten.

Aber diese KI-gestützten Überwachungssysteme sind schlecht reguliert und werden kaum von unabhängigen Stellen getestet. Sobald die Daten gesammelt sind, ist das Potenzial für weitere Datenanalysen und Eingriffe in die Privatsphäre enorm.