Rassismus durch KI-Gesichtserkennung: Hochschwangere Schwarze Frau wehrt sich nach Verhaftung

Als die im achten Monat schwangere Porcha Woodruff nichtsahnend ihre beiden Kinder für die Schule anzog, wurde sie von sechs Polizeibeamten überrascht und wegen Autodiebstahls festgenommen. Eine Gesichtserkennungs-KI hatte fälschlicherweise eine Übereinstimmung zwischen ihrem Gesicht und einem Gesicht auf Videoaufnahmen eines Autodiebstahls an einer Tankstelle festgestellt.

Woodruff wurde etwa 11 Stunden von der Polizei festgehalten und gegen eine Kaution von 100.000 US-Dollar freigelassen. Unmittelbar danach musste sie wegen Dehydrierung ins Krankenhaus eingeliefert werden. Erst einen Monat später wurde der Fall aus Mangel an Beweisen eingestellt. Porcha Woodruff fordert nun Schadenersatz.

Dies ist der sechste Fall von falscher Gesichtserkennung durch künstliche Intelligenz in den USA, und in allen Fällen waren Schwarze Menschen betroffen. Amnesty International wies darauf hin, dass die Bilder, mit denen die KI trainiert wird, überwiegend von Weißen Menschen stammen. Dies spiegele die Voreingenommenheit der Entwickler von Gesichtserkennungssystemen wider.

Denn die schlechtesten Trefferquoten haben die Systeme bei schwarzen Frauen zwischen 18 und 30 Jahren. Darüber hinaus seien solche Systeme nicht nur rassistisch, sondern stellten auch ein Sicherheitsrisiko dar, da sie die Privatsphäre verletzten, selbst wenn sie korrekt funktionierten.

Datenschützer warnen seit Jahren vor den Gefahren der Identifizierung von Personen anhand von Bildern, wie sie von Gesichtserkennungsunternehmen wie Amazon Rekognition oder Clearview AI angeboten werden. So hat Frankreich als erstes EU-Land ein Gesetz verabschiedet, das es der Pariser Polizei erlaubt, im Vorfeld der Olympischen Spiele 2024 KI zur Überwachung einzusetzen. Experten zufolge hat der KI-Hype die Aufmerksamkeit von wichtigen Diskussionen wie dem EU-Gesetz über KI abgelenkt:

Wir hatten Glück, dass wir viele dieser Dinge auf die Tagesordnung gesetzt haben, bevor der Hype um KI und generative KI, der ChatGPT-Boom, begann. Ich denke, dass ChatGPT das Wasser in Bezug auf die Arten von Schäden, über die wir wirklich sprechen, sehr trüb gemacht hat.

- Sarah Chander, leitende politische Beraterin bei der internationalen Interessenvertretung European Digital Rights