Schrift:
Ansicht Home:
Netzwelt

Gesichtserkennung

Wie amerikanische Städte gegen Überwachung kämpfen

Gesichtserkennung liefert oft falsche Treffer. Trotzdem wird sie in den USA von vielen Städte eingesetzt. San Francisco will die umstrittene Technologie nun verbieten. Weitere Gemeinden könnten nachziehen.

Ian Waldie/ Getty Images

"Klick in den Köpfen der Politiker": Gesichtserkennung ist ein Thema für den Gesetzgeber.

Von
Samstag, 15.06.2019   21:19 Uhr

San Francisco steht kurz vor einem Verbot von Gesichtserkennungssoftware. Der Stadtrat hat der Gesetzesvorlage bereits zugestimmt, der Rest gilt als Formalie. Nach Abstimmungen der finalen Details muss Bürgermeisterin London Breed das Gesetz noch ratifizieren, wie ihr Pressesprecher dem SPIEGEL mitteilte. 30 Tage später tritt es in Kraft.

Für Bürgerrechtler ist das ein Riesenerfolg. In den USA kämpfen zahlreiche Initiativen seit Jahren gegen Gesichtserkennungssoftware, die in vielen Polizeieinheiten im ganzen Land im Einsatz ist - und mit der auch die deutsche Polizei experimentiert. Mehrere Städte und Regionen der Bay Area wie Berkeley oder Santa Clara County, hatten sich bereits zuvor für eine stärkere Regulierung von Überwachungstechnologien eingesetzt. Sie versuchen, den Kauf und Einsatz der Technologie durch die Polizei mit Richtlinien und öffentlichen Zulassungsverfahren zu kontrollieren.

"In San Francisco haben sie zugesehen, was passiert, und dann entschieden, einen Schritt weiterzugehen", sagt Dave Maass von der Electronic Frontier Foundation (EFF) dem SPIEGEL - mit einem Gesichtserkennungs-Bann, der weitere Transparenz-Maßnahmen für Überwachungstechnologien ergänzt. "San Francisco hat den Ruf, bei Technologie weit vorn zu sein, und die Erfahrungen und Bedenken hat die Stadt genutzt, um Gesichtserkennung einen Schritt voraus zu sein", so Maass. "Normalerweise hinkt die Gesetzgebung Tech-Trends um Jahre hinterher, in diesem Fall haben sie die Bedrohung erkannt."

San Francisco als Wegweiser

Auch in Oakland, einer Stadt am östlichen Ufer der Bucht von San Francisco, ist derzeit ein Gesichtserkennungs-Bann auf dem Weg - und es sieht so aus, als ob weitere amerikanische Städte nachziehen.

"Somerville, Massachusetts, erwägt derzeit ein Verbot des Einsatzes von Gesichtsüberwachungstechnologie durch die dortige Regierung, das von einer großen Mehrheit der Stadträte und dem Bürgermeister unterstützt wird", sagt Kade Crockford vom "Technology for Liberty Program" der American Civil Liberties Union (ACLU) in Massachusetts. "Wir erwarten, dass das Verbot dort durchgesetzt wird und dass weitere Gemeinden in Massachusetts folgen werden."

Ein weiterer Gesetzesantrag fordert zudem ein Moratorium für Gesichtserkennung und ähnliche Technologien für den gesamten Bundesstaat: Solange keine gesetzliche Regulierung existiert, soll Behörden in Massachusetts und deren Dienstleistern untersagt werden, Gesichtserkennung und andere biometrische Verfahren einzusetzen.

Es kann allerdings dauern, bis die Auszeit in Massachusetts durchgesetzt wird: "Wir haben eine zweijährige Legislaturperiode, die im Januar begonnen hat", sagt Crockford. Bisher seien noch keine Anhörungstermine für die Diskussion des Moratoriums festgelegt worden. Möglicherweise könnten diese aber im Herbst stattfinden.

Kalifornien diskutiert derzeit über ein Gesetz, das Gesichtserkennung in Polizei-Bodycams verbieten würde. Der Gesetzentwurf liegt im Senat. "Wir sind sehr optimistisch", sagt EFF-Forscher Dave Maass. "Es gibt gerade sehr viel Schwung und erstmalige politische Entscheidungsträger verstehen wirklich die Auswirkungen dieser Technologie."

Maass führt den wachsenden Widerstand auch darauf zurück, dass die Möglichkeiten der Technologie, aber auch deren Ausbreitung - etwa durch die Integration in Polizei-Bodycams - immer weiter zunehmen. "Früher gab es einen Verdächtigen, dessen Foto man dann mit der Mugshot-Datenbank abgleichen konnte. Es war eine Suche, die zwar auch problematisch war, aber man verstand die Fehlerquote", glaubt Maass. Jetzt analysiere Gesichtserkennung Vorgänge in Echtzeit, werte Kamera-Feeds aus, identifiziere Personen, analysiere Bewegungen und sammle Unmengen von Aufnahmen in Datenbanken. "Dieses umfangreiche Tracking hat meiner Meinung nach den Klick in den Köpfen der Politiker ausgelöst", so Maass.

Kaum Transparenz bei Herstellern und Polizei

Wissenschaftler entdecken immer neue Probleme. MIT-Forscher fanden etwa heraus, dass Gesichtserkennungssoftware Frauen mit Männern verwechselte. Kritiker warnen vor rassistischen Vorurteilen, die sich aufgrund einseitiger Trainingsdaten bemerkbar machen können. Gesichtserkennungssoftware wird oft ohne unabhängige, externe Tests eingesetzt. Die Software stammt in der Regel von Privatfirmen, die ihre Algorithmen als Geschäftsgeheimnis verstehen. Auch die Herkunft von Daten, mit denen die Software trainiert wird, oder auf deren Basis sie ihre Schlüsse zieht, ist häufig zweifelhaft.

"Gesichtserkennungstechnologie hat sich allein in den letzten zwei Jahren enorm verbessert, was eine schnelle Suche in größeren Datenbanken und zuverlässigere Paarungen in Testumgebungen ermöglicht", heißt es auch im Forschungsbericht "Garbage in, Garbage out" des Center on Privacy & Technology der Georgetown University in Washington. "Aber es spielt keine Rolle, wie gut die Technik ist, wenn sie immer noch mit den falschen Zahlen versorgt wird - dann werden wahrscheinlich immer noch die falschen Antworten herauskommen."

Die Forscher kritisieren, dass Polizisten teils auch Social Media-Aufnahmen, Fotos von Prominenten wie Woody Harrelson, Zeichnungen oder computergenerierte Bilder nutzen, um in Datenbanken nach ähnlich aussehenden Verdächtigen zu suchen, wenn die Originalaufnahmen aus Überwachungskameras unscharf sind. "Es gibt keine Regeln, welche Bilder die Polizei an Gesichtserkennungs-Algorithmen zur Generierung von investigativen Leads übermitteln kann", lautet die Kritik. Dabei seien die Risiken bei Ermittlungen zu hoch, um sich "auf unzuverlässige - oder falsche - Inputs zu verlassen". Schließlich könnten auf dieser Grundlage Unschuldige verhaftet werden.

Wie die Polizei auf den Bann reagiert

Von welchen Behörden und in welcher Form Gesichtserkennungssoftware eingesetzt wird, ist zudem intransparent. "Es ist sehr schwierig, eine Zahl zu nennen", sagt EFF-Forscher Dave Maass. Firmen wie "Vigilant Solutions" etwa vertreiben Lizenzen für Programme, mit denen Ermittler in Echtzeit Kfz-Kennzeichen auswerten können. In der Software ist aber auch das Feature "Facewatch" zur Gesichtserkennung enthalten. "Es ist daher schwierig zu sagen, ob Polizeieinheiten Gesichtserkennung tatsächlich nutzen, ob sie theoretisch über Gesichtserkennung verfügen, aber diese Möglichkeit nicht nutzen, oder vielleicht gar nichts von der Option wissen", so Maass.

Wie reagiert die Polizei nun auf den Gesichtserkennungs-Bann aus San Francisco? Auf einer Polizeikonferenz, die Maass kürzlich besuchte, hätten sich "jeder Talk, jedes Panel und alle möglichen Gespräche" darauf bezogen. "Die Polizei ist sich bewusst, dass es ein landesweiter Trend ist und dass die öffentliche Stimmung zu Gesichtserkennung schrecklich ist", glaubt Maass.

Die Reaktionen schwanken zwischen Defensive und Offensive: Zum Teil bezeichnen Polizei wie Hersteller Gesichtserkennungssysteme nun etwa lieber als "All-in-one-Lösung" oder "Frühwarnsystem" - was weniger alarmierend klingt. "Viele Einheiten motivieren Polizisten auch, Outreach zu betreiben, also sich mit Beteiligten zusammenzusetzen und offener über die Strategien zu reden", beobachtet Maass. "Anderseits bewerben viele Hersteller bereits viele Live-Analyse-Produkte, die längst über Gesichtserkennung hinausgehen, aber eine ähnliche Wirkung erzielen." Statt Gesichter würden etwa Hüte, Brillen, T-Shirts getrackt - nicht das System, sondern die Marker verändern sich. "Wenn Gesichtserkennung verboten wird, denken sie sich einfach etwas anderes aus", sagt Maass.

insgesamt 16 Beiträge
Soziopathenland 15.06.2019
1. Die Amis kämpfen gegen Überwachung?
Nein, sie überwachen die Städte. Punkt.
Nein, sie überwachen die Städte. Punkt.
HuFu 15.06.2019
2. ... und wenn...
dass wird die Deutschen nicht abhalten, die gleichen Fehler zu machen...wie so alles bei @Made in USA!
dass wird die Deutschen nicht abhalten, die gleichen Fehler zu machen...wie so alles bei @Made in USA!
krautskopf 15.06.2019
3. Demokratie lebt
Das is halt der Unterschied zwischen einer Demokratie und einem totalitären Staat wie China. Der Westen ist in letzter Zeit viel zu selbstkritisch geworden. Ja, Chinas Aufstieg ist beeindruckend und sie vermögen Pläne [...]
Das is halt der Unterschied zwischen einer Demokratie und einem totalitären Staat wie China. Der Westen ist in letzter Zeit viel zu selbstkritisch geworden. Ja, Chinas Aufstieg ist beeindruckend und sie vermögen Pläne schneller umzusetzen als die westlichen Demokratien. Aber gerade das ist unsere Stärke: Wir erlauben es uns unterschiedlicher Meinungen zu sein und uns zu streiten. Das is nun einmal Teil des Systems Demokratie. Chinas Harmoniezwang bedeutet halt einfach "Maul halten und machen was von oben befohlen wird". Chinas Überwachung (auch durch Gesichtserkennung) kennt keine Grenzen. Der Bann von Gesichtserkennung in einigen Städten is ein gutes Beispiel dafür, was Demokratie bedeutet und darauf sollten wir im Westen stolz sein.
Gudrun3 15.06.2019
4.
Bislang war's doch so, dass fast alles, was technisch machbar war, irgendwann auch gemacht bzw. eingesetzt wurde. Wähler wurden da selten gefragt oder man brachte sie gar dazu, es selbst zu wollen.
Bislang war's doch so, dass fast alles, was technisch machbar war, irgendwann auch gemacht bzw. eingesetzt wurde. Wähler wurden da selten gefragt oder man brachte sie gar dazu, es selbst zu wollen.
virginia 15.06.2019
5. na bitte,
Wieder ein Thema, um die Boesartikeit der Amerikaner anzuprangern.
Wieder ein Thema, um die Boesartikeit der Amerikaner anzuprangern.

Verwandte Themen

Artikel

© SPIEGEL ONLINE 2019
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung
TOP