Berliner Designer behauptet, sein 88 Dollar teures „Digital Camouflage“-Shirt verberge den Träger vor KI-Kameras

Der Berliner Künstler Simon Weckert hat ein Hemd mit Knöpfen namens „Digital Camouflage“ entworfen, das von KI-Überwachungskameras nicht als Mensch erkannt wird.

Die Entstehung des Kleidungsstücks ist eine direkte Reaktion auf die Inbetriebnahme des KI-gestützten Videosystems in diesem Monat am Verkehrsknotenpunkt Kottbusser Tor.

Wie kann ein Hemd vor Überwachung schützen?

Der Berliner Künstler Simon Weckert hat ein Hemd mit dem Namen „Digital Camouflage“ herausgebracht, das angeblich die Zuverlässigkeit von Objekterkennungssoftware bei der Erkennung eines Menschen verringern kann.

Weckert stellte fest, dass diese Systeme nie wirklich lernten, was ein Mensch ist, sondern nur, wie Menschen im Allgemeinen aussehen, anhand von Millionen von Trainingsfotos: Kanten und Textur in den ersten Schichten, dann die Konturen von Kopf und Schultern sowie die Proportionen der Gliedmaßen in tieferen Schichten.

Digitale Tarnung nutzt diese Trainingsmethode mit einem auffälligen Durcheinander aus pinken, orangen und grünen Formen.

Weckert erklärte, dass die gesättigten Farben die ersten Schichten eines Netzwerks erhellen, während die sich überlappenden Formen die Konturen des Körpers so stark verzerren, dass der Detektor die Teile nicht mehr zu einer einzigen Figur zusammenfügen kann.

Für einen Menschen sieht das Hemd aus wie ein hypnotischer Hawaii-Print, aber für Überwachungsmodelleist es völlig bedeutungslos.

Weckert entwickelte das Muster mithilfe einer „adversariellen Schleife“, in der er einen Kandidatenabdruck erzeugte, ihn einem Detektor zeigte, maß, wie sicher sich die Software noch war, dass sie eine Person erkannte, und diesen Vorgang dann anpasste und wiederholte, bis er zufriedenstellende Ergebnisse erzielte.

Berichten zufolge verwendete er eine generative Methode mit der Bezeichnung TC-EGA (Toroidal-Cropping-based Expandable Generative Attack), um diese Runden durchzuführen, und testete die Ergebnisse gegen YOLO, ein Open-Source-Echtzeit-Erkennungssystem, das auf der gleichen Technologieklasse basiert, die auch vielen kommerziellen Überwachungsprodukten.

Weckert stellte jedoch klar, dass das Hemd nicht dazu entwickelt wurde, eine bestimmte Regierungskamera auszutricksen, sondern um zu hinterfragen, wie viel Vertrauen ein System verdient, wenn billiger Stoff es überlisten kann.

Auf seiner Website betont er, dass das Shirt „keine Anonymitätsgarantie“ sei und macht keinerlei Angaben zu einem konkreten Einsatz, gerade weil Außenstehende diese Systeme nicht testen können. Das Kleidungsstück kostet etwa 88 Dollar, wobei ein Teil des Erlöses an Organisationen für digitale Bürgerrechte.

Warum suchen die Menschen plötzlich Schutz vor Überwachung?

Auf Weckerts Website erklärt er , dass am Kottbusser Tor, einem stark frequentierten U-Bahnhof im Berliner Bezirk Kreuzberg, Kameras – die er Verhaltensscanner nennt – installiert werden sollen. Die Software soll Passanten in „normal“ und „verdächtig“ einteilen. Er geht davon aus, dass drei weitere Standorte in Berlin als Nächstes folgen werden.

In den USA ordnete der texanische Gouverneur Greg Abbott am Donnerstagabend an, die Finanzierung von Flock Safety einzustellen. Das Unternehmen verfügt über mehr als 120.000 Kennzeichenlesegeräte, die in 49 Bundesstaaten im Einsatz sind. Der republikanische Senator Josh Hawley leitete zudem eine Untersuchung zum Umgang des Unternehmens mit den erfassten Daten ein.

Die Kennzeichenlesegeräte von Flock Safety haben erhebliche Kritik hervorgerufen, nachdem Berichte über den schweren Missbrauch des Systems durch Polizeibeamte für persönliche Zwecke, wie tracvon Ex-Freundinnen, Ehepartnern und romantischen Rivalen, bekannt wurden.

In einem Extremfall griff ein Polizist in Kentucky rund 2.000 Mal auf das Flock-System zu, um die Bewegungen seiner ehemaligen Partnerin zu überwachen. Ein anderer Polizist in Georgia, der gleichzeitig Polizeichef war, führte über 600 Durchsuchungen seiner Ex-Freundin und deren Tochter durch, bevor er sich später das Leben nahm, während gegen ihn Anklage wegen Stalking und Missbrauchs von Polizeiausrüstung erhoben wurde.

Das Hemd ist nicht Weckerts erster Versuch, sich gegen das System zu wehren oder ein Zeichen zu setzen. Bereits 2020 zog er einen Wagen mit 99 Handys durch Berlin, um einen Stau in Google Maps vorzutäuschen und damit zu demonstrieren, wie leicht KI-gesteuerte Systeme manipuliert werden können.

Die klügsten Köpfe der Krypto-Szene lesen bereits unseren Newsletter. Möchten Sie auch dabei sein? Dann schließen Sie sich ihnen an.