Gesiichtserkennungstechnologie: de Kmart-Fall

Haut hunn ech den Enquêtebericht iwwer den australesche Kmart gelies, e Ris am Eenzelhandel, deen zwee Joer laang Gesiichtserkennungstechnologie (FRT) op ALL Clienten ouni Zoustëmmung benotzt huet. Wat geschitt, wann nobel Intentioune mat engem Mangel u gudder Gouvernance kollidéieren?

Ass dat scho virdru geschitt?

Jo! Am Joer 2024 gouf festgestallt, datt Bunnings, eng grouss Baumarktkette, och FRT an hire Geschäfter benotzt huet, déiselwecht Geschicht - aner Grënn. Fir Bunnings goung et drëm, d’Agressioun vu Clienten géint d’Personal ze verhënneren. D’Geschäftsleitung gouf gefrot, eng Erklärung ze publizéieren, wéi d’Technologie genee funktionéiert - wat se gemaach hunn.

(Quell: https://www.bunnings.com.au/about-us/facial-recognition-technology)

Kmart huet d’Technologie benotzt fir ze probéieren, Retourbedruch ze bekämpfen - Saache wéi d’Retour vu geklaute Wueren oder d’Austausch vu Barcoden, e seriéise Problem: eleng an den USA ware ronn 15% vun de Retouren am Joer 2024 mat enger Aart vu Bedruch verbonnen, wat Milliarde kascht huet.

Firwat huet de Dateschutzkommissär decidéiert, datt dat net an der Rei ass?

Trotz de gudde Grënn hannert der Entscheedung, d’Technologie anzesetzen, huet de Dateschutzkommissär decidéiert, datt Kmart d’Dateschutzgesetz verletzt huet (an Australien gëtt et keng spezifesch KI-Gesetzgebung, also ginn déi existent Gesetzer ugewannt). “Just well eng Technologie hëllefräich oder praktesch ka sinn, heescht net, datt hire Gebrauch gerechtfäerdegt ass”, sot si, an huet d’Thema vun der Proportionalitéit ugeschwat: de Virdeel vum Gebrauch vun enger Technologie muss kloer an iwwerwältegend d’Dateschutzrisiken iwwerweien, déi se duerstellt. “Gesiichtsofdréck”, déi de Buttek gesammelt huet, och wa se net méi wéi eng Sekonn gespäichert goufen, goufe fir d’Vergläichung benotzt, wat eng Foto vu perséinlechen zu sensiblen Informatioune mécht - e ganz wichtegen Ënnerscheed.

De System huet jiddereen gescannt, deen erakoum, an huet biometresch Date vu Honnerte vun Dausende vu Leit gesammelt, net nëmmen vun de puer schlechten Akteuren. Awer et war net ganz gutt a senger Aarbecht: d’Quantitéit u verhënnertem Bedruch war kleng am Verglach zum Gesamtproblem. De massive Dateschutzrisiko fir all Client gouf net duerch déi ganz limitéiert Virdeeler opgewien.

Wichteg ass, datt d’Firma ni richteg manner dateschutzinvasiv Alternativen exploréiert huet, wéi besser Personalformatioun oder méi streng Retourpolitiken. De Kommissär huet betount, datt d’Firma keng Alternativ huet misse fannen, déi gläich effektiv war fir Bedruch ze verhënneren. Amplaz hu se just misse weisen, datt se aner, manner dateschutzinvasiv Methoden richteg iwwerluecht an ofgeleent haten. D’Firma huet dat net fäerdeg bruecht.

Schlussendlech, obwuel d’Firma en “aktualiséierten” Avis iwwer d’Konditioune vum Entrée um Agank vum Buttek ugewisen huet, deen uginn huet, datt de Buttek “24-Stonne-CCTV-Iwwerwaachung huet, déi Gesiichtserkennungstechnologie enthält”, hu vill Geschäfter d’Technologie scho Méint laang benotzt, ier dësen Avis ugewisen gouf, wat bedeit, datt eng grouss Zuel vu Clienten sech net bewosst war iwwer de Gebrauch vun der Technologie, wéi se erakoumen. D’Dateschutzerklärung, déi iwwer ee Joer nom Start vum Pilot a Kraaft war, huet d’Gesiichtserkennung iwwerhaapt net ernimmt.

Dëst geet net drëm, Firmen un de Pranger ze stellen. Weder Bunnings nach Kmart kruten eng Geldstrof. Et ass eng Erënnerung fir all Organisatiounen: Transparenz, Noutwennegkeet a Proportionalitéit sinn déi wichtegst Iwwerleeungen, wann ee Gesiichtserkennungssystemer wéi dësen asetzt.

Wat sinn Är Gedanken doriwwer? Sollten d’Firmen d’Recht hunn, FRT ze benotzen fir hiert Geschäft ze schützen, och wann et d’Privatsphär vun all Client beaflosst?