Technologia rozpoznawania twarzy: sprawa Kmart
Dziś przeczytałem raport z dochodzenia w sprawie australijskiego Kmart, giganta handlu detalicznego, który przez 2 lata bez zgody używał technologii rozpoznawania twarzy (FRT) na WSZYSTKICH klientach. Co się dzieje, gdy szlachetne intencje zderzają się z brakiem odpowiedniego zarządzania?
Czy to się już zdarzyło?
Tak! W 2024 roku odkryto, że Bunnings, duża sieć sklepów z artykułami do majsterkowania, również używała FRT w swoich sklepach, ta sama historia - inne powody. W przypadku Bunnings chodziło o zapobieganie agresji klientów wobec personelu. Zarząd sklepu został poproszony o opublikowanie wyjaśnienia, jak dokładnie działa technologia - co zrobili.
(Źródło: https://www.bunnings.com.au/about-us/facial-recognition-technology)
Kmart używał tej technologii, aby spróbować zwalczyć oszustwa związane ze zwrotami - takie jak zwrot skradzionych przedmiotów lub zamiana kodów kreskowych, co jest poważnym problemem: w samych Stanach Zjednoczonych około 15% zwrotów w 2024 roku wiązało się z jakąś formą oszustwa, co kosztowało miliardy.
Dlaczego Komisarz ds. Prywatności orzekł, że to nie jest w porządku?
Pomimo dobrych powodów stojących za decyzją o wdrożeniu technologii, Komisarz ds. Prywatności orzekł, że Kmart naruszył ustawę o ochronie prywatności (w Australii nie ma przepisów dotyczących sztucznej inteligencji, więc stosuje się istniejące przepisy). “To, że technologia może być pomocna lub wygodna, nie oznacza, że jej użycie jest uzasadnione”, powiedziała, poruszając temat proporcjonalności: korzyść z użycia technologii musi wyraźnie i w przeważającej mierze przewyższać ryzyko dla prywatności, jakie ona stwarza. “Odciski twarzy”, które sklep zbierał, nawet jeśli nie były przechowywane dłużej niż sekundę, były używane do dopasowywania, co zmienia zdjęcie z informacji osobistej w informację wrażliwą - bardzo ważna różnica.
System skanował każdego, kto wszedł, zbierając dane biometryczne od setek tysięcy ludzi, a nie tylko od kilku złych aktorów. Ale nie był zbyt dobry w swojej pracy: ilość zapobieżonych oszustw była niewielka w porównaniu z całym problemem. Ogromne ryzyko dla prywatności każdego klienta nie było równoważone przez bardzo ograniczone korzyści.
Co ważne, firma nigdy nie zbadała odpowiednio mniej inwazyjnych dla prywatności alternatyw, takich jak lepsze szkolenie personelu lub bardziej rygorystyczne zasady zwrotów. Komisarz podkreśliła, że firma nie musiała znaleźć alternatywy, która byłaby równie skuteczna w zapobieganiu oszustwom. Zamiast tego musieli tylko wykazać, że odpowiednio rozważyli i odrzucili inne, mniej inwazyjne dla prywatności metody. Firma tego nie zrobiła.
Wreszcie, chociaż firma wywiesiła “zaktualizowane” Warunki Wejścia przy wejściu do sklepu, stwierdzając, że sklep ma “24-godzinny monitoring CCTV, który obejmuje technologię rozpoznawania twarzy”, wiele sklepów używało tej technologii przez miesiące, zanim to ogłoszenie zostało wywieszone, co oznacza, że ogromna liczba klientów nie była świadoma użycia technologii, gdy wchodzili. Polityka prywatności, która obowiązywała przez ponad rok po rozpoczęciu pilotażu, w ogóle nie wspominała o rozpoznawaniu twarzy.
Nie chodzi o piętnowanie firm. Ani Bunnings, ani Kmart nie zostały ukarane grzywną. To przypomnienie dla wszystkich organizacji: przejrzystość, konieczność i proporcjonalność są kluczowymi względami przy wdrażaniu systemów rozpoznawania twarzy, takich jak ten.
Jakie są wasze przemyślenia na ten temat? Czy firmy powinny mieć prawo do używania FRT w celu ochrony swojej działalności, nawet jeśli wpływa to na prywatność każdego klienta?
