تقنية التعرف على الوجه: قضية كمارت

قرأت اليوم تقرير التحقيق حول شركة كمارت الأسترالية، وهي شركة تجزئة عملاقة تبين أنها استخدمت تقنية التعرف على الوجه (FRT) على جميع العملاء لمدة عامين دون موافقة. ماذا يحدث عندما تتعارض النوايا النبيلة مع الافتقار إلى الحوكمة السليمة؟

هل حدث هذا من قبل؟

نعم! في عام 2024، تبين أن Bunnings، وهي سلسلة متاجر كبرى للأدوات اليدوية، تستخدم تقنية التعرف على الوجه في متاجرها أيضًا، نفس القصة - أسباب مختلفة. بالنسبة لـ Bunnings، كان الأمر يتعلق بمنع عدوانية العملاء تجاه الموظفين. طُلب من إدارة المتجر نشر شرح لكيفية عمل التكنولوجيا بالضبط - وهو ما فعلوه.

(المصدر: https://www.bunnings.com.au/about-us/facial-recognition-technology)

استخدمت كمارت التكنولوجيا لمحاولة مكافحة الاحتيال في المرتجعات - أشياء مثل إرجاع العناصر المسروقة أو تبديل الرموز الشريطية، وهي مشكلة خطيرة: في الولايات المتحدة وحدها، شمل حوالي 15٪ من المرتجعات نوعًا من الاحتيال في عام 2024، مما كلف المليارات.

لماذا قضى مفوض الخصوصية بأن هذا غير مقبول؟

على الرغم من الأسباب الوجيهة وراء قرار نشر التكنولوجيا، قضى مفوض الخصوصية بأن كمارت قد انتهكت قانون الخصوصية (في أستراليا، لا يوجد تشريع خاص بالذكاء الاصطناعي لذا يتم تطبيق القوانين الحالية). وقالت: “مجرد أن التكنولوجيا قد تكون مفيدة أو مريحة، لا يعني أن استخدامها مبرر”، وأثارت موضوع التناسب: يجب أن تفوق فائدة استخدام التكنولوجيا بوضوح وبشكل كبير مخاطر الخصوصية التي تشكلها. “بصمات الوجه” التي جمعها المتجر، حتى لو لم يتم تخزينها لأكثر من ثانية، تم استخدامها للمطابقة، مما يحول الصورة من معلومات شخصية إلى معلومات حساسة - وهو تمييز مهم للغاية.

قام النظام بمسح كل من دخل، وجمع البيانات البيومترية من مئات الآلاف من الأشخاص، وليس فقط عدد قليل من الفاعلين السيئين. لكنه لم يكن جيدًا جدًا في وظيفته: كان مقدار الاحتيال الذي تم منعه ضئيلاً مقارنة بالمشكلة الإجمالية. لم يتم موازنة مخاطر الخصوصية الهائلة لكل عميل بالفوائد المحدودة للغاية.

والأهم من ذلك، أن الشركة لم تستكشف بشكل صحيح بدائل أقل تدخلاً في الخصوصية مثل تدريب الموظفين بشكل أفضل أو سياسات إرجاع أكثر صرامة. أكد المفوض أن الشركة لم تكن بحاجة إلى إيجاد بديل فعال بنفس القدر في منع الاحTIال. بدلاً من ذلك، كان عليهم فقط إظهار أنهم قد نظروا بشكل صحيح ورفضوا طرقًا أخرى أقل تدخلاً في الخصوصية. فشلت الشركة في القيام بذلك.

أخيرًا، في حين أن الشركة عرضت إشعارًا “محدثًا” لشروط الدخول عند مدخل المتجر، ينص على أن المتجر به “تغطية CCTV على مدار 24 ساعة، والتي تشمل تقنية التعرف على الوجه”، كانت العديد من المتاجر تستخدم التكنولوجيا لعدة أشهر قبل عرض هذا الإشعار، مما يعني أن عددًا كبيرًا من العملاء لم يكونوا على دراية باستخدام التكنولوجيا عند دخولهم. لم تذكر سياسة الخصوصية، التي كانت سارية المفعول لأكثر من عام بعد بدء المشروع التجريبي، التعرف على الوجه على الإطلاق.

لا يتعلق هذا بتشهير الشركات. لم يتم تغريم Bunnings أو Kmart. إنه تذكير لجميع المنظمات: الشفافية والضرورة والتناسب هي الاعتبارات الرئيسية عند نشر أنظمة التعرف على الوجه مثل هذه.

ما هي أفكارك حول هذا؟ هل يجب أن يكون للشركات الحق في استخدام تقنية التعرف على الوجه لحماية أعمالها، حتى لو كان ذلك يؤثر على خصوصية كل عميل؟