بدء تشغيل التعرف على الوجه يصدم شكوك حول الدقة والمطالبات القانونية بعد تقرير نيويورك تايمز
وفقًا لتقرير صادر من BuzzFeed News ، فإن Clearview AI ، شركة الذكاء الاصطناعي التي توفر تقنية التعرف على الوجه لإنفاذ القانون في الولايات المتحدة ، قد تبالغ في تقدير مدى فعالية خدماتها في القبض على المشتبه في أنهم إرهابيون ومنع الهجمات.
الشركة ، التي اكتسبت اعترافًا واسع النطاق من تقرير نشرته صحيفة نيويورك تايمز في وقت سابق من هذا الشهر ، تزعم أنها كانت مفيدة في تحديد مشتبه به من نيويورك من لقطات فيديو وضعت ثلاثة من أجهزة طهي الأرز متخفية كأدوات متفجرة حول مدينة نيويورك في أغسطس الماضي ، مما تسبب في حالة من الذعر وانطلاق مطاردة في جميع أنحاء المدينة. عثر BuzzFeed News عبر طلب سجلات عامة على أن Clearview AI كانت تدعي في مادة ترويجية أن تطبيق القانون ربط المشتبه به بملف تعريف عبر الإنترنت في خمس ثوانٍ فقط باستخدام قاعدة البيانات الخاصة به. لكن شرطة المدينة تقول الآن إن هذا خطأ.
"شرطة نيويورك لم تستخدم تكنولوجيا كليرفيو لتحديد المشتبه به في 16 أغسطس طنجرة الأرز الحادث"، وقال متحدث باسم شرطة نيويورك BuzzFeed الأخبار. "حددت شرطة نيويورك المشتبه به باستخدام ممارسة التعرف على الوجه في القسم حيث تمت مقارنة صورة ثابتة من فيديو مراقبة بمجموعة من صور الاعتقال التي تم حيازتها بشكل قانوني".
تقول شرطة نيويورك الآن إنه ليس لديها علاقة رسمية مع كليرفيو ، على الرغم من ادعاءات الشركة بخلاف ذلك في المواد الترويجية التي تستخدمها لعرض تقنيتها في جميع أنحاء البلاد وحتى علنا على موقعها على الانترنت. كليرفيو الرئيس التنفيذي هوان تون هذا يقول الآن شرطة نيويورك تستخدم التكنولوجيا "على أساس تجريبي"، تقارير BuzzFeed.
في مدونة نشرت يوم الخميس ردا على الانتقادات، تدعي كليرفيو أنها رفضت فكرة أنها تنتج تطبيقًا عامًا للتعرف على الوجه يواجه المستهلك ويمكن لأي شخص الوصول إليه.
"تطبيق Clearview غير متوفر للجمهور. في حين أن العديد من الناس نصحونا بأن النسخة العامة ستكون أكثر ربحية ، فقد رفضنا الفكرة ". "كليرفيو موجود لمساعدة وكالات إنفاذ القانون على حل أصعب القضايا، والتكنولوجيا لدينا تأتي مع مبادئ توجيهية صارمة والضمانات لضمان المحققين استخدامها للغرض المقصود فقط."
سرعان ما صعدت كليرفيو إلى صدارة الحوار الوطني حول تقنية التعرف على الوجه - على وجه الخصوص ، القلق المتزايد بين النشطاء والسياسيين حول كيفية استخدامها لانتهاك الحقوق المدنية وما إذا كان يتم اعتمادها أيضًا بسرعة على أساس ادعاءات كاذبة أو مضللة حول فعاليتها. أمازون، التي تصنع منتج التعرف على الوجه القائم على السحابة يسمى Rekognition، واجهت أيضًا انتقادات مماثلة لبيعها تقنيتها إلى أجهزة إنفاذ القانون على الرغم من المخاوف المتكررة من الأكاديميين والنشطاء الذين يقولون إنه معيب عند استخدامه لمحاولة الهوية أغمق البشرة والإناث الأفراد.
تواجه كليرفيو أيضًا تحديات من المنصات في أعقاب تقرير NYT. أرسلت تويتر كليرفيو رسالة وقف والكف تطالب الشركة بالتوقف عن إلغاء منصتها للصور لتضمينها في قاعدة بياناتها. كما طالب تويتر الشركة بحذف أي بيانات موجودة قد تكون حصلت عليها من المنصة لأن استخدامها لملء قاعدة بيانات تابعة لجهة خارجية دون موافقة المستخدم يتعارض مع سياسات تويتر. وقد اعترفت كليرفيو علنا ً بأنها بنت قاعدة بياناتها جزئياً عن طريق إلغاء ملفات تعريف وسائل التواصل الاجتماعي.
كما يعرب أعضاء الكونغرس عن قلقهم إزاء المنتج. السيناتور اد ماركي (D-MA) ، وهو ناقد صاخب لممارسات الخصوصية في وادي السيليكون وتجاوز ، كما بعث برسالة إلى تون التي في وقت سابق من هذا الشهر يطالب الشركة بتقديم معلومات حاسمة حول ممارساتها والتكنولوجيا. تتضمن قائمة الأسئلة معلومات عن وكالات إنفاذ القانون التي تعمل معها Clearview ، ونتائج اختبارات التحيز الداخلي والدقة إذا كانت موجودة ، وما إذا كانت الشركة تخطط لتسويق تقنيتها للأفراد أو شركات الطرف الثالث خارجها إنفاذ القانون ، وحماية خصوصية الطفل ، من بين معلومات أخرى.
"إن الطرق التي يمكن بها تسليح هذه التكنولوجيا واسعة ومثيرة للقلق. باستخدام تقنية كليرفيو، يمكن للمجرم بسهولة معرفة أين يعيش شخص ما في الشارع أو يعمل. يمكن لخصم أجنبي أن يجمع بسرعة معلومات عن الأفراد المستهدفين لأغراض الابتزاز". "يبدو أن منتج كليرفيو يشكل مخاطر خصوصية مخيفة بشكل خاص، وأنا قلق للغاية من أنه قادر على تفكيك توقعات الأميركيين بشكل أساسي بأنهم يستطيعون التحرك أو التجمع أو الظهور ببساطة في الأماكن العامة دون تحديدهويتهم."
This story reads like one of the more disturbing episodes of Black Mirror. Americans have a right to know whether their personal photos are secretly being sucked into a private facial recognition database. https://t.co/1UKWq4cizg— Ron Wyden (@RonWyden) January 19, 2020
في تطور واحد بائس بشكل خاص ، ذكرت صحيفة نيويورك تايمز أن كليرفيو قد حددت ووصلت إلى ضباط الشرطة الذين ربما كانوا يتحدثون مع الصحفيين من خلال التحقق من السجلات التي قام الضباط بتحميل صور هؤلاء الصحفيين في كليرفيو التطبيق. "من المقلق للغاية أن هذه الشركة قد رصدت الاستخدام على وجه التحديد لاغلاق أسفل على أسئلة من الصحفيين حول شرعية التطبيق الخاصة بهم"، السناتور رون Wyden (D-OR) تغريد ة الأحد الماضي.