شكوك حول “تقنية التعرف على الوجه”
دعت شركة مايكروسوفت الحكومة الأمريكية إلى التفكير بشكل جدي في الغموض التنظيمي المتعلق بنشر واعتماد تقنية التعرف على الوجه.
وحث براد سميث ، رئيس الشركة البرلمان والمشرعين للتأكد من خوارزميات الكشف عن الوجه والسياسات الحرفية التي تحدد استخدام مثل هذه التقنيات.
وتشكل هذه التقنية موضوعًا مثيرًا للجدل، حيث احتشد العشرات من المستثمرين وجماعات الدفاع عن المستهلكين ضد شركة أمازون لتوفيرها نظام ذكاء اصطناعي للكشف عن الوجه لوكالات تنفيذ القانون.
ونشر براد سميث وهاري شوم رئيس قسم الذكاء الاصطناعي التابع لمايكروسوفت، دراسة في وقت سابق من هذا العام تنبأت بأن التقدم في الذكاء الاصطناعي سيتطلب قوانين جديدة.
وكتب سميث: “يزداد الضغط على شركات التكنولوجيا للحد من الطريقة التي تستخدم بها الوكالات الحكومية تقنية التعرف على الوجه والتكنولوجيا الأخرى، وليس هناك بديل ضمن نظامنا الديمقراطي عن اتخاذ القرار من قبل ممثلينا المنتخبين فيما يتعلق بالقضايا التي تتطلب موازنة السلامة العامة مع جوهر حرياتنا الديمقراطية، والحكومة بحاجة لأن تلعب دورًا هامًا في تنظيم تقنية التعرف على الوجه”.
ويشير سميث إلى أن تقنية التعرف على الوجه أصبحت مستخدمة بشكل كبير ضمن مجتمعنا، وهو ليس بالضرورة أمرًا سيئًا، حيث استخدمتها الشرطة في الهند لتعقب أكثر من ثلاثة آلاف طفل مفقود في غضون أربعة أيام، وقامت السلطات المحلية بتزويد قاعدة بيانات للتعرف على الوجه للتعرف على المشتبه في تورطه في حادث إطلاق النار الذي وقع في الشهر الماضي، لكن هذا لا يعني أنه لا يوجد احتمال لسوء الاستخدام.
وقال سميث: “تخيل أن تتبع الحكومة كل مكان مشيت فيه خلال الشهر الماضي دون إذن منك أو معرفتك، تخيل قاعدة بيانات لكل من حضر مظاهرة سياسية تشكل جوهر حرية التعبير، تخيل استخدام متاجر التسوق تقنية التعرف على الوجه لتبادل المعلومات مع بعضها البعض فيما يتعلق بكل رف بضائع تهتم به والمنتجات التي تشتريها دون أن تطلب منك الإذن أولاً، لقد كان هذا الأمر مادة للخيال العلمي منذ زمن طويل، لكنه الآن على وشك أن يصبح ممكنًا”.
وتعمل أنظمة التعرف على الوجه بشكل أسوأ فيما يتعلق بالتعرف على وجوه الأمريكيين الأفارقة بالمقارنة مع الوجوه القوقازية، وأظهرت ورقة بحثية منشورة في شهر فبراير/شباط شارك فيها تيمنيت غيبرو Timnit Gebru، الباحث في مايكروسوفت، أن معدلات الخطأ قد تصل إلى نسبة 35 في المئة ضمن أنظمة التعرف على الوجه فيما يتعلق بالتعامل مع النساء ذوي البشرة الداكنة، وتتشابه أنظمة التعرف على الوجه مع العديد من تقنيات الذكاء الاصطناعي، والتي عادًة ما يكون لديها معدل خطأ حتى عندما تعمل بطريقة غير متحيزة.
وابتعد سميث عن طلب قوانين أو مبادئ أخلاقية محددة، ولكنه طرح سلسلة من الأسئلة على المنظمين للنظر فيها، بما في ذلك “هل يجب أن تخضع عملية استخدام تقنية التعرف على الوجه من قبل وكالات تطبيق القانون لرقابة الإنسان وضوابطه ؟”، وهل نضمن وجود إشراف مدني ومساءلة عن استخدام هذه التقنية كجزء من ممارسات تكنولوجيا الأمن القومي الحكومية ؟”.
ودعا سميث شركات التكنولوجيا إلى البحث عن طرق للحد من خطر التحيز في تقنية التعرف على الوجه، واتخاذ منهج مبدئي وشفاف لتطوير أنظمة كشف الوجه، والتحرك ببطء وبشكل متعمد في نشر تقنية التعرف على الوجه، والمشاركة بطريقة كاملة ومسؤولة في مناقشات السياسة العامة بشأن هذه التكنولوجيا.
وقامت شركة مايكروسوفت، من جانبها، بإنشاء لجنة استشارية داخلية تسمى لجنة Aether للنظر في استخدامها للذكاء الاصطناعي، ونشرت مجموعة من المبادئ الأخلاقية لتطوير تكنولوجيات الذكاء الاصطناعي الخاصة بها، وتقول أيضًا إنها رفضت نشر تقنية التعرف على الوجه عندما أدركت وجود مخاطر أكبر فيما يتعلق بحقوق الإنسان.
وتأتي مشاركة براد سميث في وقت تواجه فيه مايكروسوفت وجوجل وغيرها من شركات التكنولوجيا انتقادات شديدة من أجل توفير الأدوات والخبرات للبرامج المثيرة للجدل، حيث ألغت شركة مايكروسوفت، التي رضخت لضغط الجمهور، عقدًا مع هيئة الهجرة والجمارك الأمريكية ICE في شهر يونيو/حزيران، واحتج موظفو جوجل على مشاركة الشركة في مشروع مافن Project Maven، وهو برنامج تابع لوزارة الدفاع سعى إلى المساعدة في تحديد الأهداف المحتملة من خلال الفيديوهات الورادة من الطائرات بدون طيار.