بدأ الكونغرس في إبداء اهتمامه بفتح "الصندوق الأسود" للذكاء الاصطناعي لشركات التكنولوجيا مع إشراف يوازي الطريقة التي تتحقق بها الحكومة الفدرالية تحت أغطية السيارات ومراجعة حسابات البنوك.
سيتطلب أحد المقترحات التي تم تقديمها يوم الأربعاء وشارك في رعايتها مرشح رئاسي ديمقراطي ، السناتور كوري بوكر ، من الشركات الكبيرة اختبار "المساءلة الحسابية" لأنظمة الذكاء الاصطناعي عالية الخطورة ، مثل التكنولوجيا التي تكتشف الوجوه أو تتخذ قرارات مهمة بناءً على البيانات الشخصية الأكثر حساسية.
وقال السناتور رون وايدن في مقابلة مع الأسوشيتيد برس: "تشارك أجهزة الكمبيوتر بشكل متزايد في العديد من القرارات الرئيسية التي يتخذها الأمريكيون فيما يتعلق بحياتهم اليومية - سواء كان بإمكان شخص ما شراء منزل أو الحصول على وظيفة أو حتى الذهاب إلى السجن". . يشارك أوريغون ديمقراطي في رعاية مشروع القانون.
وقال وايدن "عندما تدخل الشركات فعلاً في هذا الأمر ، فإنها تبحث عن التحيز في أنظمتها". "أعتقد أنهم سيجدون الكثير".
اقتراح الديمقراطيين هو الأول من نوعه ، وقد يواجه معركة شاقة في مجلس الشيوخ بقيادة الجمهوريين. ولكنه يعكس تناميًا متزايدًا - من الحزبين - إلى اقتصاد البيانات غير الخاضع للرقابة إلى حد كبير - كل شيء من موجزات وسائل التواصل الاجتماعي ، وسماسرة البيانات عبر الإنترنت ، والخوارزميات المالية ، وبرامج القيادة الذاتية التي تؤثر بشكل متزايد على الحياة اليومية. سيتطلب مشروع قانون لمجلس الشيوخ مؤلف من الحزبين الجمهوري والديمقراطي قدم الشهر الماضي من الشركات أن تخطر الناس قبل استخدام برنامج التعرف على الوجه عليها ، بينما تتطلب أيضًا إجراء اختبارات من طرف ثالث للتحقق من وجود مشكلات في التحيز.
كشفت الدراسات الأكاديمية والأمثلة الواقعية عن أنظمة التعرف على الوجه التي تخطئ في التعرف على النساء ذوي البشرة الداكنة ، وأدوات الإقراض المحوسبة التي تفرض أسعار فائدة أعلى على المقترضين من السود واللاتينيين ، وأدوات توظيف الوظائف التي تفضل الرجال في الصناعات التي يهيمنون عليها بالفعل.
وقال آرون ريك ، العضو المنتدب في مجموعة "أبتورن" للدفاع "هناك هذه الأسطورة القائلة بأن الخوارزميات هي هذه الأشياء المحايدة والموضوعية". "التعلم الآلي يلتقط الأنماط في المجتمع - من يفعل ماذا ، من يشتري ماذا ، أو من لديه الوظيفة. هذه أنماط تتشكل من القضايا التي نواجهها منذ عقود".
تنبه إدارة الرئيس دونالد ترامب كذلك وجعلت تطوير خوارزميات "آمنة وجديرة بالثقة" هدفًا رئيسيًا لمبادرة منظمة العفو الدولية الجديدة للبيت الأبيض. لكنها ستفعل ذلك في الغالب من خلال تعزيز عملية قائمة على الصناعة لإنشاء معايير تكنولوجية.
وقال وكيل وزارة التجارة والتر كوبان ، الذي يدير المعهد الوطني للمعايير والتكنولوجيا: "هناك حاجة إلى قدر أكبر من الشفافية وقابلية المقارنة للبيانات" ، ولاكتشاف وتقليص التحيز في هذه النظم. "المستهلكون يرفعون البصر بشكل أساسي".
قام العشرات من مطوري التعرف على الوجه ، بما في ذلك شركات تحمل علامات تجارية مثل Microsoft ، في العام الماضي بتقديم خوارزميات الملكية الخاصة بهم إلى وكالة كوبان بحيث يمكن تقييمها ومقارنتها مع بعضها البعض. أظهرت النتائج مكاسب كبيرة في الدقة مقارنة بالسنوات السابقة.
لكن وايدن قال إن المعايير الطوعية ليست كافية.
وقال "التنظيم الذاتي فشل بوضوح هنا".
في خطوة أكثر جرأة من إدارة ترامب ، فرضت وزارة الإسكان والتنمية الحضرية الفيدرالية اتهامًا لـ Facebook على السماح لأصحاب العقارات والوسطاء العقاريين باستبعاد مجموعات مثل غير المسيحيين والمهاجرين والأقليات بشكل منهجي من مشاهدة الإعلانات الخاصة بالمنازل والشقق.
وقال بوكر ، في بيان حول مشروع قانونه ، إنه على الرغم من أن إجراء HUD على Facebook يمثل خطوة مهمة ، فمن الضروري البحث بشكل أعمق لمعالجة "الطرق الخبيثة" التي يعمل بها التمييز على منصات التقنية ، أحيانًا دون قصد.
وقال بوكر إن الخوارزميات المتحيزة تسبب نفس النوع من الممارسات العقارية التمييزية التي سعت إلى توجيه والديه في نيوجيرسي وغيرهما من الأزواج السود بعيدا عن بعض الأحياء الأمريكية في أواخر الستينيات. هذه المرة ، قال ، من الصعب اكتشافها والقتال.
سيمكن مشروع القانون الذي قدمه هو و Wyden لجنة التجارة الفيدرالية من وضع وإنفاذ قواعد جديدة للشركات للتحقق من الدقة والانحياز والمخاوف المحتملة المتعلقة بالخصوصية أو الأمان في أنظمتها الآلية ، وتصحيحها في حالة وجود مشاكل. فهو يستثني الشركات الأصغر التي تحقق أقل من 50 مليون دولار في السنة ، ما لم تكن وسطاء بيانات لديهم معلومات عن مليون مستهلك على الأقل.
وقالت إيفيت كلارك ، النائب الديموقراطي في نيويورك ، التي تقدم مشروع قانون مصاحب في مجلس النواب ، إن الهدف هو حل المشكلات ، وليس فقط تقييمها. وقالت إنه من المنطقي إعطاء هيئة التجارة الفيدرالية (FTC) سلطة مراقبة أداء هذه الأنظمة بشكل منتظم لأنها "تحمل أصبع ما يحدث للمستهلكين"