- مجموعة حقوق جديدة تكتشف أن اعتماد القطاع العام للذكاء الاصطناعي غير شفاف وغير مسؤول ويصب في مصلحة التكنولوجيا العملاقة وليس في مصلحة الجمهور.
- تدعو المنظمة وزير الذكاء الاصطناعي، كانيشكا ناريان، إلى تنظيم أنظمة الذكاء الاصطناعي في القطاع العام وفقاً لحقوق الإنسان.
- يدعم هذا النداء أعضاء البرلمان العمالي أليسون غاردنر، وأعضاء البرلمان الليبرالي الديمقراطي فيكتوريا كولينز، والنائبة الخضراء سيان بيري، اللائي ساهمن بمقدمات في كتاب "الذكاء الاصطناعي في القطاع العام: نهج قائم على حقوق الإنسان".الذكاء الاصطناعي في القطاع العام: نهج قائم على حقوق الإنسان.
الذكاء الاصطناعي والقطاع العام: نهج قائم على حقوق الإنسان
اقرأ التقريريكشف التقرير أن اعتماد المملكة المتحدة للذكاء الاصطناعي هو جزء أساسي من استراتيجية الدولة التي يبدو أنها مدفوعة بشكل أساسي بتحسين الأداء الاقتصادي وتعزيز الابتكار.
تسلط الورقة الضوء على المخاطر الناجمة عن كيفية تطوير أنظمة الذكاء الاصطناعي وشرائها ونشرها في القطاع العام. وتشمل هذه المخاطر:
- نقص التدقيق في أنظمة الذكاء الاصطناعي المشتراة لصالح الإدارات الحكومية والشركات القوية التي توفرها، ولكن ليس بالضرورة لصالح الجمهور العام.
- شراكات الحكومة مع الشركات الخاصة تعرض خطر إساءة استخدام السلطة واستيلاء الدولة من خلال نجاح تقنيات "التكنولوجيا الضخمة" في الضغط من أجل مزيد من استخدام تقنياتها في أجهزة الدولة.
- يتم شراء الذكاء الاصطناعي بطريقة تخنق المنافسة والابتكار، وتواجه الإدارات الحكومية خطر الوقوع في اتفاقيات مع شركات التكنولوجيا الأمريكية الكبرى بشكل أساسي. وهذا الوضع يعرض سيادة المملكة المتحدة للخطر في أوقات عدم اليقين الجيوسياسي والضغط الاقتصادي.
- يمكن لأنظمة الذكاء الاصطناعي إنتاج وتنفيذ سياسات غير مرئية، تاركًا الجمهور في الظلام حول كيفية اتخاذ القرارات التي تغير الحياة.
- لا يوجد دليل يُذكر على أن تطوير الذكاء الاصطناعي يتم بالرجوع إلى قوانين حماية البيانات والمساواة وحقوق الإنسان. حتى إذا حكمت محكمة ضد استخدام نظام ذكاء اصطناعي محدد، لا يمكن للأحكام القانونية معالجة القضايا النظامية في التكنولوجيا نفسها وكيف يساهم استخدامها في إلحاق المزيد من الأضرار بالمجتمع.
قال المدير التنفيذي لمجموعة الحقوق المفتوحة، جيم كيلوك:
تضع الحكومة مصالح التكنولوجيا الضخمة قبل المصالح العامة البريطانية في إنفاق مليارات على أنظمة الذكاء الاصطناعي، والتي تدعي أنها ستخلق كفاءة.
ليس من المرجح فقط أن تكون ادعاءات الكفاءة مبالغًا فيها، بل تخاطر الحكومة بزيادة تثبيت القطاع العام على استخدام عدد قليل من شركات التكنولوجيا الأمريكية المهيمنة، مما يخنق المنافسة، ويضعف الابتكار، ويشكل مخاطر طويلة الأجل لأمن المملكة المتحدة ومرونتها. وفي الوقت نفسه، لا توجد قواعد إلزامية فعالة ومتسقة لضمان احترام هذه الأنظمة لحقوق الإنسان.
يتم إبعاد الجمهور عن معرفة كيفية تأثير هذه الأنظمة عليهم. نحن بحاجة ملحة إلى تنظيم الذكاء الاصطناعي الذي يضع الشفافية والمساءلة والمصلحة العامة في المقام الأول، وحماية حقوق الإنسان وضمان عمل الذكاء الاصطناعي لمصلحة الجميع.
قال الدكتور ريتشارد ماكينزي-جري سكوت، مؤلف المقال:
"مع التغيير الحكومي الأخير، هناك فرصة جديدة لمواءمة سياسة التكنولوجيا الرقمية مع حقوق الإنسان.
نحتاج إلى البدء في أن نكون صادقين بشأن ما يجعل التكنولوجيات الجديدة والناشئة ممكنة. ما هي تكاليف تطويرها وصيانتها واستخدامها في سياقات مختلفة، وما إذا كانت هذه التكاليف ومزايا هذه التكنولوجيات متوازنة، إن وجدت. هناك معلومات خاطئة ومضللة يتم نشرها حول "الذكاء الاصطناعي".
من الصعب أيضًا متابعة الوعود والتوقعات، خاصة من الشركات التي تملك أموالًا طائلة. لكن المسؤولين عن الحوكمة بحاجة إلى التركيز على الأضرار الموجودة حاليًا، والمخاطر الموجودة حاليًا، وضمان استبدال الابتكار من أجل ملء الجيوب وزيادة السلطة بالابتكار الذي يساهم في القيمة الاجتماعية.
يجب أن يكون جوهر هذا التغيير حقوق الإنسان، وإلا ستستمر وهم التقدم.
ارتفعت النفقات العامة للمملكة المتحدة على الذكاء الاصطناعي بنسبة تزيد عن 800% من عام 2018 إلى عام 2025.بلغ إجمالي العقود الحالية حوالي 1500 عقد بقيمة إجمالية تبلغ 3.35 مليار جنيه إسترليني., with a أقامت الحكومة شراكات استراتيجية لتعزيز استخدام الذكاء الاصطناعي في مختلف القطاعات..
تهدف هذه الاستثمارات إلى تعزيز الابتكار وخلق فرص عمل جديدة في مجال التكنولوجيا.تسعى المملكة المتحدة إلى أن تصبح رائدة عالمياً في مجال الذكاء الاصطناعي.تتعاون الحكومة مع المؤسسات الأكاديمية لتنمية المواهب المحلية في مجال الذكاء الاصطناعي.
يُنظر إلى الذكاء الاصطناعي على أنه أداة أساسية لتحقيق النمو الاقتصادي والتنمية المستدامة.ادعاءاتأن الذكاء الاصطناعي في القطاع العام يمكن أن يساعد في توفير أي مبلغ يتراوح بين 45 و87 مليار جنيه إسترليني من الإنفاق السنوي. ولكن الادعاءات بأن الذكاء الاصطناعي سيحقق مكاسب كفاءة كبيرة لا تزال غير مثبتة، في حين أن الأخطاء الباهظة التكلفة، والتحديات القانونية، والحاجة إلى الإشراف البشري المستمر قد تترك دافعي الضرائب في وضع أسوأ.
الاستثمار في البدائل ذات التكلفة المنخفضة والمفتوحة المصدر يمكن أن يوفر قيمة أفضل دون تعريض الجمهور لمخاطر نشر أنظمة ذكاء اصطناعي غير موثوقة على نطاق واسع.
قالت الدكتورة أليسون غاردنر، عضو البرلمان:
يمتلك الذكاء الاصطناعي إمكانية إفادة المجتمع وجلب تقدم هائل في مجالات مثل الصحة، ولكنه يمكن أيضاً أن يؤتمت عدم المساواة والتمييز والأضرار. التنظيم الواضح حيوي لكي يثق الجمهور في هذه التكنولوجيات، خاصة عند استخدامها من قبل الدولة بطرق تؤثر على حياتهم.
تسعى شركات التكنولوجيا الكبرى إلى تنظيم ضعيف، ولكن يجب على المملكة المتحدة أن تكون صانعة للقواعد، وليس متتبعة لها، في حوكمة الذكاء الاصطناعي، لضمان جني المنافع الاجتماعية والاقتصادية لهذه التكنولوجيا."
قالت فيكتوريا كولينز، عضو البرلمان:
مع اعتماد الذكاء الاصطناعي في الخدمات العامة، لا يمكن أن يكون السؤال حول كيفية تفاعله مع الحقوق الأساسية للأشخاص وخصوصيتهم مجرد أمر ثانوي، وهذا المقال على حق في التأكيد على أن عبء تحديد وتحدي أنظمة الذكاء الاصطناعي الضارة يجب ألا يقع على أفراد من الجمهور. تقع هذه المسؤولية على عاتق الحكومة والصناعة التي تتعاون معها.
نحتاج إلى ضمان نهج يتم فيه اتخاذ قرارات المشتريات بشفافية، حيث يتم دعم المنافسة بنشاط في نظام الذكاء الاصطناعي في المملكة المتحدة، وتطوير المملكة المتحدة لنهج سيادي حقيقي بدلاً من الاستعانة بمصادر خارجية لمستقبلها الرقمي لأنظمة لا تسيطر عليها.
ملاحظات للمحررين
كُتب هذا المقال لمجموعة الحقوق المفتوحة من قبل الدكتور ريتشارد ماكينزي-غري سكوت. ريتشارد هو زميل في معهد بونافيرو لحقوق الإنسان بجامعة أكسفورد، ويعمل في مجالات حقوق الإنسان، والتكنولوجيات الرقمية، والدراسات الدستورية، والقانون الدولي والعلاقات، والتي تشمل البحث، والتدريس، والمشاركة في السياسات، والممارسة القانونية.