- گروه جدید حقوق باز، مییابد که پذیرش هوش مصنوعی توسط بخش عمومی فاقد شفافیت، پاسخگویی و به نفع فناوریهای بزرگ، نه مردم است.
- ORG از وزیر هوش مصنوعی، کانیشکا نارایان میخواهد تا سیستمهای هوش مصنوعی بخش عمومی را طبق حقوق بشر تنظیم کند.
- این درخواست توسط نمایندگان کارگر آلیسون گاردنر، لیبرال دموکرات ویکتوریا کالینز و نماینده سبز سیان بری، که پیشگفتارهایی در کتاب "هوش مصنوعی در بخش عمومی: رویکرد حقوق بشر" نوشتهاند، پشتیبانی میشود.هوش مصنوعی در بخش عمومی: رویکرد حقوق بشر.
هوش مصنوعی و بخش عمومی: رویکرد حقوق بشر
گزارش را بخوانیدگزارش مییابد که پذیرش هوش مصنوعی در بریتانیا بخشی کلیدی از استراتژی دولت است که به نظر میرسد عمدتاً توسط بهبود عملکرد اقتصادی و تقویت نوآوری تحریک میشود.
این مقاله بر خطراتی که از توسعه، خرید و استقرار سیستمهای هوش مصنوعی در بخش عمومی حاصل میشود، تأکید دارد. این خطرات شامل موارد زیر است:
- عدم بررسی سیستمهای هوش مصنوعی که برای منافع بخشهای دولتی و شرکتهای قدرتمند تأمینکننده آنها خریداری میشود، اما لزوماً برای منافع عموم مردم.
- مشارکت دولت با شرکتهای خصوصی خطر سوءاستفاده از قدرت و تصرف دولت از طریق فناوریهای بزرگ (Big Tech) را به همراه دارد که با لابیگری موفق برای استفاده بیشتر از فناوریهای خود در ارگانهای دولتی، این خطر را به وجود میآورند.
- هوش مصنوعی به روشی خریداری میشود که رقابت و نوآوری را سرکوب میکند و خطر قفل شدن بخشهای دولتی در توافقهایی با شرکتهای فناوری عمدتاً بزرگ آمریکایی را به همراه دارد. این وضعیت خطر تضییع حاکمیت بریتانیا در زمانهای نامطمئن ژئوپلیتیک و فشار اقتصادی را به همراه دارد.
- سیستمهای هوش مصنوعی میتوانند سیاستهایی را بدون اطلاع عموم اجرا کنند که باعث میشود مردم در تاریکی درباره نحوه اتخاذ تصمیمات زندگیساز بمانند.
- نشانههای اندکی وجود دارد که نشان دهد توسعه هوش مصنوعی با توجه به قوانین حفاظت از داده، برابری و حقوق بشر انجام میشود. حتی اگر دادگاه علیه استفاده از یک سیستم خاص هوش مصنوعی حکم دهد، احکام قانونی نمیتوانند مسائل سیستمی مربوط به فناوری خود و چگونگی کمک آن به آسیبهای بیشتر اجتماعی را برطرف کنند.
مدیرعامل گروه حقوق باز، جیم کیلوک گفت:
دولت منافع فناوریهای بزرگ را بر منافع عموم مردم بریتانیا ترجیح میدهد و در هزینه کردن میلیاردها دلار برای سیستمهای هوش مصنوعی که ادعا میکند کاراییها را ایجاد میکند، پیش میرود.
نه تنها ادعاهای کارایی احتمالاً اغراقآمیز هستند، دولت خطر قفل کردن بیشتر بخش عمومی در استفاده از تعداد محدودی از شرکتهای فناوری غالب آمریکایی را به همراه دارد، رقابت را سرکوب میکند، نوآوری را تضعیف میکند و خطرات بلندمدت برای امنیت و تابآوری بریتانیا را ایجاد میکند. در همین حال، قوانین الزامآور مؤثر و هماهنگ برای اطمینان از احترام این سیستمها به حقوق بشر وجود ندارد.
مردم از تأثیر این سیستمها بر خود آگاه نیستند. به شدت به مقررات هوش مصنوعی نیاز داریم که شفافیت، پاسخگویی و منافع عمومی را در اولویت قرار دهد، حقوق بشر را محافظت میکند و اطمینان حاصل میکند که هوش مصنوعی برای همه ما کار میکند.
دکتر ریچارد مککینزی-گری اسکات، نویسنده این مقاله، گفت:
«با تغییر اخیر دولت، فرصتی جدید برای هماهنگ کردن سیاست فناوری دیجیتال با حقوق بشر وجود دارد.
ما باید صادق باشیم در مورد آنچه فناوریهای جدید و نوظهور را ممکن میسازد. هزینههای توسعه، نگهداری و استفاده از آنها در زمینههای مختلف، و اینکه آیا و چگونه این هزینهها با مزایای مرتبط جبران میشوند. اطلاعات نادرست و گمراهکننده زیادی در مورد «هوش مصنوعی» منتشر میشود.
همچنین، پیگیری وعدهها و پیشبینیها، به ویژه از سوی شرکتهای پولپرست، دشوار است. اما کسانی که مسئول حکومت هستند، باید بر آسیبهای موجود، بر خطرات موجود و بر اطمینان از جایگزینی نوآوری برای منافع شخصی و افزایش قدرت با نوآوریهایی که به ارزش اجتماعی کمک میکنند، تمرکز کنند.
هسته چنین تغییری باید حقوق بشر باشد، در غیر این صورت توهم پیشرفت ادامه خواهد داشت.
هزینه عمومی بریتانیا در زمینه هوش مصنوعی با افزایش بیش از 800 درصدی از سال 2018 تا 2025 جهش یافت.در حال حاضر، مجموع قراردادها حدود 1500 قرارداد به ارزش گزارش شده 3.35 میلیارد پوند است.بریتانیا از شراکتهای متعددی با شرکتهایی مانند آمازون، گوگل، مایکروسافت، اوپنایای، اوراکل و پالانتیر وارد شده است.هدف از این شراکتها جذب و تضمین سرمایهگذاری خارجی در ازای استفاده نهادهای بخش عمومی از فناوریهای ارائه شده توسط این شرکتها است..
دولت بریتانیا به دنبال بهرهگیری از هوش مصنوعی برای بهبود خدمات عمومی و افزایش کارایی است.این کشور با سرمایهگذاری در این فناوری، خود را به عنوان یک قطب نوآوری در جهان معرفی میکند.افزایش بودجه دولتی برای هوش مصنوعی نشاندهنده اهمیت روزافزون این فناوری در سیاستهای عمومی است.
بریتانیا با این اقدام، خود را در مسیر پیشرفت دیجیتال و تحول هوش مصنوعی قرار داده است.ادعاهاکه هوش مصنوعی در بخش عمومی میتواند هر ساله بین 45 تا 87 میلیارد پوند در هزینهها صرفهجویی کند. اما ادعاهای مربوط به تحویل کارایی و دستاوردهای چشمگیر هوش مصنوعی هنوز اثبات نشده است، در حالی که خطاهای پرهزینه، چالشهای قانونی و نیاز به نظارت مداوم انسانی ممکن است وضعیت مالی مالیاتدهندگان را بدتر کند.
سرمایهگذاری در جایگزینهای کمهزینه و متنباز میتواند ارزش بهتری بدون قرار دادن عمومی در معرض خطر استفاده از سیستمهای هوش مصنوعی نامطمئن در مقیاس بزرگ ارائه دهد.
دکتر آلیسون گاردنر نماینده مجلس گفت:
هوش مصنوعی پتانسیل سود رساندن به جامعه و ایجاد پیشرفتهای بزرگ در حوزههایی مانند بهداشت را دارد، اما همچنین میتواند نابرابری و تبعیض را خودکار کرده و آسیبهایی را به همراه داشته باشد. تنظیم واضح ضروری است تا عمومی بتواند به این فناوریها اعتماد کند، به ویژه زمانی که دولت از آنها در روشهایی استفاده میکند که بر زندگی آنها تأثیر میگذارد.
شرکتهای فناوری بزرگ برای تنظیمات کم تلاش میکنند، اما بریتانیا باید در حاکمیت هوش مصنوعی، تنظیمکننده باشد، نه پیرویکننده، تا اطمینان حاصل شود که ما منافع اجتماعی و اقتصادی این فناوری را به دست میآوریم."
ویکتوریا کالینز نماینده مجلس گفت:
با گسترش استفاده از هوش مصنوعی در خدمات عمومی، سؤال در مورد تعامل آن با حقوق اساسی و حریم خصوصی افراد نمیتواند به حاشیه رانده شود، و این مقاله درست است که بر این تأکید دارد که بار شناسایی و چالش سیستمهای مضر هوش مصنوعی نباید بر دوش اعضای عمومی قرار گیرد. این مسئولیت به دولت و صنعت با شرکای آن تعلق دارد.
ما باید رویکردی را تضمین کنیم که تصمیمات خرید شفاف باشد، جایی که رقابت در اکوسیستم هوش مصنوعی بریتانیا به طور فعال مورد حمایت قرار گیرد، و جایی که بریتانیا رویکردی واقعاً حاکمیتی اتخاذ کند به جای برونسپاری آینده دیجیتال خود به سیستمهایی که کنترل آنها را ندارد.
یادداشتها برای سردبیران
این مقاله برای گروه حقوق باز توسط دکتر ریچارد مککینزی-گری اسکات نوشته شده است. ریچارد همکار انجمن مؤسسه بوناورو حقوق بشر در دانشگاه آکسفورد است و در زمینههای حقوق بشر، فناوریهای دیجیتال، مطالعات قانون اساسی و روابط بینالملل کار میکند، شامل تحقیقات، تدریس، مشارکت سیاست و عمل حقوقی.