خلاصه اجرایی
دولت به نظر میرسد بیشتر به ایجاد تصویری عمومی از پیشرفت علاقهمند است که تعاملات قدرت جهانی را تقویت میکند، تا ایجاد سیاستهای پایدار و بلندمدت برای بهرهگیری از هوش مصنوعی در جاهایی که مناسب و برای منفعت عمومی است. فوریت و ظاهر بر دقت و رهبری اولویت دارند. اتکا به سرمایه خارجی و سیستمهایی که توسط شرکتهای خصوصی طراحی و اداره میشوند که بسیاری از آنها در ایالات متحده مستقر هستند، و همچنین فشار اقتصادی و فناوری دولت در جایی که بسیاری از این شرکتها مستقر هستند، باعث میشود تمایل فعلی برای پذیرش هوش مصنوعی در بخش عمومی نگرانکننده باشد.
نگرانیهای مرتبط سهگانه است:
- چه کسی برنامه استفاده از سیستمهای هوش مصنوعی را تنظیم و اصلاح میکند؛
- آیا رویکرد فعلی که به اتکا به ارائهدهندگان بخش خصوصی است، به نفع جامعه بریتانیا است و به چه هزینههایی؛
- چگونه حقوق بشر را در حالی که از پذیرش هوش مصنوعی بهره میبریم، تضمین کنیم؟ در حال حاضر، این سیستمها تحت بررسی جدی قرار نمیگیرند. عموم مردم در حال حاضر در معرض خطرات هوش مصنوعی بخش عمومی هستند.
با این حال، مکانیسمهای نظارتی وجود دارند که میتوانند پذیرش هوش مصنوعی را با حقوق بشر هماهنگ کنند، و همه آنها باید به عنوان بخشی از بحث عمومی در نظر گرفته شوند. عموم مردم باید در شکلگیری قانون، مقررات و سیاستهای مربوط به هوش مصنوعی نقش مهمی داشته باشند. این کار بخشی از تضمین و شکلدهی سیستمهای قابل اعتماد و قابل اعتماد هوش مصنوعی است که منافع ملموس را برای همه اعضای جامعه بریتانیا به ارمغان میآورد، نه فقط منافع شرکتهای فناوری و حامیان آنها را تولید میکند.
در عین حال، بسیار مهم است که بار شناسایی و چالش سیستمهای مشکوک و احتمالاً غیرقانونی و کاهش آسیبهای هوش مصنوعی به طور کلی، بر عهده اعضای فردی عموم مردم قرار نگیرد. به همین دلیل، پیشنهادهای نظارتی ذکر شده در اینجا مسئولیت را به دولت بریتانیا و صنعت با شراکتهایی که با آن دارد، محول میکند.
توصیهها
این پیشنهادها به دنبال رسیدگی به جنبههای کلیدی در عمل مداوم توسعه و استفاده از هوش مصنوعی، از طراحی و آزمایش سیستمها تا مدیریت و نظارت بر آنها هستند.
- ارزیابیهای تأثیر پیش از استقرارکه وظیفه آنها رعایت وظیفه برابری بخش عمومی، قانون حفاظت از داده و حقوق بشر خاص قابل اعمال در حوزه استقرار پیشنهادی یک سیستم هوش مصنوعی است.
- بندهای غروبسیستمهای هوش مصنوعی تایید شده برای استقرار که ریسک بالایی برای حقوق بشر دارند.
- مجوز مورد استفادهنیاز به محدود کردن سیستمهای هوش مصنوعی به محدودیتهای استفاده مشخص، که باید در صورت پیشنهاد برای استفاده مجدد، باز ارزیابی و مجوز مجدد شوند.
- بازرسی الگوریتمی دورهایدر حین استفاده از سیستمهای هوش مصنوعی، که میتواند شامل سفارش شواهد فنی متخصص برای کمک به پروندههای بازبینی قضایی باشد.
- گزارش اجباری حوادثاز سیستمهای هوش مصنوعی مطابق با الزامات حقوق بشر برای اطلاع از تحقیقات آینده، گفتگو و سیاست.
- اصلاح شیوههای خرید هوش مصنوعی برای اجتناب از قفل شدن به تامینکنندهو همچنین رقابت و شفافیت را ترویج کنید، اطمینان حاصل کنید که نهادهای دولتی بهترین فناوری در دسترس را دارند، و به وضوح مشخص شود بر اساس چه معیاری قراردادها اعطا میشوند.
- توسعه جایگزینهای منبع باز برای سیستمهای هوش مصنوعی اختصاصی.با هدف افزایش ظرفیت توسعه هوش مصنوعی برای بخش عمومی که قابل انطباق و مستقل است.
- اصلاحات سازمانی.که اجازه نظارت عمومی بر هوش مصنوعی را میدهد، که مستقل از دولت و صنعت است، منابع مناسب دارد، با یک ماموریت روشن و قدرتهای اجرای آن، و به پارلمان پاسخگو است.
این مقاله توسط دکتر ریچارد مککینزی-گری اسکات برای گروه حقوق باز نوشته شده است. ریچارد همکار انجمن مؤسسه بوناورو حقوق بشر در دانشگاه آکسفورد است و در زمینههای حقوق بشر، فناوریهای دیجیتال، مطالعات قانون اساسی و روابط بینالملل کار میکند، شامل تحقیقات، تدریس، مشارکت در سیاستگذاری و عمل قانونی.