סיכום מנהלים
הממשלה נראית כעת יותר מעוניינת ביצירת תדמית ציבורית של התקדמות שמחזקת את הדינמיקות הגלובליות של הכוח, מאשר ביצירת מדיניות בת קיימא לטווח ארוך כדי לנצל את הבינה המלאכותית שם מתאים ולתועלת הציבור. נוחות ותדמית קודמות לזהירות ולנהגונות. התלות בהון זר ובמערכות שעוצבו ונשלטו על ידי חברות פרטיות שכבר שולטות בשוק, יחד עם הלחץ הכלכלי והטכנולוגי של המדינה בה רבות מהחברות הללו ממוקמות (ארצות הברית), הופכות את הרצון הנוכחי לאימוץ בינה מלאכותית במגזר הציבורי למטריד.
הדאגות הקשורות הן שלוש:
- מי קובע ומעדכן את סדר היום לשימוש במערכות בינה מלאכותית;
- האם הגישה הנוכחית התלויה בספקי המגזר הפרטי מועילה לחברה הבריטית, ובאיזה עלויות.
- כיצד להגן על זכויות האדם תוך ניצול אימוץ ה-AI. כרגע, מערכות אלו אינן כפופות לבדיקה משמעותית. הציבור חשוף כיום לסכנות של ה-AI במגזר הציבורי.
עם זאת, קיימים מנגנוני רגולציה עם הפוטנציאל ליישר את אימוץ ה-AI עם זכויות האדם, כולם צריכים להיחשב כחלק מהדיון הציבורי. הציבור חייב להיות לו השפעה משמעותית בעיצוב החוק, הרגולציה והמדיניות בנושא ה-AI. כך הוא מהווה חלק מהבטחת ויצירת מערכות AI אמינות, מהימנות שמניבות תועלות ממשיות לכל חברי החברה הבריטית, ולא רק מייצרות תועלות לחברות הטכנולוגיה ומממנות אותן.
במקביל, חשוב שהנטל להכיר ולתקוף מערכות בעייתיות ועשויות להיות בלתי חוקיות, ולהפחית את הנזקים של ה-AI באופן כללי, לא יונח על כתפי חברי הציבור הבודדים. לכן, ההצעות הרגולטוריות המפורטות כאן מייחסות אחריות למדינת בריטניה ולתעשייה עמה היא חולקת שותפויות.
המלצות
ההצעות הללו מכוונות לטפל בהיבטים מרכזיים בפרקטיקה המתמשכת של פיתוח ושימוש ב-AI, החל מעיצוב ומבחני מערכות, ועד לניהול ופיקוח.
- הערכות השפעה לפני פריסהשיקחו בחשבון את חובת השוויון של המגזר הציבורי, חוק הגנת הנתונים, וזכויות האדם הספציפיות החלות על תחום פריסת ה-AI המוצעת.
- סעיפי סיוםעל מערכות בינה מלאכותית מאושרות לפירוק שמציבות סיכון גבוה לזכויות אדם.
- אישור מקרי שימושדרישה ממערכות בינה מלאכותית להיות מוגבלות למגבלות שימוש מוגדרות, אשר צריכות להיבחן מחדש ולהיות מאושרות מחדש אם הן מוצעות לשימוש מחדש.
- ביקורת אלגוריתמית תקופתיתבמהלך השימוש במערכות בינה מלאכותית, אשר יכול לכלול הזמנת ראיות טכניות מומחות כדי לסייע במקרים של ביקורת שיפוטית.
- דיווח חובה על תקלותשל מערכות בינה מלאכותית בהתאם לדרישות זכויות אדם כדי לספק מידע למחקר עתידי, דיון ומדיניות.
- תיקון פרקטיקות רכישת בינה מלאכותית כדי להימנע ממצב של תלות בספק.לקדם תחרות ושקיפות, ולהבטיח כי גופי המדינה מצוידים בטכנולוגיה הטובה ביותר הזמינה, כאשר ברור גם על סמך איזה בסיס מוענקים החוזים.
- לפתח חלופות קוד פתוח למערכות AI קנייניותעל מנת להגביר את יכולת פיתוח ה-AI למגזר הציבורי, שהיא ניתנת להתאמה ועצמאית.
- רפורמה מוסדיתשמאפשרת סמכות פיקוח ציבורית לרגולציה של ה-AI, עצמאית מהממשלה ותעשיות, עם משאבים מתאימים, מנדט ברור עם כוחות אכיפה, וחשבון לנציגי הפרלמנט.
המאמר נכתב עבור קבוצת הזכויות הפתוחות על ידי ד"ר ריצ'רד מק'נזי-גרי סקוט. ריצ'רד הוא חבר עמית במכון בונאוירו לזכויות האדם באוניברסיטת אוקספורד, והוא עובד בתחומי זכויות האדם, טכנולוגיות דיגיטליות, מחקרים חוקתיים ומשפט בינלאומי ויחסים, הכוללים מחקר, הוראה, מעורבות במדיניות ופרקטיקה משפטית.