Yürütme Özeti
Hükümet, küresel güç dinamiklerini pekiştiren bir ilerleme imajı yaratmaya daha çok ilgi gösteriyor gibi görünüyor, uygun ve kamu yararına Yapay Zeka'yı kontrol etmek için uzun vadeli sürdürülebilir politikalar oluşturmaya değil. Acelecilik ve görünüşler, dikkat ve liderlikten öncelikli hale geliyor. Yabancı sermayeye ve zaten pazar hakimiyeti olan özel şirketler tarafından tasarlanıp işletilen sistemlere bağımlılık, birçok şirketin bu ülkelerde (Amerika Birleşik Devletleri) yerleşik olduğu ekonomik ve teknolojik zorlamalarla birleştiğinde, kamu sektöründe Yapay Zeka benimseme arzusu endişe verici hale geliyor.
İlgili endişeler üçlü:
- Yapay Zeka sistemlerinin kullanım gündemini kim belirliyor ve değiştiriyor;
- Mevcut özel sektör sağlayıcılara bağımlılığın Birleşik Krallık toplumuna faydası var mı, ve ne kadar maliyeti var?
- Yapay zekanın benimsenmesini desteklerken insan haklarını nasıl koruyabiliriz. Şu anda bu sistemler anlamlı bir incelemeye tabi değil. Kamu, kamu sektörünün yapay zekası risklerine maruz kalıyor.
Bununla birlikte, yapay zekanın insan hakları ile uyumlu olmasını sağlayabilecek potansiyel düzenleyici mekanizmalar var, hepsi de kamu tartışmasının bir parçası olarak düşünülmelidir. Kamu, yapay zekayla ilgili yasalar, düzenlemeler ve politikaların şekillenmesinde anlamlı bir etkiye sahip olmalıdır. Bu, güvenilir ve güvenilir yapay zeka sistemlerinin güvenli ve şekillendirilmesi, tüm UK toplumunun somut faydalar sağlaması, sadece teknoloji şirketlerine ve destekçilerine fayda sağlaması anlamına gelir.
Aynı zamanda, sorunlu ve potansiyel olarak yasadışı sistemlerin tanınması ve meydan okunması ve yapay zekanın daha genel zararlarının azaltılması sorumluluğunun bireysel kamu üyelerine yüklenmemesi kritik öneme sahiptir. Bu nedenle, burada özetlenen düzenleyici öneriler, sorumlulukları UK devletine ve ortaklık paylaştığı endüstriye atıyor.
Öneriler
Bu öneriler, yapay zekanın geliştirilmesi ve kullanımının devam eden uygulamasında ele alınması gereken temel yönleri hedefliyor, sistem tasarımı ve testinden yönetim ve gözetimden.
- Ön dağıtım etki değerlendirmeleriKamu sektör eşitlik yükümlülüğü, veri koruma yasası ve belirli bir yapay zekanın önerilen dağıtım alanına uygulanan özel insan haklarını dikkate alan.
- Güneşin batması maddeleriİnsan haklarına karşı yüksek risk oluşturan, onaylanmış yapay zeka sistemleriyle ilgili.
- Kullanım durumu yetkilendirmesi.Yapay zeka sistemlerinin belirli kullanım kısıtlamalarına sınırlandırılmasını gerektirir, bu kısıtlamalar yeniden değerlendirilmeli ve yeniden yetkilendirilmelidir, yeniden kullanım önerilirse.
- Düzenli algoritmik denetim.Yapay zeka sistemleri kullanıldığında, bu, adli inceleme davalarına yardımcı olmak için uzman teknik kanıtların hazırlanmasını içerebilir.
- Zorunlu olay raporlaması.İnsan hakları gereksinimlerine uygun olarak, yapay zeka sistemlerinin gelecekteki araştırmalara, tartışmalara ve politikalara bilgi vermesi.
- AI tedarik uygulamalarını değiştirerek tedarikçi kilitlenmesini önlemek.Devlet kurumlarının en iyi mevcut teknolojisine sahip olmasını sağlarken rekabet ve şeffaflığı teşvik edin, sözleşmelerin hangi temel üzerine verildiği de net olsun.
- Telif hakkı olan AI sistemlerinin yerine açık kaynaklı alternatifler geliştirin.Kamu sektöründe, uyarlanabilir ve bağımsız olan AI geliştirme kapasitesini artırmak için.
- Kurumsal reformAI'ı düzenlemek için bağımsız hükümet ve endüstri olmayan, uygun kaynaklara sahip, net bir görev ve uygulama gücü verilen, Parlamento'ya hesap veren bir kamu gözetim otoritesi.
Makale, Açık Haklar Grubu için Dr. Richard Mackenzie-Gray Scott tarafından yazıldı. Richard, Oxford Üniversitesi'ndeki Bonavero İnsan Hakları Enstitüsü'nün Ortak Üyesidir ve insan hakları, dijital teknolojiler, anayasal çalışmalar ve uluslararası hukuk ve ilişkiler alanlarında çalışır, bu kapsamda araştırma, öğretim, politika katılımı ve yasal uygulama içerir.