- Un nuovo gruppo per i diritti aperti scopre che l'adozione dell'AI nel settore pubblico è opaca, irresponsabile e a vantaggio di Big Tech, non del pubblico.
- L'ORG chiede al Ministro per l'AI, Kanishka Narayan, di regolare i sistemi AI del settore pubblico in conformità con i diritti umani.
- Questa richiesta è sostenuta dalla MP del Labour Alison Gardner, dalla MP dei Lib Dem Victoria Collins e dalla MP verde Sian Berry, che hanno contribuito con introduzioni al libro "AI nel settore pubblico: un approccio basato sui diritti umani".AI nel settore pubblico: un approccio basato sui diritti umani.
AI e settore pubblico: un approccio basato sui diritti umani
Leggi il rapportoIl rapporto rivela che l'adozione dell'AI nel Regno Unito è una parte chiave della strategia statale, che sembra essere principalmente motivata dal miglioramento delle prestazioni economiche e dal rafforzamento dell'innovazione.
Il giornale evidenzia i rischi derivanti dal modo in cui i sistemi di intelligenza artificiale (AI) sono sviluppati, acquistati e implementati nel settore pubblico. Questi includono:
- Una mancanza di controllo sui sistemi di AI acquistati a beneficio dei dipartimenti governativi e delle potenti aziende che li forniscono, ma non necessariamente a vantaggio del pubblico in generale.
- Le partnership tra il governo e le aziende private rischiano abusi di potere e la cattura dello stato attraverso la Big Tech che fa pressioni per un ulteriore utilizzo della loro tecnologia negli organi statali.
- L'AI viene acquistata in modo da soffocare la competizione e l'innovazione, e rischia di bloccare i dipartimenti governativi in accordi con principalmente grandi aziende tecnologiche statunitensi. Questa posizione mette a rischio la sovranità del Regno Unito in tempi di incertezza geopolitica e coercizione economica.
- I sistemi di AI possono produrre e attuare politiche non viste, lasciando il pubblico all'oscuro su come vengono prese le decisioni che cambiano la vita.
- C'è una minima indicazione che lo sviluppo dell'AI sia intrapreso con riferimento alle leggi sulla protezione dei dati, l'uguaglianza e i diritti umani. Anche se un tribunale si pronuncia contro l'uso di un sistema AI specifico, i giudizi legali non possono affrontare le questioni sistemiche della tecnologia stessa e come il suo utilizzo contribuisce a ulteriori danni sociali.
Jim Killock, Direttore Esecutivo di Open Rights Group, ha dichiarato:
Il Governo sta mettendo gli interessi della Big Tech davanti al pubblico britannico spendendo miliardi in sistemi AI, sostenendo che creeranno efficienze.
Non solo le affermazioni di efficienza sono probabilmente esagerate, ma il governo corre il rischio di bloccare ulteriormente il settore pubblico nell'uso di un ristretto numero di aziende tecnologiche dominanti statunitensi, soffocando la concorrenza, compromettendo l'innovazione e creando rischi a lungo termine per la sicurezza e la resilienza del Regno Unito. Allo stesso tempo, non ci sono regole obbligatorie efficaci e coerenti per garantire che questi sistemi rispettino i diritti umani.
Il pubblico è tenuto all'oscuro di come questi sistemi lo influenzano. Abbiamo urgentemente bisogno di una regolamentazione dell'IA che metta la trasparenza, la responsabilità e l'interesse pubblico al primo posto, proteggendo i diritti umani e garantendo che l'IA lavori per tutti noi.
Il dottor Richard Mackenzie-Gray Scott, autore del articolo, ha dichiarato:
"Con il recente cambiamento di governo, c'è una nuova opportunità di allineare la politica tecnologica digitale con i diritti umani.
Dobbiamo iniziare ad essere onesti su ciò che rende possibili le nuove e emergenti tecnologie. Quali sono i costi del loro sviluppo, manutenzione e utilizzo in diversi contesti, e se e come questi costi sono compensati da eventuali benefici correlati. Ci sono molte informazioni false e fuorvianti diffuse sull'"IA".
È anche difficile tenere traccia delle promesse e delle previsioni, soprattutto da parte delle aziende con un forno di denaro. Ma coloro che sono responsabili della governance devono concentrarsi sui danni esistenti, sui rischi esistenti e sul garantire che l'innovazione per riempire le tasche e aumentare il potere sia sostituita da un'innovazione che contribuisca al valore sociale.
Il nucleo di tale cambiamento dovrebbe essere basato sui diritti umani, altrimenti persisterà l'illusione di progresso.
La spesa pubblica del Regno Unito per l'IA è aumentata di oltre l'800% dal 2018 al 2025.con un totale attuale di circa 1.500 contratti del valore dichiarato di £3,35 miliardi.Il Regno Unito ha già stipulato diverse partnershipcon aziende tra cui Amazon, Google, Microsoft, OpenAI, Oracle e Palantir, con l'obiettivo di attrarre e garantire investimenti esteri in cambio dell'utilizzo da parte delle autorità del settore pubblico delle tecnologie fornite da queste società..
Il governo(non specificato nel testo originale)(non specificato nel testo originale)
sta promuovendo attivamente queste iniziative.Richiesteche l'intelligenza artificiale nel settore pubblico potrebbe aiutare a risparmiare da £45 a £87 miliardi di spesa annuale. Ma le richieste che l'IA porterà a significativi guadagni di efficienza rimangono non provate, mentre errori costosi, sfide legali e la necessità di un continuo controllo umano potrebbero lasciare i contribuenti in una posizione peggiore.
Investire in alternative a basso costo e open-source potrebbe offrire un migliore valore senza esporre il pubblico ai rischi di implementare sistemi AI non affidabili su larga scala.
Dr Allison Gardner MP ha dichiarato:
L'IA ha il potenziale di beneficiare la società e portare enormi progressi in aree come la salute, ma potrebbe anche automatizzare disuguaglianze e discriminazioni e causare danni. Una chiara regolamentazione è vitale perché il pubblico possa fidarsi di queste tecnologie, specialmente quando utilizzate dallo stato in modi che influenzano le loro vite.
Le grandi aziende tecnologiche stanno facendo pressioni per una bassa regolamentazione, ma il Regno Unito deve essere un impostore di regole, non un seguace, nella governance dell'IA, per garantire che possiamo trarre interesse sia sociale che economico da questa tecnologia."
Victoria Collins MP ha dichiarato:
Mentre l'intelligenza artificiale viene adottata nei servizi pubblici, la questione di come interagisce con i diritti fondamentali e la privacy delle persone non può essere un pensiero secondario, e questo documento ha ragione a insistere che il compito di identificare e sfidare i sistemi di intelligenza artificiale dannosi non deve ricadere sui singoli membri del pubblico. Questa responsabilità spetta al governo e all'industria con cui collabora.
Dobbiamo garantire un approccio in cui le decisioni di approvvigionamento siano trasparenti, dove la competizione nell'ecosistema dell'intelligenza artificiale del Regno Unito sia attivamente sostenuta, e dove il Regno Unito sviluppi un approccio veramente sovrano piuttosto che esternalizzare il suo futuro digitale a sistemi che non controlla.
Note per gli editori
Il documento è stato scritto per Open Rights Group dal Dr Richard Mackenzie-Gray Scott. Richard è Associate Fellow dell'Istituto Bonavero per i Diritti Umani all'Università di Oxford, e lavora su diritti umani, tecnologie digitali, studi costituzionali e diritto e relazioni internazionali, comprendendo ricerca, insegnamento, impegno di politica e pratica legale.