Sintesi Esecutiva
Al momento, il governo sembra più interessato a creare un'immagine pubblica di progresso che rafforza le dinamiche di potere globali, che a creare politiche sostenibili a lungo termine per sfruttare l'IA dove appropriato e per il beneficio pubblico. L'urgenza e l'aspetto estetico hanno la precedenza sulla diligenza e sulla leadership. La dipendenza dal capitale estero e dai sistemi progettati e gestiti da aziende private che già dominano il mercato, unita alla coercizione economica e tecnologica da parte dello stato in cui molte di queste aziende hanno sede (Stati Uniti), rende preoccupante il desiderio attuale di adottare l'IA nel settore pubblico.
Le preoccupazioni correlate sono tre:
- Chi stabilisce e modifica l'agenda sull'utilizzo dei sistemi di IA;
- Se l'attuale approccio di dipendenza dai fornitori del settore privato sia vantaggioso per la società britannica e a che costi.
- Come proteggere i diritti umani durante l'adozione dell'intelligenza artificiale. Attualmente, questi sistemi non sono soggetti a un esame significativo. Il pubblico è attualmente esposto ai rischi dell'AI nel settore pubblico.
Tuttavia, esistono meccanismi normativi in grado di allineare l'adozione dell'AI con i diritti umani, tutti i quali dovrebbero essere presi in considerazione come parte della deliberazione pubblica. Il pubblico deve avere un input significativo nella definizione di leggi, regolamenti e politiche sull'AI. Fare ciò fa parte del processo di sicurezza e definizione di sistemi AI affidabili e affidabili che producono benefici tangibili per tutti i membri della società del Regno Unito, non solo generando benefici per le aziende tecnologiche e i loro sostenitori.
Allo stesso tempo, è cruciale che l'onere di riconoscere e contestare sistemi problematici e potenzialmente illegali, e di mitigare i danni dell'AI in generale, non ricada sui singoli membri del pubblico. Di conseguenza, le proposte normative delineate qui attribuiscono la responsabilità allo Stato del Regno Unito e al settore con cui condivide partnership.
Raccomandazioni
Queste proposte mirano ad affrontare aspetti chiave nella pratica in corso di sviluppo e utilizzo dell'AI, dalla progettazione e test dei sistemi alla gestione e supervisione.
- Valutazioni d'impatto pre-implementazioneche tengano conto del dovere di uguaglianza del settore pubblico, della legge sulla protezione dei dati e dei diritti umani specifici applicabili al dominio di un particolare sistema AI proposto per l'implementazione.
- Clausole di scadenzaSistemi di intelligenza artificiale approvati per il dispiegamento che rappresentano un alto rischio per i diritti umani.
- Autorizzazione dei casi d'usoChe richiedono che i sistemi di intelligenza artificiale siano limitati a vincoli di utilizzo specifici, che devono essere rivalutati e riautorizzati qualora proposti per un riutilizzo.
- Revisioni algoritmiche periodicheDurante l'uso dei sistemi di intelligenza artificiale, che possono includere la commissione di prove tecniche esperte per assistere casi di revisione giudiziaria.
- Segnalazione obbligatoria degli incidentiDei sistemi di intelligenza artificiale in linea con i requisiti dei diritti umani per informare ricerche future, discorsi e politiche.
- Modificare le pratiche di approvvigionamento dell'intelligenza artificiale per evitare il blocco del fornitorePromuovere la concorrenza e la trasparenza, assicurando che gli organi statali dispongano delle migliori tecnologie disponibili, con una chiara comprensione su quale base vengano assegnati i contratti.
- Sviluppare alternative open-source ai sistemi AI proprietari.Al fine di aumentare la capacità di sviluppo dell'AI per il settore pubblico, che sia adattabile e indipendente.
- Riforma istituzionale.Che permetta l'istituzione di un'autorità di supervisione pubblica per regolare l'AI, indipendente dal governo e dall'industria, adeguatamente finanziata, con un mandato chiaro e poteri di applicazione, e responsabile nei confronti del Parlamento.
Il documento è stato scritto per Open Rights Group dal Dr. Richard Mackenzie-Gray Scott. Richard è Fellow Associato dell'Istituto Bonavero per i Diritti Umani all'Università di Oxford e lavora in vari settori tra diritti umani, tecnologie digitali, studi costituzionali e diritto e relazioni internazionali, comprendendo ricerca, insegnamento, coinvolgimento nelle politiche e pratica legale.