- Un nouveau groupe de défense des droits trouve que l'adoption de l'IA par le secteur public est opaque, irresponsable et bénéfique pour la grande technologie plutôt que pour le public.
- L'ORG demande au ministre de l'IA, Kanishka Narayan, de réglementer les systèmes d'IA du secteur public conformément aux droits de l'homme.
- Cet appel est soutenu par les députés du travail Alison Gardner, les députés libéraux démocrates Victoria Collins et les députés verts Sian Berry, qui ont contribué aux préfaces de « L'IA dans le secteur public : une approche basée sur les droits de l'homme ».L'IA dans le secteur public : une approche basée sur les droits de l'homme.
L'IA et le secteur public : une approche basée sur les droits de l'homme
Lisez le rapportLe rapport constate que l'adoption de l'IA au Royaume-Uni est une partie essentielle de la stratégie de l'État qui semble être principalement motivée par l'amélioration des performances économiques et le renforcement de l'innovation.
Le journal met en lumière les risques découlant du développement, de l'acquisition et du déploiement des systèmes d'IA dans le secteur public. Ceux-ci incluent :
- Un manque de surveillance des systèmes d'IA acquis pour le bénéfice des départements gouvernementaux et des puissantes entreprises qui les fournissent, mais pas nécessairement pour le bénéfice du grand public.
- Les partenariats entre le gouvernement et le secteur privé risquent d'entraîner des abus de pouvoir et la capture de l'État par la grande technologie, grâce au lobbying réussi de ces dernières pour une utilisation accrue de leurs technologies au sein des organes étatiques.
- L'acquisition de l'IA est effectuée de manière à étouffer la concurrence et l'innovation, et risque de laisser les départements gouvernementaux liés à des accords avec principalement de grandes entreprises technologiques américaines. Cette situation met en péril la souveraineté du Royaume-Uni en période d'incertitude géopolitique et de coercition économique.
- Les systèmes d'IA peuvent produire et exécuter des politiques sans que le public ne soit informé, laissant les citoyens dans l'obscurité quant à la manière dont des décisions changeant la vie sont prises.
- Il y a peu d'indications que le développement de l'IA est entrepris en référence aux lois sur la protection des données, l'égalité et les droits de l'homme. Même si un tribunal statue contre l'utilisation d'un système d'IA spécifique, les jugements juridiques ne peuvent pas traiter les problèmes systémiques de la technologie elle-même et de la manière dont son utilisation contribue à d'autres préjudices sociaux.
Jim Killock, directeur exécutif du groupe Open Rights, a déclaré :
Le gouvernement place les intérêts de la grande technologie avant les intérêts des citoyens britanniques en dépensant des milliards pour des systèmes d'IA, qu'il affirme créer des efficacités.
Non seulement les allégations d'efficacité sont susceptibles d'être exagérées, mais le gouvernement risque de verrouiller davantage le secteur public avec un petit groupe de sociétés technologiques dominantes américaines, étouffant la concurrence, sapant l'innovation et créant des risques à long terme pour la sécurité et la résilience du Royaume-Uni. En même temps, il n'y a pas de règles obligatoires efficaces et cohérentes pour garantir que ces systèmes respectent les droits de l'homme.
Le public est tenu dans l'obscurité quant à l'impact de ces systèmes. Nous avons besoin d'une réglementation de l'IA qui place la transparence, la responsabilité et l'intérêt public au premier plan, protégeant les droits de l'homme et garantissant que l'IA travaille pour tous.
Le Dr Richard Mackenzie-Gray Scott, auteur de l'article, a déclaré :
« Avec le récent changement de gouvernement, il y a une nouvelle opportunité d'aligner la politique de la technologie numérique avec les droits de l'homme.
Nous devons commencer à être honnêtes quant à ce qui rend les technologies nouvelles et émergentes possibles. Quels sont les coûts de leur développement, de leur entretien et de leur utilisation dans différents contextes, et si et comment ces coûts sont compensés par des avantages liés. Il y a beaucoup d'informations fausses et trompeuses qui circulent sur l'IA.
Il est également difficile de suivre les promesses et les prédictions, surtout celles des sociétés financées par des fonds. Mais ceux qui gouvernent doivent se concentrer sur les préjudices existants, sur les risques actuels, et s'assurer que l'innovation pour se remplir les poches et accroître le pouvoir est remplacée par une innovation qui contribue à la valeur sociale.
Le cœur d'un tel changement devrait être les droits de l'homme, sinon l'illusion du progrès perdurera.
Les dépenses publiques du Royaume-Uni en IA ont bondi de plus de 800 % de 2018 à 2025.avec un total actuel d'environ 1 500 contrats d'une valeur signalée de 3,35 milliards de livres sterling.Le Royaume-Uni a déjà conclu plusieurs partenariatsavec des entreprises telles qu'Amazon, Google, Microsoft, OpenAI, Oracle et Palantir, dans le but d'attirer et de sécuriser des investissements étrangers en échange de l'utilisation par les autorités du secteur public des technologies fournies par ces entreprises..
Le gouvernement(Il manque un texte dans l'énoncé original, donc la traduction est omise.)(Ici aussi, le texte est incomplet dans la demande, traduction non fournie.)
Le gouvernementDes affirmationsselon lesquelles l'IA dans le secteur public pourrait aider à économiser entre 45 et 87 milliards de livres sterling de dépenses annuelles. Mais les affirmations selon lesquelles l'IA apportera des gains d'efficacité spectaculaires restent non prouvées, tandis que des erreurs coûteuses, des défis juridiques et la nécessité d'une surveillance humaine continue pourraient laisser les contribuables dans une situation pire.
Investir dans des alternatives à source ouverte et à moindre coût pourrait offrir une meilleure valeur sans exposer le public aux risques de déploiement de systèmes d'IA peu fiables à grande échelle.
Dr Allison Gardner MP a déclaré :
L'IA a le potentiel de bénéficier à la société et d'apporter des avancées majeures dans des domaines tels que la santé, mais elle pourrait également automatiser les inégalités et la discrimination et causer des préjudices. Une réglementation claire est essentielle pour que le public puisse faire confiance à ces technologies, en particulier lorsqu'elles sont utilisées par l'État de manière à affecter leur vie.
Les grandes entreprises technologiques font pression pour une faible réglementation, mais le Royaume-Uni doit être un fixateur de règles, et non un suiveur, en matière de gouvernance de l'IA, pour s'assurer que nous récoltons les intérêts sociaux et économiques de cette technologie. »
Victoria Collins MP a déclaré :
Alors que l'IA est adoptée dans les services publics, la question de la manière dont elle interagit avec les droits fondamentaux et la vie privée des individus ne peut pas être laissée pour plus tard. Ce document a raison d'insister sur le fait que la responsabilité de l'identification et du défi des systèmes d'IA nuisibles ne doit pas reposer sur les citoyens individuels, mais sur le gouvernement et l'industrie avec laquelle il collabore.
Nous devons garantir une approche où les décisions d'achat sont transparentes, où la concurrence dans l'écosystème de l'IA au Royaume-Uni est activement soutenue, et où le Royaume-Uni développe une approche véritablement souveraine plutôt que de sous-traiter son avenir numérique à des systèmes qu'il ne contrôle pas.
Notes pour les éditeurs
Le document a été rédigé pour Open Rights Group par Dr Richard Mackenzie-Gray Scott. Richard est Associate Fellow de l'Institut Bonavero des Droits de l'Homme à l'Université d'Oxford, et travaille dans les domaines des droits de l'homme, des technologies numériques, des études constitutionnelles et du droit et des relations internationaux, comprenant la recherche, l'enseignement, l'engagement politique et la pratique juridique.