- Nuevo grupo de derechos abiertos descubre que la adopción de IA por el sector público es opaca, irresponsable y en beneficio de Big Tech, no del público.
- ORG exige al Ministro de IA, Kanishka Narayan, que regule los sistemas de IA del sector público de acuerdo con los derechos humanos.
- Esta petición cuenta con el apoyo de la diputada laborista Alison Gardner, la diputada liberal demócrata Victoria Collins y la diputada verde Sian Berry, quienes han contribuido con prologos a "IA en el Sector Público: Un Enfoque de Derechos Humanos".IA en el Sector Público: Un Enfoque de Derechos Humanos.
IA y el sector público: Un enfoque de derechos humanos
Lee el informeEl informe concluye que la adopción de IA en el Reino Unido es una parte clave de la estrategia estatal que parece estar motivada principalmente por mejorar el rendimiento económico y fortalecer la innovación.
El artículo destaca los riesgos derivados del desarrollo, la adquisición y el despliegue de sistemas de IA en el sector público. Estos incluyen:
- La falta de escrutinio de los sistemas de IA adquiridos para beneficiar a los departamentos gubernamentales y a las poderosas compañías que los proporcionan, pero no necesariamente al público en general.
- Las asociaciones gubernamentales con empresas privadas corren el riesgo de abusos de poder y captura del Estado a través de Big Tech, que logra cabildear por un mayor uso de su tecnología en órganos estatales.
- La adquisición de IA de una manera que sofoca la competencia y la innovación, y corre el riesgo de que los departamentos gubernamentales se vean atados a acuerdos con principalmente grandes empresas tecnológicas estadounidenses. Esta posición pone en riesgo la soberanía del Reino Unido en tiempos de incertidumbre geopolítica y coacción económica.
- Los sistemas de IA pueden producir y ejecutar políticas sin que el público lo sepa, dejando a la gente en la oscuridad sobre cómo se toman decisiones que cambian vidas.
- Hay pocas indicaciones de que el desarrollo de IA se esté llevando a cabo con referencia a leyes de protección de datos, igualdad y derechos humanos. Incluso si un tribunal falla en contra del uso de un sistema de IA específico, los fallos legales no pueden abordar problemas sistémicos con la tecnología en sí y cómo su uso contribuye a daños sociales adicionales.
Jim Killock, Director Ejecutivo de Open Rights Group, dijo:
El Gobierno está poniendo los intereses de Big Tech por encima del público británico al gastar miles de millones en sistemas de IA, alegando que crearán eficiencia.
No solo es probable que las afirmaciones de eficiencia estén exageradas, sino que el Gobierno corre el riesgo de bloquear aún más al sector público en el uso de un puñado de compañías tecnológicas dominantes de EE. UU., sofocando la competencia, socavando la innovación y creando riesgos a largo plazo para la seguridad y resiliencia del Reino Unido. Al mismo tiempo, no existen reglas obligatorias efectivas y coherentes para garantizar que estos sistemas respeten los derechos humanos.
Al público se le mantiene en la oscuridad sobre cómo afectan los sistemas. Necesitamos urgentemente una regulación de la IA que priorice la transparencia, la rendición de cuentas y el interés público, protegiendo los derechos humanos y asegurando que la IA trabaje para todos nosotros.
El Dr. Richard Mackenzie-Gray Scott, autor del artículo, dijo:
"Con el reciente cambio de gobierno, hay una nueva oportunidad para alinear la política de tecnología digital con los derechos humanos.
Necesitamos empezar a ser honestos sobre lo que hace posibles las nuevas y emergentes tecnologías. Cuáles son los costos de su desarrollo, mantenimiento y uso en diferentes contextos, y si y cómo estos costos se compensan con los beneficios relacionados. Hay mucha información falsa y engañosa que se está difundiendo sobre la 'IA'.
También es difícil seguir los promesas y predicciones, especialmente de las compañías con un 'horno de dinero'. Pero los responsables de gobernar necesitan centrarse en los daños que existen ahora, en los riesgos que existen ahora, y en asegurar que la innovación por el sake de llenar bolsillos y aumentar el poder sea reemplazada por la innovación que contribuya al valor social.
El núcleo de tal cambio debe ser los derechos humanos, de lo contrario persistirá la ilusión de progreso.
El gasto público del Reino Unido en IA aumentó vertiginosamente.Más del 800% de 2018 a 2025Texto: Con unatotal actual de aproximadamente 1.500 contratos que valen, según se informa, £3.35 mil millones.
El Reino Unido ya ha entrado enun número de alianzasCon empresas como Amazon, Google, Microsoft, OpenAI, Oracle y Palantir, con el objetivo de atraer y asegurar inversiones extranjeras a cambio de que las autoridades del sector público utilicen las tecnologías proporcionadas por estas compañías.
El gobiernoreclamosQue la inteligencia artificial en el sector público podría ayudar a ahorrar entre £45 y £87 mil millones en gastos anuales. Sin embargo, las afirmaciones de que la IA entregará mejoras y ganancias de eficiencia dramáticas actualmente no están probadas, mientras que los errores costosos, los desafíos legales y la necesidad de supervisión humana continua podrían dejar a los contribuyentes en peores condiciones.
Invertir en alternativas de código abierto de menor costo podría ofrecer un mejor valor sin exponer al público a los riesgos de implementar sistemas de IA poco confiables a gran escala.
El Dr. Allison Gardner, MP, dijo:
La inteligencia artificial tiene el potencial de beneficiar a la sociedad y traer avances enormes en áreas como la salud, pero también puede automatizar la desigualdad y la discriminación y causar daños. Una regulación clara es vital para que el público confíe en estas tecnologías, especialmente cuando son utilizadas por el estado de maneras que afectan sus vidas.
Las grandes empresas tecnológicas están abogando por una regulación baja, pero el Reino Unido debe ser un establecedor de reglas, no un seguidor, en la gobernanza de la IA, para asegurar que cosechamos los intereses sociales y económicos de esta tecnología.
Victoria Collins MP dijo:
A medida que la IA se adopta en los servicios públicos, la cuestión de cómo interactúa con los derechos fundamentales y la privacidad de las personas no puede ser un asunto secundario, y este documento tiene razón al insistir en que la carga de identificar y desafiar los sistemas de IA dañinos no debe recaer en los miembros individuales del público. Esa responsabilidad corresponde al gobierno y a la industria con la que colabora.
Debemos garantizar un enfoque en el que las decisiones de adquisición sean transparentes, donde la competencia en el ecosistema de IA del Reino Unido sea activamente apoyada, y donde el Reino Unido desarrolle un enfoque verdaderamente soberano en lugar de externalizar su futuro digital a sistemas que no controla.
Notas para editores
El documento fue escrito para Open Rights Group por el Dr. Richard Mackenzie-Gray Scott. Richard es Asociado del Instituto Bonavero de Derechos Humanos de la Universidad de Oxford, y trabaja en derechos humanos, tecnologías digitales, estudios constitucionales y derecho y relaciones internacionales, abarcando investigación, enseñanza, compromiso de políticas y práctica legal.