Resumen Ejecutivo
El gobierno parece estar más interesado en crear una imagen pública de progreso que refuerce las dinámicas de poder globales, que en crear políticas sostenibles a largo plazo para aprovechar la IA cuando sea adecuado y en beneficio del público. La conveniencia y la apariencia visual prevalecen sobre la diligencia y el liderazgo. La dependencia del capital extranjero y los sistemas diseñados y operados por empresas privadas que ya dominan el mercado, junto con la coacción económica y tecnológica por parte del estado en el que muchas de estas empresas tienen su domicilio (Estados Unidos), hacen que el deseo actual de adoptar la IA en el sector público sea preocupante.
Las preocupaciones relacionadas son triples:
- ¿Quién establece y modifica la agenda para utilizar sistemas de IA?
- ¿Si el enfoque actual de depender de proveedores del sector privado beneficia a la sociedad del Reino Unido, y a qué costos?
- Cómo proteger los derechos humanos mientras se aprovecha la adopción de la IA. En la actualidad, estos sistemas no están sujetos a un escrutinio significativo. El público está expuesto a los riesgos de la IA en el sector público.
Sin embargo, existen mecanismos regulatorios con el potencial de alinear la adopción de la IA con los derechos humanos, todos los cuales deben considerarse como parte de la deliberación pública. El público debe tener una participación significativa en la configuración de leyes, regulaciones y políticas sobre la IA. Hacerlo forma parte de garantizar y dar forma a sistemas de IA fiables y de confianza que generen beneficios tangibles para todos los miembros de la sociedad del Reino Unido, no simplemente generar beneficios para las empresas tecnológicas y sus patrocinadores.
Al mismo tiempo, es crucial que la responsabilidad de reconocer y desafiar sistemas problemáticos y potencialmente ilegales, y mitigar los daños de la IA en general, no recaiga en los miembros individuales del público. Por lo tanto, las propuestas regulatorias descritas aquí asignan responsabilidad al estado del Reino Unido y a la industria con la que comparte alianzas.
Recomendaciones
Estas propuestas tienen como objetivo abordar aspectos clave en la práctica continua del desarrollo y uso de la IA, desde el diseño y prueba de sistemas hasta su gestión y supervisión.
- Evaluaciones de impacto pre-implementaciónque tengan en cuenta el deber de igualdad del sector público, la ley de protección de datos y los derechos humanos específicos aplicables al dominio del despliegue propuesto de un sistema de IA particular.
- Cláusulas de caducidadSobre los sistemas de inteligencia artificial aprobados para su implementación que representan un alto riesgo para los derechos humanos.
- Autorización de casos de usoQue requieren que los sistemas de inteligencia artificial se limiten a restricciones de uso especificadas, las cuales deben ser reevaluadas y reautorizadas si se propone reutilizarlas.
- Auditorías algorítmicas periódicasMientras los sistemas de inteligencia artificial estén en uso, lo que puede incluir la comisión de pruebas técnicas expertas para ayudar en casos de revisión judicial.
- Informes obligatorios de incidentesDe los sistemas de inteligencia artificial en línea con los requisitos de derechos humanos para informar futuras investigaciones, discursos y políticas.
- Modificar las prácticas de adquisición de inteligencia artificial para evitar el bloqueo de proveedores.Promover la competencia y la transparencia, asegurando que los órganos estatales tengan a su disposición la mejor tecnología disponible, y dejando claro también sobre qué base se otorgan los contratos.
- Desarrollar alternativas de código abierto a los sistemas de IA propietarios.Con el fin de incrementar la capacidad de desarrollo de IA para el sector público, que sea adaptable e independiente.
- Reforma institucional.Que permita el establecimiento de una autoridad de supervisión pública para regular la IA, independiente del gobierno y la industria, con recursos adecuados, un mandato claro con poderes de aplicación, y responsable ante el Parlamento.
El artículo fue escrito para Open Rights Group por el Dr. Richard Mackenzie-Gray Scott. Richard es Asociado de Investigación del Instituto Bonavero de Derechos Humanos de la Universidad de Oxford, y trabaja en derechos humanos, tecnologías digitales, estudios constitucionales y derecho y relaciones internacionales, abarcando investigación, enseñanza, participación en políticas y práctica legal.