요약
정부는 AI를 적절하게 활용하고 공익에 부합하는 장기적인 정책을 수립하는 것보다 글로벌 권력 역학을 강화하는 대중적 이미지를 만드는 데 더 관심이 있는 것으로 보인다. 신속함과 외관상 우선이 신중함과 리더십보다 우선하고 있다. 이미 시장 지배력을 가진 민간 회사가 설계하고 운영하는 외국 자본에 의존하는 것, 그리고 많은 회사들이 도매된 국가(미국)의 경제적, 기술적 강요는 공공 부문에서 AI 채택을 우려스럽게 만든다.
관련 관심사는 세 가지이다:
- AI 시스템 사용 일정을 설정하고 수정하는 것은 누구의 책임인가?
- 현재 민간 부문 공급업체에 의존하는 접근 방식이 영국 사회에 어떤 이점을 가져다주고 어떤 비용이 발생하는가?
- AI 채택을 활용하면서 인권 보호하기: 현재 이러한 시스템은 의미 있는 검토를 받지 않고 있습니다. 대중은 공공 부문 AI의 위험에 노출되어 있습니다.
그러나 AI 채택을 인권과 일치시킬 수 있는 규제 메커니즘이 존재하며, 이는 공론화 과정에서 고려되어야 합니다. 대중은 AI 관련 법률, 규제 및 정책 형성에 의미 있는 의견을 제시해야 합니다. 이는 영국 사회 모든 구성원을 위한 신뢰할 수 있고 믿을 수 있는 AI 시스템을 보장하고 형성하는 데 일부분입니다. 기술 회사들과 그들의 후원자들에게만 이익을 창출하는 것이 아닙니다.
동시에, 문제적이고 잠재적으로 불법적인 시스템을 인식하고 도전하며, AI 관련 해를 일반적으로 완화하는 책임이 개별 대중에게 지워져서는 안 됩니다. 따라서 여기 제시된 규제 제안은 영국 국가와 산업에 책임을 부여합니다. 이는 영국이 공유하는 파트너십과 함께 말입니다.
권고사항
이러한 제안은 AI 개발 및 사용의 지속적인 실천에서 핵심적인 측면을 다루기 위한 것입니다. 시스템 설계 및 테스트에서 관리 및 감독에 이르기까지 말입니다.
- 사전 배포 영향 평가공공 부문 평등 의무, 데이터 보호법, 그리고 특정 AI 시스템의 제안된 배포 영역에 적용되는 특정 인권을 고려해야 합니다.
- 일몰 조항AI 시스템이 인권에 높은 위험을 초래할 경우 승인된 배포에 관한 것입니다.
- 사용 사례 승인AI 시스템이 특정 사용 제한에 제한되도록 요구하며, 재평가 및 재승인이 제안된 재사용 시 필요합니다.
- 주기적인 알고리즘 감사AI 시스템이 사용 중일 때, 법원 검토 사례를 지원하기 위해 전문가 기술 증거를 의뢰하는 것을 포함할 수 있습니다.
- 필수 사고 보고AI 시스템이 인권 요구 사항에 부합하는 경우 미래 연구, 담론 및 정책에 정보를 제공합니다.
- AI 조달 관행을 수정하여 공급업체 잠금 상태를 피합니다.경쟁과 투명성을 촉진하고, 국가 기관이 최신 기술을 활용할 수 있도록 보장하며, 계약이 어떻게 부여되는지 명확히 함으로써.
- 독점적인 AI 시스템의 대안으로 오픈소스 솔루션을 개발하세요.공공 부문에서 적응력과 독립성을 갖춘 인공지능 개발 역량을 증대시키기 위함입니다.
- 기관 개혁정부와 산업으로부터 독립적이고, 적절한 자원을 갖추며, 명확한 임무와 집행 권한을 부여받고, 국회에 책임을 지는 공공 감독 기관을 통해 AI를 규제할 수 있도록 한다.
이 논문은 오픈 라이츠 그룹(Open Rights Group)을 위해 리처드 매켄지-그레이 스콧(Dr Richard Mackenzie-Gray Scott)에 의해 작성되었습니다. 리처드는 옥스퍼드 대학교의 보나베로 인권 연구소(Bonavero Institute of Human Rights)의 연구원이며, 인권, 디지털 기술, 헌법 연구, 국제법 및 관계 분야에서 연구, 교육, 정책 참여 및 법률 실무 등을 담당하고 있습니다.