Podsumowanie wykonawcze
Rządy wydają się obecnie bardziej zainteresowane tworzeniem publicznego wizerunku postępu, który wzmacnia dynamikę władzy na świecie, niż tworzeniem zrównoważonych długoterminowych polityk w zakresie wykorzystania AI tam, gdzie jest to odpowiednie i dla dobra publicznego. Szybkość i wizerunek mają priorytet nad starannością i przywództwem. Zależność od kapitału zagranicznego i systemów zaprojektowanych i działających przez prywatne firmy, które już dominują na rynku, w połączeniu z ekonomicznym i technologicznym przymusem ze strony państwa, w którym wiele z tych firm ma swoją siedzibę (Stany Zjednoczone), sprawia, że obecne pragnienie przyjęcia AI w sektorze publicznym budzi niepokój.
Związane z tym obawy są trzystronne:
- Kto ustala i zmienia program wykorzystania systemów sztucznej inteligencji;
- Czy obecne podejście polegające na zależności od dostawców sektora prywatnego przynosi korzyści społeczeństwu Wielkiej Brytanii i za jaką cenę;
- Jak chronić prawa człowieka podczas wykorzystania sztucznej inteligencji. Obecnie te systemy nie są przedmiotem rygorystycznej kontroli. Społeczeństwo jest obecnie narażone na ryzyko związane z AI w sektorze publicznym.
Istnieją jednak mechanizmy regulacyjne, które mogą dostosować wykorzystanie AI do praw człowieka, wszystkie powinny być rozważane w ramach debaty publicznej. Społeczeństwo powinno mieć znaczący wpływ na kształtowanie prawa, regulacji i polityki w zakresie AI. Takie podejście stanowi część zapewnienia i kształtowania niezawodnych i godnych zaufania systemów AI, które przynoszą wymierne korzyści wszystkim członkom społeczeństwa w Wielkiej Brytanii, a nie tylko generują zyski dla firm technologicznych i ich wsparcia.
Jednocześnie kluczowe jest, aby nie obarczać indywidualnych członków społeczeństwa zadaniem rozpoznawania i kwestionowania problematycznych i potencjalnie nielegalnych systemów, a także łagodzenia szkód związanych z AI w ogóle. W związku z tym propozycje regulacyjne przedstawione tutaj przypisują odpowiedzialność państwu brytyjskiemu i sektorowi przemysłowemu, z którym dzieli partnerstwa.
Rekomendacje
Te propozycje mają na celu rozwiązanie kluczowych aspektów trwającej praktyki rozwoju i wykorzystania AI, od projektowania i testowania systemów, po zarządzanie i nadzór.
- Oceny wpływu przed wdrożeniemktóre uwzględniają obowiązek równości sektora publicznego, prawo ochrony danych oraz konkretne prawa człowieka stosowane w dziedzinie proponowanego wdrożenia danego systemu AI.
- Klauzule wygaśnięciaSystemy sztucznej inteligencji zatwierdzone do wdrożenia, które stanowią wysokie ryzyko dla praw człowieka.
- Udzielanie zezwoleń na przypadki użyciaWymaganie, aby systemy sztucznej inteligencji były ograniczone do określonych ograniczeń użytkowania, które muszą być ponownie oceniane i zatwierdzane, jeśli proponowane jest ich ponowne wykorzystanie.
- Regularne audyty algorytmicznePodczas użytkowania systemów sztucznej inteligencji, co może obejmować zamawianie dowodów technicznych ekspertów w celu wsparcia spraw sądowych.
- Obowiązkowe zgłaszanie incydentówSystemów sztucznej inteligencji zgodnych z wymaganiami dotyczącymi praw człowieka w celu informowania przyszłych badań, dyskusji i polityki.
- Zmiana praktyk zakupu sztucznej inteligencji, aby uniknąć uzależnienia od dostawcyRozwijaj i promuj konkurencję oraz przejrzystość, zapewniając organom państwowym najlepszą dostępną technologię, gdzie jasno określa się również podstawę przyznawania kontraktów.
- Tworzenie alternatyw oprogramowania otwartego dla systemów AI własnościowych.w celu zwiększenia zdolności rozwoju AI dla sektora publicznego, która jest przystosowalna i niezależna.
- Reforma instytucjonalnaktóra umożliwia ustanowienie organu nadzoru publicznego nad AI, niezależnego od rządu i przemysłu, odpowiednio zasobów, z jasnym mandatem i uprawnieniami egzekwacyjnymi, odpowiedzialnego przed Parlamentem.
Artykuł został napisany dla Open Rights Group przez dr Richarda Mackenzie-Gray'a Scotta. Richard jest współkierownikiem Instytutu Bonavero Praw Człowieka na Uniwersytecie w Oksfordzie i pracuje w dziedzinach praw człowieka, technologii cyfrowych, studiów konstytucyjnych oraz prawa i stosunków międzynarodowych, obejmując badania, nauczanie, zaangażowanie w politykę i praktykę prawną.