- New Open Rights Group hefur fundið að notkun gervigreindar í opinbera geiranum sé óhefðbundin, án ábyrgðar og fyrir hagsmunum stórra tæknifyrirtækja frekar en almennings.
- ORG krefur um að ráðherra fyrir tækniframtíð, Kanishka Narayan, leggi reglur fyrir gervigreindarkerfi í opinnum aðilum í samræmi við mannréttindi.
- Þessi beiðni er studd af Alison Gardner, þingmanni Socialistiska Vinnuafélagsins, Victoria Collins, þingmanni Frjálsra Demókrata, og Sian Berry, þingmanni Græna Flokksins, sem hafa skrifað fyrirorðu til bókarinnar.Gervig tækni í opinbera geiranum: Nálgun byggð á mannréttindum..
AI og opinbera geðslukerfi: Nálgun byggð á mannréttindum.
Lestu skýrsluna.Skýrsla greinir að notkun gervigreindar (AI) í Bretlandi sé mikilvægur hluti af ríkisstjórnarsömstunu, sem virðist aðallega vera knúin af því að bæta efnahagslega frammistöðu og styrkja nýsköpun.
Greinininn lýsir áhættum sem stafa af því hvernig kerfi fyrir gervigreind eru þróuð, keypt og notuð í opinnum aðilum. Þetta felur í sér:
- Skortur á rannsókn á kerfum fyrir gervigreind sem eru keypt fyrir ríkisstofnanir og fyrir stórar fyrirtæki sem bjóða þau, en ekki endilega fyrir almenning.
- Samstarf ríkisins við einkafyrirtæki ókannar hættu á misnotkun valds og ríkisupptöku, þar sem stór tæknifyrirtæki ná að hafa áhrif á frekari notkun tækni þeirra í ríkisstofnunum.
- Gert er að kaupa kerfi fyrir gervigreind á þann hátt að það hindrar samkeppni og nýsköpun, og ókannar hættu á að ríkisstofnanir lendi í samningum við aðallega stór bandarísk tæknifyrirtæki. Þessi afstaða ókannar hættu á sjálfstæði Bretlands í óöruggum tímum stjórnmálalegra og efnahagslegrar þrýstings.
- Kerfi fyrir gervigreind geta framleitt og framkvæmt stefnur án þess að almenningur sé meðvitaður um hvernig um það sé að breyta lífi fólks.
- Það er lítill vísbending um að þróun gervigreindar sé stunduð með tillingu til laga um upplýsingaöryggi, jafnrétti og mannréttindi. Jafnvel þó dómstóll dæmi gegn notkun ákveðins kerfis fyrir gervigreind, geta dómarnir ekki leyst kerfisbundin vandamál með sjálfri tækninni og hvernig notkun hennar stuðlar að frekari félagslegum skaða.
Jim Killock, forstjóri Open Rights Group, sagði:
„Ríkisstjórnin setur hagsmuni stórra tæknifyrirtækja fyrir forræði breska almennings með því að eyða fjölmörgum fjárhæðum í kerfi fyrir gervigreind, sem hún fullyrðir muni auka skilvirkni.“
Ekki aðeins er hægt að gera ráð fyrir að skilningur á skilvirkni sé yfirleitt útfærður, en ríkisstjórnin tekur einnig á hættu að læsa almenna þjónustuna frekar í notkun fáa stórfyrirtækja í Bandaríkjunum, sem þarfir að hindra samkeppni, undirstöðu nýsköpun og skapa langtímaáhættu fyrir öryggi og seiglu Bretlands. Á sama tíma eru engin árangursrík og samræmd, óbeina regla til að tryggja að þessi kerfi virði mannréttindi.
Almenningur er haldinn í óvinnu um hvernig kerfin hafa áhrif á þá. Við þurfum bráðvíða reglugerð um gervigreind sem setur gagnsæi, ábyrgð og almenningshagsmuni í fyrsta sæti, sem verndar mannréttindi og tryggir að gervigreind vinni fyrir okkur alla.
Dr. Richard Mackenzie-Gray Scott, höfundur greinarinnar, sagði:
„Með nýju stjórnarskiptunum er komið upp nýju tækifæri til að samræma stefnu í stafrænni tækni við mannréttindi.
Við þurfum að byrja að vera heiðarleg um hvað gerir nýja og vaxandi tækni mögulega. Hvað kostnaður við þróun, viðhald og notkun þeirra er í mismunandi samhengi, og hvort og hvernig þessi kostnaður er afgreiddur með hvers kyns tengdum ávinningi. Mikil föl og villandi upplýsingar eru í umferð um „gervigreind“.
Það er einnig erfitt að fylgjast með loforðum og spaugum, sérstaklega frá fyrirtækjum sem eru að afla peninga. En þeir sem bera ábyrgð á stjórnun þurfa að einbeita sér að þeim skaða sem eru til staðar núna, þeim áhættum sem eru til staðar núna, og að tryggja að nýsköpun fyrir þátttöku í að auka auð og völd sé skipt út fyrir nýsköpun sem stuðlar að félagslegu gildi.
Kjarninn í slíkri breytingu ætti að vera mannréttindi, svo að illúsið um framfarir haldist ekki.
Útgeifslan í Bretlandi fyrir greind gervigreind (AI) hefur hækkað umyfir 800% frá 2018 til 2025,meðsamtals um 1.500 samninga, sem eru sagðir vera verðmætir um 3,35 milljarða pund..
Bretland hefur þegar stofnaðfjölda samstarfameð fyrirtækjum eins og Amazon, Google, Microsoft, OpenAI, Oracle og Palantir, með það markmið að draga að og tryggja erlenda fjárfestingu í stað þess að opinberir aðilar noti tækni sem þessi fyrirtæki bjóða upp á.
Ríkisstjórnin.Claims.Gæti gervinngur í opinberum geiranum hjálpað til við að spara allt að 45 til 87 milljörðum punda á ári. Hins vegar eru fullyrðingar um að gervinngur muni auka skilvirkni og afköst verulega enn óvissar, en dýrar villur, lagaleg vandamál og þörf fyrir stöðuga mannleg vöktun gætu valdið því að skattgreiðendur standi sig verra.
Fjárfesting í ódýrari og opnum kerfum gæti gefið betri árangur án þess að setja almenning í hættu með því að nota óáreiðanleg kerfi fyrir gervigreind í stórum mæli.
Dr. Allison Gardner, þingmaður, sagði:
AI hefur möguleika til að nýta samfélagið og skapa mikla framför í sviðum eins og heilbrigðu, en einnig til að auka ójafnrétti og mismunun og valda skaða. Hrefja stjórnsetning er nauðsynleg til að almenningur geti treyst þessum tækni, sérstaklega þegar ríkið notar þær á vegu sem hafa áhrif á líf þeirra.
Stórfyrirtæki í tæknigeiranum vinna að því að ná fram lágum reglum, en Bretland verður að vera leiðtogi í stjórnun á gervigreind, ekki aðeins fylgjandi, til að tryggja að við nýti okkur bæði félagslega og efnahagslega kosti þessarar tækni.
Victoria Collins, þingmaður, sagði:
"Þegar gervigreind er notuð í opinnum þjónustum, er það mikilvægt að spurningum um hvernig hún hefur áhrif á grundvallarréttindi og persónuvernd fólks sé ekki frestað, og þessi grein hefur rétt á að leggja áherslu á að ábyrgðin fyrir að greina og mótmæla skaðlegum kerfum gervigreindar skuli ekki hvíla á einstaklingum, heldur á ríkisstjórninum og iðnaðinum sem hann samstarfar við.
Við þurfum að tryggja nálgun þar sem ákvarðanir um innkaup eru gagnsæjar, þar sem samkeppni í gervigreindarumhverfi Bretlands er virkilega stuðlum að, og þar sem Bretland þróar raunverulega sjálfstæða nálgun frekar en að fela framtíð sína í stafrænum kerfum sem það hefur ekki stjórn á.
Athugasemdir fyrir blaðamenn.
Greinin var skrifuð fyrir Open Rights Group af Dr. Richard Mackenzie-Gray Scott. Richard er félagi í Bonavero Institute of Human Rights við Háskólann í Oxford og starfar á sviði mannréttinda, stafrænna tækni, stjórnarskipunar, alþjóðalaga og alþjóðlegra tengsla, þar sem hann stundar rannsóknir, kennslu, pólitískum umræðum og lögfræðilega starfsemi.