- Eine neue Gruppe für offene Rechte stellt fest, dass die Einführung von KI im öffentlichen Sektor undurchsichtig, unkontrollierbar und zum Vorteil von Big Tech und nicht der Öffentlichkeit ist.
- Die ORG fordert den Minister für KI, Kanishka Narayan, auf, KI-Systeme im öffentlichen Sektor gemäß den Menschenrechten zu regulieren.
- Dieser Aufruf wird von der Labour-Abgeordneten Alison Gardner, der Liberaldemokratin Victoria Collins und der Grünen Sian Berry unterstützt, die Vorworte zu dem Buch "KI im öffentlichen Sektor: Ein Menschenrechtsansatz" beigesteuert haben.KI im öffentlichen Sektor: Ein Menschenrechtsansatz.
KI und öffentlicher Sektor: Ein Menschenrechtsansatz
Den Bericht lesenDer Bericht stellt fest, dass die Einführung von KI im Vereinigten Königreich ein zentraler Bestandteil der Staatsstrategie ist, der vor allem darauf abzielt, die wirtschaftliche Leistung zu verbessern und die Innovation zu stärken.
Die Zeitung hebt die Risiken hervor, die sich aus der Entwicklung, Beschaffung und Bereitstellung von KI-Systemen im öffentlichen Sektor ergeben. Dazu gehören:
- Mangelnde Überprüfung der KI-Systeme, die für die Vorteile von Regierungsabteilungen und für die mächtigen Unternehmen beschafft werden, die sie anbieten, aber nicht unbedingt für den Nutzen der allgemeinen Öffentlichkeit.
- Regierungsbeteiligungen mit privaten Unternehmen bergen die Gefahr von Machtmissbrauch und Staatsübernahme durch Big Tech, das erfolgreich für eine weitere Nutzung seiner Technologie in staatlichen Organen lobiiert.
- KI wird auf eine Weise beschafft, die den Wettbewerb und die Innovation erstickt und das Risiko birgt, dass Regierungsabteilungen in Vereinbarungen mit hauptsächlich großen US-Technologieunternehmen gefangen sind. Diese Position gefährdet die Souveränität des Vereinigten Königreichs in Zeiten politischer Unsicherheit und wirtschaftlicher Erpressung.
- KI-Systeme können Politik umsetzen, die von der Öffentlichkeit unbemerkt bleibt, und so im Verborgenen lebensverändernde Entscheidungen treffen.
- Es gibt nur wenig Anzeichen dafür, dass die Entwicklung von KI unter Berücksichtigung von Gesetzen zum Datenschutz, Gleichheit und Menschenrechten erfolgt. Selbst wenn ein Gericht gegen die Verwendung eines bestimmten KI-Systems entscheidet, können juristische Urteile systemische Probleme mit der Technologie selbst und ihre Beitrag zu weiteren gesellschaftlichen Schäden nicht angehen.
Jim Killock, Geschäftsführer der Open Rights Group, sagte:
„Die Regierung setzt die Interessen von Big Tech vor die britischen Bürger, indem sie Milliarden in KI-Systeme investiert, die angeblich Effizienz schaffen werden.“
Nicht nur sind die Behauptungen hinsichtlich der Effizienz wahrscheinlich übertrieben, das Regierung riskiert, den öffentlichen Sektor weiter an eine Handvoll dominanter US-Technologieunternehmen zu binden, was den Wettbewerb erstickt, die Innovation untergräbt und langfristige Risiken für die Sicherheit und Widerstandsfähigkeit des Vereinigten Königreichs schafft. Gleichzeitig gibt es keine effektiven und kohärenten verbindlichen Vorschriften, um sicherzustellen, dass diese Systeme die Menschenrechte respektieren.
Die Öffentlichkeit wird im Dunkeln gelassen, wie Systeme sie beeinflussen. Wir benötigen dringend eine Regulierung der KI, die Transparenz, Rechenschaftspflicht und das öffentliche Interesse an die erste Stelle setzt, die Menschenrechte schützt und sicherstellt, dass KI für alle von Vorteil ist.
Dr. Richard Mackenzie-Gray Scott, der Autor der Studie, sagte:
Mit der jüngsten Regierungsänderung besteht eine neue Chance, die Digitaltechnologiepolitik mit Menschenrechten in Einklang zu bringen.
Wir müssen damit beginnen, ehrlich zu sein über das, was neue und aufkommende Technologien möglich macht. Was die Kosten ihrer Entwicklung, Wartung und Nutzung in verschiedenen Kontexten betrifft und ob und wie diese Kosten durch damit verbundene Vorteile ausgeglichen werden. Es wird eine beträchtliche Menge an falschen und irreführenden Informationen über „KI“ verbreitet.
Es ist auch schwierig, die Versprechen und Prognosen zu verfolgen, insbesondere von Unternehmen, die über einen Geldtopf verfügen. Doch die Verantwortlichen für die Regierungsführung müssen sich auf die derzeitigen Schäden und Risiken konzentrieren und sicherstellen, dass Innovationen, die der Füllung von Taschen und der Steigerung der Macht dienen, durch Innovationen ersetzt werden, die einen sozialen Wert beitragen.
Der Kern einer solchen Veränderung sollte die Menschenrechte sein, sonst könnte die Illusion des Fortschritts fortbestehen.
Die öffentlichen Ausgaben des Vereinigten Königreichs für KI stiegen sprunghaft an.Über 800 % von 2018 bis 2025Text: Mit einer Reichweite von 1,2 Millionen Nutzern in der Stadt und ihrer Umgebung ist die neue App "CityGuide" ein voller Erfolg. Die App bietet personalisierte Empfehlungen für Restaurants, Sehenswürdigkeiten und Veranstaltungen basierend auf den Interessen und Vorlieben der Benutzer. Entwickelt von der lokalen Technologie-Startup "TechNova", hat "CityGuide" bereits in den ersten Wochen nach dem Start eine große Nutzerbasis aufgebaut.Aktueller Gesamtumfang von etwa 1.500 Verträgen mit einem gemeldeten Wert von 3,35 Milliarden Pfund..
Das Vereinigte Königreich hat bereitsEine Reihe von PartnerschaftenMit Unternehmen wie Amazon, Google, Microsoft, OpenAI, Oracle und Palantir zum Zweck der Anziehung und Sicherung ausländischer Investitionen im Austausch für den Einsatz der Technologien dieser Unternehmen durch öffentliche Sektorbehörden.
regiert von Präsident Jair Bolsonaro hat einen Plan zur Reform der sozialen Sicherheit angekündigt, der die Altersgrenzen für den Zugang zu Renten und Sozialleistungen anheben würde. Dieser Vorschlag zielt darauf ab, das Rentensystem zu stabilisieren und die langfristige Finanzierbarkeit zu gewährleisten. Kritiker argumentieren jedoch, dass eine Erhöhung der Altersgrenzen die wirtschaftliche Belastung auf ältere Arbeitnehmer verlagern und die Armut unter älteren Menschen verschärfen könnte. Der Plan sieht vor, das Rentenalter schrittweise zu erhöhen, beginnend mit 62 Jahren für Frauen und 65 Jahren für Männer, und bis zum Jahr 2033 auf 65 Jahre für beide Geschlechter anzuheben. Darüber hinaus schlägt die Regierung vor, die Anforderungen an die Beitragsjahre zu lockern, um eine breitere Gruppe von Arbeitnehmern zu erfüllen. Diese Reform ist Teil einer breiteren Agenda zur Wirtschaftserneuerung, die auch Steuerreformen und Privatisierungen umfasst. Präsident Bolsonaro hat versprochen, die Wirtschaft zu beleben und die Bürokratie zu reduzieren, um Investitionen und Wachstum anzuregen.Behauptungendass KI im öffentlichen Sektor dazu beitragen könnte, die jährlichen Ausgaben um einen Betrag zwischen 45 und 87 Milliarden Pfund zu senken. Doch die Behauptungen, dass KI dramatische Effizienzsteigerungen und Gewinne bringen wird, sind unbewiesen, während teure Fehler, rechtliche Herausforderungen und der Bedarf an ständiger menschlicher Aufsicht die Steuerzahler schlechter stellen könnten.
Investitionen in kostengünstigere, offene Quellalternativen könnten bessere Werte ohne das Aussetzen der Öffentlichkeit an den Risiken der großflächigen Bereitstellung unzuverlässiger KI-Systeme liefern.
Dr. Allison Gardner MP sagte:
„KI hat das Potenzial, der Gesellschaft zu nützen und in Bereichen wie Gesundheit enorme Fortschritte zu bringen, aber auch, Ungleichheit und Diskriminierung zu automatisieren und Schaden anzurichten. Klare Regulierung ist entscheidend, damit die Öffentlichkeit diesen Technologien vertrauen kann, insbesondere wenn sie vom Staat auf Weise eingesetzt werden, die ihr Leben beeinflusst.
Große Technologieunternehmen setzen sich für geringe Regulierung ein, doch das Vereinigte Königreich muss bei der KI-Governance ein Regelgeber sein, nicht nur ein Befolger, um sicherzustellen, dass wir sowohl die sozialen als auch die wirtschaftlichen Interessen dieser Technologie einfahren.“
Victoria Collins MP sagte:
Während KI in öffentlichen Dienstleistungen eingesetzt wird, darf die Frage, wie sie mit den grundlegenden Rechten und der Privatsphäre der Menschen interagiert, nicht an zweiter Stelle stehen. Diese Arbeit hat recht, wenn sie darauf besteht, dass die Verantwortung für die Identifizierung und Herausforderung schädlicher KI-Systeme nicht bei einzelnen Bürgern liegen sollte. Diese Verantwortung obliegt der Regierung und der Industrie, mit der sie zusammenarbeitet.
Wir müssen sicherstellen, dass Beschaffungsentscheidungen transparent sind, dass der Wettbewerb im KI-Ökosystem des Vereinigten Königreichs aktiv unterstützt wird und dass das Vereinigte Königreich einen wirklich souveränen Ansatz entwickelt, anstatt seine digitale Zukunft an Systeme auszulagern, die es nicht kontrolliert.
Hinweise für Redakteure
Der Artikel wurde für die Open Rights Group von Dr. Richard Mackenzie-Gray Scott verfasst. Richard ist Associate Fellow am Bonavero Institute of Human Rights der Universität Oxford und arbeitet in den Bereichen Menschenrechte, digitale Technologien, Verfassungsstudien und internationales Recht und Beziehungen, einschließlich Forschung, Lehre, Politikengagement und Rechtspraxis.