Zusammenfassende Auswertung
Die Regierung scheint derzeit mehr daran interessiert zu sein, ein öffentliches Bild des Fortschritts zu schaffen, das die globalen Machtdynamiken verstärkt, als nachhaltige langfristige Strategien zu entwickeln, um KI dort einzusetzen, wo es angemessen und zum öffentlichen Nutzen ist. Schnelligkeit und Optik haben Vorrang vor Sorgfalt und Führung. Die Abhängigkeit von ausländischem Kapital und Systemen, die von privaten Unternehmen entworfen und betrieben werden, die bereits über eine Marktbeherrschung verfügen, in Kombination mit wirtschaftlichem und technologischem Zwang durch den Staat, in dem viele dieser Unternehmen ihren Sitz haben (die Vereinigten Staaten), macht den aktuellen Wunsch nach KI-Einführung im öffentlichen Sektor beunruhigend.
Die damit verbundenen Bedenken sind dreifaltig:
- Wer die Agenda zur Nutzung von KI-Systemen festlegt und ändert;
- Ob die aktuelle Abhängigkeit von Anbietern des privaten Sektors den britischen Gesellschaften zugutekommt und zu welchen Kosten;
- Wie man die Menschenrechte schützt, während die Nutzung von KI vorangetrieben wird. Derzeit unterliegen diese Systeme nicht einer sinnvollen Prüfung. Die Öffentlichkeit ist derzeit den Risiken der KI im öffentlichen Sektor ausgesetzt.
Es existieren jedoch Regulierungsmechanismen, die das Potenzial haben, die Nutzung von KI mit Menschenrechten in Einklang zu bringen, und alle sollten im Rahmen der öffentlichen Beratung berücksichtigt werden. Die Öffentlichkeit muss einen sinnvollen Einfluss auf die Gestaltung von Gesetzen, Vorschriften und Richtlinien im Bereich KI haben. Dies ist ein Teil der Sicherung und Gestaltung zuverlässiger und vertrauenswürdiger KI-Systeme, die greifbare Vorteile für alle Mitglieder der britischen Gesellschaft bringen, anstatt nur Vorteile für Technologieunternehmen und ihre Unterstützer zu generieren.
Gleichzeitig ist es entscheidend, dass die Verantwortung, problematische und potenziell illegale Systeme zu erkennen und herauszufordern und im Allgemeinen die durch KI verursachten Schäden zu mildern, nicht auf einzelne Mitglieder der Öffentlichkeit gelegt wird. Daher weisen die hier dargelegten Regulierungsvorschläge die Verantwortung an den britischen Staat und die Industrie, mit der er Partnerschaften unterhält.
Empfehlungen
Diese Vorschläge zielen darauf ab, Schlüsselaspekte der laufenden Praxis bei der Entwicklung und Nutzung von KI anzugehen, von der Systemgestaltung und -prüfung bis hin zur Verwaltung und Aufsicht.
- Vor der Bereitstellung durchgeführte Auswirkungsbewertungendie die Gleichheitspflicht des öffentlichen Sektors, Datenschutzgesetze und die spezifischen Menschenrechte berücksichtigen, die für den Bereich der vorgeschlagenen Bereitstellung eines bestimmten KI-Systems gelten.
- AuslaufklauselnÜber Systeme der künstlichen Intelligenz, die für den Einsatz genehmigt sind und ein hohes Risiko für Menschenrechte darstellen.
- Genehmigung von AnwendungsfällenDie KI-Systeme darauf beschränken, dass sie nur bestimmten Nutzungsbeschränkungen unterliegen, die neu bewertet und erneut genehmigt werden müssen, wenn sie für eine Neuzuweisung vorgeschlagen werden.
- Periodische AlgorithmusprüfungWährend KI-Systeme im Einsatz sind, was die Beauftragung von Fachkenntnissen umfassen kann, um bei der gerichtlichen Überprüfung von Fällen zu helfen.
- Verpflichtende Meldepflicht bei VorfällenBerichterstattung über KI-Systeme, die den Menschenrechtsanforderungen entsprechen, um zukünftige Forschung, Diskussionen und Politik zu informieren.
- Änderung der KI-Beschaffungspraxis, um einen Anbieter-Lock-in zu vermeidenFördern und fördern Sie Wettbewerb und Transparenz, indem Sie sicherstellen, dass staatliche Einrichtungen die modernste verfügbare Technologie zur Verfügung haben, und es ist auch klar, auf welcher Grundlage Verträge vergeben werden.
- Entwickeln Sie Open-Source-Alternativen zu proprietären KI-Systemen.um die Kapazität für die Entwicklung von KI im öffentlichen Sektor zu erhöhen, die anpassungsfähig und unabhängig ist.
- Institutionelle Reformdie eine öffentliche Aufsichtsbehörde für die Regulierung von KI vorsieht, die unabhängig von Regierung und Industrie ist, angemessen finanziert wird, einen klaren Auftrag mit Durchsetzungsbefugnissen erhält und gegenüber dem Parlament rechenschaftspflichtig ist.
Das Papier wurde für die Open Rights Group von Dr. Richard Mackenzie-Gray Scott verfasst. Richard ist assoziierter Fellow am Bonavero Institute of Human Rights an der Universität Oxford und arbeitet in den Bereichen Menschenrechte, digitale Technologien, verfassungsrechtliche Studien und internationales Recht und Beziehungen, einschließlich Forschung, Lehre, Politikberatung und Rechtspraxis.