- 新しいオープン権利グループは、公共部門によるAIの採用は不透明で、説明責任がなく、大企業の利益のために、公衆の利益ではないと判明しました。
- ORGは、AI大臣Kanishka Narayanに、人権に準拠して公共部門のAIシステムを規制するよう求めています。
- この呼びかけは、労働党議員Alison Gardner、自由民主党議員Victoria Collins、緑の党議員Sian Berryによって支持されており、彼女たちは『AIと公共部門：人権アプローチ』への序文を寄稿しました。公共部門におけるAI：人権アプローチ.
AIと公共部門：人権アプローチ
レポートを読むレポートは、英国のAI採用が、主に経済パフォーマンスの向上とイノベーションの強化を目的とした国家戦略の重要な部分であると判明しました。
この論文は、AIシステムの開発、調達、導入の方法に関する公的セクターのリスクを強調しています。これには次のものが含まれます。
- 政府部門の利益や、それらを提供する強力な企業の利益のために調達されるAIシステムの精査不足。
- 政府と民間企業のパートナーシップは、ビッグテックが国家機関における技術のさらなる使用をロビー活動することで権力乱用や国家の支配を危険にさらす可能性があります。
- AIは、競争とイノベーションを抑制する方法で調達されており、政府部門が主に米国の大手テクノロジー企業との契約に閉じ込められるリスクがあります。この状況は、英国の主権が地政学的不確実性や経済的強制の時代に危険にさらされる可能性があります。
- AIシステムは、公に未見の政策を生み出し実行することができ、その結果、人生を変えるような決定がどのように下されているのか公が暗いままになります。
- AI開発がデータ保護、平等、人権に関する法律を参照しているという最小限の証拠しかありません。裁判所が特定のAIシステムの使用を禁止しても、法的判断は技術自体のシステム的な問題や、その使用が社会にさらなる害を及ぼす方法を解決することはできません。
オープン・ライツ・グループの執行役員、ジム・キルロック氏は次のように述べています。
「政府は、効率性を主張しながらAIシステムに何十億ドルも費やすことで、英国の国民の利益よりもビッグテックの利益を優先しています。」
効率性主張は誇張されている可能性が高く、政府は英国の安全保障と回復力に対する長期的なリスクを生み出す可能性のある、米国技術企業の支配的な少数企業への公共部門のさらなるロックインの危険性を冒しています。同時に、これらのシステムが人権を尊重することを保証するための効果的で一貫した義務規則はありません。
システムが市民に与える影響について、市民は暗闇に閉じ込められています。私たちは、透明性、説明責任、公共の利益を第一に考えるAI規制を緊急に必要としています。人権を保護し、AIが私たち全員のために機能することを保証します。
この記事の著者であるリチャード・マッケンジー＝グレイ・スコット博士は次のように述べています。
「最近の政府交代により、デジタル技術政策を人権と整合させる新たな機会が生まれました。
私たちは、新しい技術や新興技術を可能にする要因について正直になる必要があります。その開発、維持、使用のコストがさまざまな文脈でどれほどになるか、そしてこれらのコストが関連する利益によってどのように相殺されるかについてです。AIに関する誤情報や誤解を招く情報が大量に広まっているのは事実です。
特に資金力のある企業からの約束や予測を追跡するのは困難です。しかし、責任を負う立場にある人々は、現在の害やリスクに焦点を当て、利益を上げたり権力を増やしたりするためにイノベーションが行われるのではなく、社会に貢献するイノベーションに置き換えることに集中する必要があります。
このような変化の中心には人権があるべきです。そうでなければ、進歩の幻想が続くことになります。
イギリスのAIへの公共支出は急増しました。2018年から2025年までの成長率は800%を超えます。ブラジルで報道された記事の日本語訳： 「...との共同で、」報告によると、約1,500件の契約の総額は33億5000万ポンドです。.
イギリスはすでに複数のパートナーシップアマゾン、グーグル、マイクロソフト、OpenAI、オラクル、パラントルのような企業と提携することで、公的セクターの当局がこれらの企業が提供する技術を利用する見返りに、外国投資を誘致し確保することを目的としています。
政府クレーム公共部門におけるAIが年間支出を45億ポンドから87億ポンドの範囲で節約できる可能性がある。しかし、AIが劇的な効率と利益をもたらすという主張は現在未検証であり、高額な誤り、法的課題、継続的な人間の監督が必要となる場合、納税者はより悪い状況に置かれる可能性があります。
低コストでオープンソースの代替案への投資は、信頼性の低いAIシステムの大規模導入による公衆のリスクを露呈することなく、より良い価値を提供する可能性があります。
ガーデナー博士（MP）は次のように述べました。
AIは、医療などの分野で社会に利益をもたらし、大きな進歩を可能にしますが、同時に不平等や差別、害をもたらす可能性があります。これらの技術に対する明確な規制は、特に国家が人々の生活に影響を与える形で使用する場合、公衆の信頼を得るために不可欠です。
大企業は規制の緩和を提唱していますが、英国はAIのガバナンスにおいて、単にルールに従うのではなく、ルールを設定する立場でなければなりません。これにより、この技術の社会的、経済的利益を確実に得ることができます。
ヴィクトリア・コリンズ下院議員は言いました。
AIが公共サービスに採用されるにつれ、それが人々の基本的人権とプライバシーとどのように相互作用するかの問題は後回しにされるべきではありません。この論文は、有害なAIシステムの特定と挑戦に対する責任が一般市民に負わされるべきではないと強調する権利があります。その責任は政府と政府がパートナーとする業界に属します。
調達決定の透明性を確保し、英国のAIエコシステムにおける競争を積極的に支援し、英国が真に主権的なアプローチを発展させ、そのデジタル未来を制御できないシステムにアウトソーシングするのではなく、その責任を負う必要があります。
編集者へのメモ
この論文は、Open Rights GroupのためにDr Richard Mackenzie-Gray Scottによって執筆されました。リチャードは、オックスフォード大学のボナベロ人権研究所の関連研究員であり、人権、デジタル技術、憲法研究、国際法と関係などの分野で研究、教育、政策関与、法務実践を行っています。