Искусственный интеллект и государственный сектор: подход, основанный на правах человека

Резюме

В настоящее время правительство, кажется, больше заинтересовано в создании публичного образа прогресса, который укрепляет глобальные динамики власти, чем в разработке устойчивых долгосрочных стратегий по использованию AI там, где это уместно и в общественных интересах. Удобство и внешний вид имеют преимущество перед тщательностью и лидерством. Опора на иностранный капитал и системы, разработанные и управляемые частными компаниями, уже доминирующими на рынке, в сочетании с экономическим и технологическим давлением со стороны государства, в котором многие из этих компаний зарегистрированы (Соединенные Штаты), делает текущее стремление к внедрению AI в государственном секторе тревожным.

Соответствующие опасения состоят из трех аспектов:

1. Кто устанавливает и корректирует повестку по использованию систем AI;

2. Преимущества ли для общества Великобритании текущего подхода, основанного на зависимости от поставщиков частного сектора, и какие за это платят издержки.

3. Как обеспечить защиту прав человека при внедрении искусственного интеллекта. В настоящее время эти системы не подвергаются значительному контролю. Общественность в настоящее время подвергается рискам, связанным с искусственным интеллектом в государственном секторе.

Однако существуют регуляторные механизмы, которые могут согласовать внедрение ИИ с правами человека, все они должны быть рассмотрены в рамках общественного обсуждения. Общественность должна иметь существенное влияние на формирование законов, правил и политики в отношении ИИ. Это является частью обеспечения и формирования надежных и заслуживающих доверия систем ИИ, которые приносят ощутимые выгоды всем членам общества Великобритании, а не просто генерируют выгоды для технологических компаний и их спонсоров.

В то же время крайне важно, чтобы бремя признания и оспаривания проблемных и потенциально незаконных систем, а также смягчения вреда, причиняемого ИИ в целом, не лежало на отдельных членах общественности. Таким образом, предлагаемые регуляторные меры возлагают ответственность на государство Великобритания и отрасли, с которыми оно поддерживает партнерские отношения.

Рекомендации

Эти предложения направлены на решение ключевых аспектов текущей практики разработки и использования ИИ, от проектирования и тестирования систем до управления и надзора.

• Оценки воздействия до развертыванияКластеры заката

• Положения о прекращении действия документовО системах искусственного интеллекта, одобренных для развертывания, которые представляют высокий риск для прав человека.

• Авторизация использования случаевТребование ограничивать системы искусственного интеллекта конкретными ограничениями использования, которые должны пересматриваться и повторно утверждаться, если предлагается изменить их назначение.

• Периодическая аудита алгоритмовВо время использования систем искусственного интеллекта, что может включать назначение экспертных технических доказательств для помощи в судебных делах.

• Обязательное уведомление о происшествияхОтчетов о системах искусственного интеллекта в соответствии с требованиями прав человека для информирования будущих исследований, дискуссий и политики.

• Изменение практики закупок искусственного интеллекта для предотвращения запрета поставщика.Развивать и продвигать конкуренцию и прозрачность, обеспечивая, чтобы государственные органы имели в своем распоряжении наилучшие доступные технологии, и чтобы было ясно, на каких основаниях присуждаются контракты.

• Разрабатывать открытые альтернативы закрытым системам искусственного интеллекта.С целью усиления потенциала разработки ИИ для государственного сектора, который является адаптивным и независимым.

• Институциональная реформа.Создание органа общественного надзора за ИИ, независимого от правительства и промышленности, надлежащим образом финансируемого, с четким мандатом, включающим правоприменительные полномочия, и подотчетного парламенту.

Статья была написана для Open Rights Group доктором Ричардом МакКензи-Грей Скоттом. Ричард — ассоциированный исследователь Бонаверо Института прав человека в Оксфордском университете, и его работа охватывает права человека, цифровые технологии, конституционное право и международные отношения, включая исследования, преподавание, участие в разработке политики и юридическую практику.