- Новая группа за открытые права обнаруживает, что внедрение ИИ в государственный сектор является непрозрачным, не подотчётным и выгодным для Big Tech, а не для общественности.
- Организация призывает министра по ИИ Канишку Нараяна к регулированию систем ИИ в государственном секторе в соответствии с правами человека.
- Этот призыв поддерживают член парламента от Лейбористской партии Алисон Гарнер, член парламента от Либеральных демократов Виктория Коллинз и член парламента от Зеленых Сиан Берри, которые внесли предисловия в книгу "ИИ в государственном секторе: подход, основанный на правах человека".ИИ в государственном секторе: подход, основанный на правах человека.
ИИ и государственный сектор: подход, основанный на правах человека
Прочитайте отчётОтчёт показывает, что внедрение ИИ в Великобритании является ключевой частью государственной стратегии, которая, по-видимому, мотивирована в основном улучшением экономической эффективности и стимулированием инноваций.
Статья выделяет риски, возникающие из-за того, как разрабатываются, закупаются и внедряются системы искусственного интеллекта в государственном секторе. К ним относятся:
- Отсутствие контроля над системами ИИ, закупаемыми в интересах правительственных ведомств и мощных компаний, которые их предоставляют, но не обязательно в интересах широкой общественности.
- Партнерства правительства с частными компаниями рискуют привести к злоупотреблению властью и захвату государства через крупные технологические компании, успешно лоббирующие дальнейшее использование своей технологии в государственных органах.
- ИИ закупается таким образом, что подавляет конкуренцию и инновации, и рискует, что правительственные ведомства окажутся запертыми в соглашениях в основном с крупными американскими технологическими компаниями. Это положение ставит под угрозу суверенитет Великобритании в условиях геополитической неопределенности и экономического давления.
- Системы ИИ могут производить и выполнять политику незаметно, оставляя общественность в темноте относительно того, как принимаются жизненно важные решения.
- Минимально есть указаний на то, что разработка ИИ проводится с учетом законов о защите данных, равенстве и правах человека. Даже если суд вынесет решение против использования конкретной системы ИИ, судебные решения не могут решать системные проблемы с самой технологией и тем, как ее использование способствует дальнейшему социальному вреду.
Директор-исполнитель Open Rights Group, Джим Киллок сказал:
«Правительство ставит интересы крупных технологических компаний выше интересов британской общественности, тратя миллиарды на системы ИИ, утверждая, что они создадут эффективность».
Не только заявления об эффективности, вероятно, окажутся преувеличенными, но и правительство рискует еще больше запутать государственный сектор в использовании нескольких доминирующих американских технологических компаний, подавляя конкуренцию, подрывая инновации и создавая долгосрочные риски для безопасности и устойчивости Великобритании. В то же время нет эффективных и согласованных обязательных правил, гарантирующих, что эти системы уважают права человека.
Общественность держат в неведении о том, как системы влияют на них. Нам срочно нужна регуляция искусственного интеллекта, которая ставит на первое место прозрачность, подотчётность и общественные интересы, защищая права человека и обеспечивая, чтобы ИИ работал на благо всех нас.
Доктор Ричард МакКензи-Грей Скотт, автор статьи, сказал:
С недавними изменениями в правительстве появляется новая возможность для выравнивания политики в области цифровых технологий с правами человека.
Нам нужно начать честно говорить о том, что делает возможными новые и возникающие технологии. О том, какие затраты их разработки, обслуживания и использования составляют в различных контекстах, и можно ли и как эти затраты компенсируются соответствующими преимуществами. В настоящее время распространяется значительное количество ложной и вводящей в заблуждение информации об "ИИ".
Также сложно отслеживать обещания и прогнозы, особенно от компаний, являющихся "кассовыми печами". Но те, кто отвечает за управление, должны сосредоточиться на существующих в настоящее время вредах, на существующих в настоящее время рисках, а также на обеспечении того, чтобы инновации во имя наполнения карманов и увеличения власти были заменены инновациями, которые способствуют социальной ценности.
Основой такого изменения должны быть права человека, иначе иллюзия прогресса сохранится.
Расходы Великобритании на ИИ резко увеличились.Более 800% с 2018 по 2025 годТекст: , с показателем (не указано полное предложение из-за ограничения текста, предоставленного в запросе)Текущее общее количество контрактов составляет примерно 1500, стоимость которых, по сообщениям, составляет 3,35 миллиарда фунтов стерлингов..
Великобритания уже вступила в...несколько партнерствС компаниями, включая Amazon, Google, Microsoft, OpenAI, Oracle и Palantir, с целью привлечения и обеспечения иностранных инвестиций в обмен на использование органами государственной власти технологий, предоставляемых этими компаниями.
правительствоЗаявлениячто ИИ в государственном секторе может помочь сэкономить от 45 до 87 миллиардов фунтов в ежегодных расходах. Но заявления о том, что ИИ обеспечит драматическую эффективность и успехи, на данный момент остаются непроверенными, в то время как дорогостоящие ошибки, юридические споры и необходимость постоянного надзора со стороны человека могут оставить налогоплательщиков в худшей ситуации.
Инвестирование в более дешевые, открытые альтернативы может обеспечить лучшую ценность без подвергания общественности рискам развертывания ненадежных систем ИИ в масштабах.
Доктор Алисон Гарнер, член парламента, сказала:
«ИИ имеет потенциал приносить пользу обществу и вносить огромные достижения в такие области, как здравоохранение, но также может автоматизировать неравенство и дискриминацию и наносить вред. Четкое регулирование жизненно важно, чтобы общественность могла доверять этим технологиям, особенно когда они используются государством способами, влияющими на их жизнь».
Крупные технологические компании лоббируют за низкое регулирование, но Великобритания должна быть установителем правил, а не следователем в управлении ИИ, чтобы обеспечить мы получаем как социальные, так и экономические выгоды от этой технологии».
Виктория Коллинс, член парламента, сказала:
По мере внедрения ИИ в государственные услуги вопрос о том, как он взаимодействует с фундаментальными правами и конфиденциальностью человека, не должен оставаться на втором плане, и в этой статье справедливо настаивается на том, что бремя выявления и оспаривания вредных систем ИИ не должно лежать на отдельных членах общественности. Эта ответственность лежит на правительстве и на отрасли, с которой оно сотрудничает.
Нам необходимо обеспечить подход, при котором решения о закупках будут прозрачными, где конкуренция в экосистеме ИИ Великобритании будет активно поддержана, и где Великобритания разработает по-настоящему суверенный подход, а не будет передавать свое цифровое будущее в руки систем, которые она не контролирует.
Примечания для редакторов
Статья была написана для Open Rights Group доктором Ричардом МакКенни-Грей Скоттом. Ричард является ассоциированным профессором Института прав человека Бонаверо в Оксфордском университете и работает в области прав человека, цифровых технологий, конституционных исследований и международного права и отношений, включая исследования, преподавание, участие в разработке политики и юридическую практику.