O alto comissário das Nações Unidas para os Direitos Humanos, Volker Türk, juntou-se na segunda-feira aos crescentes apelos por maiores controles sobre a IA, alertando que a tecnologia revolucionária poderia se tornar um "risco existencial para a humanidade" se não for controlada.
Sem regras vinculativas, supervisão independente e limites claros, a tecnologia poderia se tornar impossível de controlar, afirmou o Comissário ao Conselho de Direitos Humanos.Conselho de Direitos HumanosEm Genebra.
O senhor Türk levantou a possibilidade de sistemas de IA se tornarem tão poderosos que seus desenvolvedores não conseguirem mais controlá-los.
Uma IA que escapa do ambiente de teste, ou chantageia os desenvolvedores para impedir que seja desligada, é uma IA muito poderosa", ele disse. "Estou pedindo, aqui e agora, um esforço total para implementar garantias de ferro fundido em torno da segurança e da segurança da IA, antes que seja tarde demais.
'Um punhado de homens' no controle
O senhor Türk apelou aos países que hospedam tecnologias de IA e aos envolvidos em suas cadeias de suprimentos para trabalharem juntos e estabelecerem limites claros.
"Precisamos de verificação independente e de uma cooperação muito mais próxima em relação à segurança dentro do setor", ele disse.
Mas ele enfatizou que o desafio vai além da segurança técnica.
"Um punhado de homens tem quase poder ilimitado sobre a IA", ele disse, apontando para a crescente concentração de poder tecnológico e as enormes quantidades de dados sendo coletados e processados.
Mas ele também destacou a necessidade de tecnologias que "servam a humanidade, e não o contrário", em relação ao trabalho, à democracia e ao meio ambiente, insistindo que os direitos humanos devem permanecer o princípio orientador.
'Horripilado' por armas autônomas
O Alto Comissário também levantou preocupações sobre o uso da IA na guerra, particularmente o desenvolvimento de armas capazes de tomar decisões fatais sem intervenção humana.
O Sr. Türk afirmou estar "horripilado" com relatórios de drones totalmente autônomos supostamente implantados pela Rússia que mataram três ucranianos no mês passado. A Ucrânia também teria testado tais armas.
"Eu me uno aos apelos pela proibição urgente de armas que podem tirar vidas sem envolvimento humano", ele disse aos membros do Conselho.
Ele também alertou que a guerra na Ucrânia, agora em seu quinto ano, continua causando crescentes baixas civis e danos à infraestrutura energética crítica, com mortes e ferimentos também relatados na Rússia.
Mais de 60 guerras
O Alto Comissário ampliou seu alerta para o cenário global de segurança mais amplo, expressando profunda preocupação com a proliferação de conflitos armados e o enfraquecimento do direito internacional.
Mais de 60 conflitos envolvendo pelo menos um país estão ocorrendo em todo o mundo, um nível não visto desde o fim da Segunda Guerra Mundial.
O senhor Türk também expressou alarme diante da renovação das hostilidades entre os Estados Unidos e o Irã e suas repercussões geopolíticas e econômicas mais amplas.
Ele observou que continuam a ser relatadas baixas civis, incluindo em um casamento na província de Hormozgan, no Irã.
Gaza e Cisjordânia Ocupada
Ao abordar o Oriente Médio, o senhor Türk condenou os contínuos ataques israelenses em Gaza e as restrições à ajuda humanitária, bem como os planos para o deslocamento forçado de palestinos e a retórica desumanizante de alguns oficiais israelenses de alto escalão.
Ele também condenou execuções e tortura supostamente perpetradas por grupos armados afiliados ao Hamas.
Na Cisjordânia Ocupada, o senhor Türk pediu ações contra a anexação, a expansão de assentamentos por Israel e transferências de armas que possam facilitar violações do direito internacional.
"A comunidade internacional deve redobrar os esforços em direção a uma paz duradoura, na qual a Palestina e Israel vivam lado a lado com igualdade de dignidade e direitos... As palavras de condenação soam vazias diante das violações deliberadas e do sofrimento", afirmou o senhor Türk.