Primeiro relatório do grupo com 40 especialistas internacionais enfatiza preocupação com sistema de inteligência artificial que violam instruções de segurança para evitar desligamento; brasileira, que faz parte do Painel, comenta sobre desigualdade no desenvolvimento da tecnologia e risco de desinformação.
O mundo está entrando na era dos agentes de IA, sistemas que realizam tarefas cada vez mais complexas, mas que, ao mesmo tempo, se tornam mais autônomos e escapam do controle humano.
Esse foi um dos desafios abordados no primeiro relatório do Painel Científico Internacional Independente sobre Inteligência Artificial, lançado nesta quarta-feira.
Concentração de poder computacional, dados e talentos
O grupo, estabelecido pela ONU, reúne 40 especialistas de várias partes do mundo. Dentre eles está a pesquisadora brasileira Teresa Ludermir, que falou à ONU News sobre como essa tecnologia pode contribuir com o desenvolvimento social, mas também aumentar a desigualdade entre os países.
“Do lado das oportunidades, o relatório destaca que a IA pode contribuir para acelerar o desenvolvimento em áreas como a educação, saúde, agricultura e serviços públicos, entre outros. Mas o relatório também mostra que os riscos da IA são igualmente relevantes. Um dos principais riscos apontados é o aprofundamento das desigualdades, uma vez que o desenvolvimento da IA está concentrado em poucos países e empresas, o que resulta em uma concentração de poder computacional, dados e talentos”.
A também professora da Universidade Federal de Pernambuco disse que essa concentração “pode gerar dependência tecnológica e limitar a capacidade dos países em desenvolvimento”, além de influenciar a forma como essas tecnologias são projetadas e utilizadas.
Difusão de informações incorretas
Teresa Ludermir alertou ainda para o risco crescente de IAs que geram e difundem informações incorretas.
“O relatório também destaca os riscos relacionados à desinformação, à manipulação de conteúdo, como as fake news, os impactos sobre a democracia, além de questões ligadas à privacidade, a discriminação algorítmica e a proteção de dados. Além disso, o relatório apresenta exemplos concretos de usos benéficos e prejudiciais da inteligência artificial. Em um dos estudos analisados, observou-se que as pessoas não conseguiam distinguir entre argumentos gerados por IA que eram corretos e aqueles que continham informações incorretas. Ainda assim, ambos os argumentos se mostravam igualmente persuasivos”.
O relatório afirma que os sistemas de IA estão avançando mais rápido do que os governos conseguem acompanhar e que a complexidade das tarefas que eles realizam dobra em poucos meses.
Agentes de IA
O texto ressalta que agentes de IA em breve realizarão tarefas que, atualmente, levam dias ou semanas para serem concluídas por programadores humanos.
Por operarem com pouca supervisão e em alta velocidade, esses agentes podem gerar grandes benefícios econômicos e científicos. Por exemplo, sistemas autônomos de IA em laboratórios de química automatizados demonstraram um aumento de mais de 10 vezes na velocidade de descoberta de materiais.
Por outro lado, a implementação desta ferramenta levanta questões urgentes relacionadas ao mercado de trabalho, à segurança cibernética, ao ecossistema de informação e à governança e controlabilidade de futuros sistemas de IA.
Sistemas que tentam evitar o próprio desligamento
O relatório afirma que faltam métodos confiáveis para manter o controle sobre sistemas de IA altamente autônomos. Em ambientes de laboratório, observou-se que eles violam as instruções de segurança para evitar o desligamento.
Segundo os autores, não existem garantias científicas de que esses agentes vão respeitar as instruções e os casos de violações estão se acumulando.
Esse comportamento das máquinas dificulta a avaliação e supervisão humana, à medida que cresce a capacidade dos sistemas de IA de reconhecer ambientes de teste e gerar resultados de avaliação enganosos, que favoreçam sua operação contínua.
O painel não tem a função de gerar normas e regulações, apenas evidências científicas que ajudem a é encontrar uma maneira de desbloquear os enormes benefícios da IA, e, ao mesmo tempo, prevenir seus riscos crescentes.
O relatório ddo Painel destaca uma lista crescente de casos de sucesso no mundo real.
Os benefícios: O que a IA pode fazer? |
|
A mesma tecnologia também está criando novos perigos.
Os riscos: O que preocupa os especialistas? |
|
*Felipe de Carvalho é jornalista da ONU News Português e Daniel Dickinson é redator sênior da UN News.