Tecnologia está avançando do reconhecimento passivo de padrões para raciocínio ativo e ação autônoma; Painel Científico Internacional independente, formado pela ONU, reuniu evidências para subsidiar decisões políticas; copresidentes do grupo falaram sobre riscos de sistemas que escapam do controle humano.
O secretário-geral da ONU, António Guterres, saudou a publicação do primeiro relatório do Painel Científico Internacional Independente sobre Inteligência Artificial, IA.
O documento, divulgado nesta quarta-feira, foi produzido por um grupo de 40 especialistas reunidos pela ONU e vai subsidiar o Primeiro Diálogo Global sobre Governança da IA, que começa na próxima segunda-feira, em Genebra.
Evidências científicas
O líder das Nações Unidas apelou aos países para que “não percam tempo” e comecem a usar estas evidências científicas já.
Segundo Guterres, “quanto mais a IA avança sem regras compartilhadas, menos influência governos e pessoas terão sobre o resultado”. O relatório ressalta que a inteligência artificial evoluiu rapidamente do reconhecimento passivo de padrões para o raciocínio ativo e a ação autônoma.
O secretário-geral descreveu o painel como um grupo “único e extraordinário”, por ser a primeira entidade científica totalmente independente dedicada a analisar o verdadeiro impacto da IA nas economias e sociedades, separando fatos de mentiras.
Os dois copresidentes do painel, a jornalista filipina e ganhadora do prêmio Nobel da Paz, Maria Ressa, e o cientista da computação franco-canadense, Yoshua Bengio, também participaram do lançamento.
Três constatações alarmantes
Ecoando as palavras de Guterres, Maria Ressa afirmou que, a partir desse relatório, o mundo não pode mais afirmar que “não sabia” sobre os benefícios e riscos que esta tecnologia pode causar.
Ela ressaltou que “os perigos são muito reais e estão acontecendo agora”, enfatizando três constatações alarmantes: o ritmo de desenvolvimento só aumenta, há uma grande concentração de poder e não há garantias sobre a capacidade humana de controlar a IA.
A jornalista destacou ainda a preocupação com o “envenenamento” das informações que alimentam uma sociedade, numa era de inteligência artificial generativa, que pode gerar desinformação de forma rápida, barata e personalizada.
Para Maria Ressa, “sem fatos não há verdade, sem verdade não há confiança, e sem esses três elementos não existe realidade compartilhada”.
IA agindo de forma enganosa
Yoshua Bengio, por sua vez explicou que a missão do painel é garantir que decisões políticas sejam informadas pelos padrões mais elevados de integridade científica, livres de pressões externas e preferências.
Ele disse que o mundo atravessa um ponto de virada onde as máquinas estão se tornando mais inteligentes e desbloqueando um poder capaz de gerar muitos benefícios.
Porém, o cientista disse que ainda não existem garantias técnicas de que os sistemas de inteligência artificial vão seguir instruções, normas e leis.
Segundo ele, evidências cada vez maiores indicam o contrário, que a IA age de forma enganosa para burlar o controle humano.
Bengio acredita que os próximos passos devem ser tomados em conjunto pelos países para moldar o desenvolvimento da inteligência artificial, colocando-o numa direção benéfica.
Para o cientista, as decisões tomadas hoje sobre IA vão ter consequências duradouras para indivíduos, empresas, instituições, democracias e talvez, mais além.
*Felipe de Carvalho é jornalista da ONU News.