Painel internacional alerta que o avanço descontrolado da AGI pode causar impactos irreversíveis e defende ação multilateral imediata liderada pelas Nações Unidas. Por: Rafael Luna
Um relatório inédito elaborado por um painel de especialistas internacionais para o Conselho de Presidentes da Assembleia Geral das Nações Unidas (UNCPGA) acendeu o sinal de alerta global: a transição da Inteligência Artificial tradicional para a Inteligência Artificial Geral (AGI) pode acontecer ainda nesta década, trazendo transformações profundas e riscos sem precedentes.
A AGI refere-se a sistemas capazes de igualar ou superar o desempenho humano na maioria das tarefas cognitivas. Impulsionada por investimentos bilionários do setor privado, a corrida pela AGI tem priorizado a velocidade na expansão de capacidades em detrimento das medidas essenciais de segurança e alinhamento ético.
O Desafio da Soberania Digital do Brasil frente às Big Techs
Para além dos riscos técnicos e autônomos, o relatório alerta que a AGI pode agravar severamente a concentração de poder e riqueza em escala global. Hoje, o desenvolvimento das formas mais avançadas de IA e AGI depende do controle massivo de infraestruturas de Big Data, supercomputação e talentos (ativos concentrados nas mãos de poucas grandes corporações de tecnologia) (Big Techs) e nações centrais.
Nesse cenário, a preservação da soberania digital do Brasil torna-se uma pauta urgente:
- Autonomia sobre Dados e Infraestrutura: A dependência contínua de infraestruturas de dados estrangeiras e de modelos proprietários pode marginalizar o ecossistema de inovação nacional e subordinar a tomada de decisão estratégica a interesses corporativos globais.
- Combate à Desigualdade Global: Se a governança não for inclusiva e multinacional, o fosso tecnológico entre o Sul Global e as potências de IA irá se ampliar, aprofundando dependências econômicas e culturais.
- Preservação Institucional: O relatório enfatiza que o controle desequilibrado sobre redes, recomendação e dados coloca em risco a confiança nas instituições locais, a soberania de dados e a segurança da informação nacional.
4 Pilares da Proposta da ONU para Reter o Monopólio Tecnológico
Para garantir que a AGI beneficie toda a humanidade de forma equitativa ou seja, sem reter o conhecimento em monopólios corporativos, o painel propõe que a Assembleia Geral da ONU crie quatro instâncias globais:
| Pilar de Governança | Função Principal |
|---|---|
| Observatório Global de AGI | Acompanhar o progresso em P&D e emitir alertas precoces de riscos de segurança aos Estados-Membros. |
| Sistema Internacional de Certificação | Verificar o alinhamento de sistemas de AGI com os valores humanos e a segurança universal. |
| Convenção-Quadro da ONU sobre AGI | Estabelecer protocolos inclusivos, limites inegociáveis (“linhas vermelhas”) e centros de pesquisa conjunta. |
| Agência Internacional dedicada à AGI | Estudar a criação de um organismo multilateral para supervisão e mitigação de riscos em escala global. |
Presença Brasileira e o Papel do Nosso Laboratório
O relatório conta com a contribuição do pesquisador brasileiro Renan Araujo (gerente de pesquisa no Institute for AI Policy and Strategy) no painel internacional, além da tradução promovida por Rosa Alegria e Eduardo Sá, através do The Millennium Project – Brazil Node.
Para o Laboratório do Futuro, este relatório reforça a prioridade de debatermos não apenas a segurança dos algoritmos, mas também a autonomia tecnológica brasileira, estimulando políticas públicas que promovam a infraestrutura nacional de dados, a ética computacional e o desenvolvimento soberano de IA.
Confira aqui o relatório completo.