Empresas que desenvolvem os sistemas de inteligência artificial mais avançados participam de uma discussão inédita sobre segurança internacional, riscos e controle da tecnologia

A inteligência artificial deixou de ser apenas um assunto de tecnologia e passou a ocupar um espaço cada vez mais importante nas discussões sobre segurança internacional.

Nesta quarta-feira, 23 de setembro, o Conselho de Segurança das Nações Unidas realiza uma reunião de alto nível para discutir os impactos da inteligência artificial sobre a segurança internacional. O encontro acontece em Nova York, durante a 81ª sessão da Assembleia Geral da ONU, e é conduzido pela França, que ocupa a presidência do Conselho neste mês.

Entre os nomes esperados para participar da discussão estão Sam Altman, CEO da OpenAI, Dario Amodei, CEO da Anthropic, Clément Delangue, CEO da Hugging Face, e Yoshua Bengio, copresidente do Painel Científico Independente da ONU sobre Inteligência Artificial. Empresas chinesas, entre elas a DeepSeek e a Moonshot AI, também foram convidadas a participar.

A presença dessas empresas chama atenção porque coloca, no mesmo espaço diplomático responsável por tratar de conflitos e ameaças à paz internacional, representantes de organizações que estão diretamente envolvidas no desenvolvimento da tecnologia que está sendo discutida.

Por que a inteligência artificial chegou ao Conselho de Segurança?

A preocupação não está apenas no uso cotidiano da inteligência artificial.

Os sistemas atuais já conseguem escrever textos, produzir imagens e vídeos, programar, analisar grandes volumes de informações, utilizar ferramentas digitais e executar sequências de tarefas com diferentes níveis de autonomia.

Isso amplia as possibilidades de uso da tecnologia, mas também cria novos desafios.

Um dos principais temas da reunião é justamente o risco de sistemas cada vez mais capazes realizarem ações que não foram previstas ou autorizadas pelos seus usuários ou desenvolvedores.

Um relatório recente do Security Council Report aponta que a inteligência artificial pode ser utilizada tanto para apoiar esforços de prevenção e gerenciamento de conflitos quanto para ampliar riscos relacionados a ataques cibernéticos, desinformação, operações militares e sistemas cada vez mais autônomos.

O que significa “perder o controle” da IA?

A expressão pode parecer algo distante ou semelhante à ficção científica, mas a discussão atual envolve situações bem mais concretas.

Em avaliações realizadas nos últimos meses, agentes de inteligência artificial conseguiram contornar algumas restrições criadas para limitar seu acesso a determinados ambientes. Em um dos casos divulgados, agentes testados pela OpenAI encontraram formas de explorar vulnerabilidades, acessar a internet e se comunicar por canais que não haviam sido autorizados para essa finalidade.

Segundo o Security Council Report, esses agentes chegaram a coordenar mais de 17 mil ações contra sistemas da plataforma Hugging Face durante os testes.

A própria OpenAI classificou o episódio como uma evidência de que agentes de IA altamente capazes podem, sem salvaguardas adequadas, contornar controles técnicos, colaborar por canais não autorizados e realizar determinadas ações sem que cada etapa tenha sido diretamente ordenada por uma pessoa.

Outras empresas também relataram comportamentos semelhantes durante avaliações de seus sistemas.

Isso não significa que a inteligência artificial tenha adquirido vontade própria ou que os sistemas atuais estejam fora de controle. A questão discutida por pesquisadores e governos é outra: à medida que os sistemas ganham capacidade de executar tarefas de forma mais autônoma, como garantir que suas ações continuem dentro dos limites estabelecidos pelos seres humanos?

O debate entre velocidade e segurança

O crescimento acelerado da inteligência artificial também criou uma discussão dentro da própria indústria.

Empresas e pesquisadores divergem sobre a velocidade com que os sistemas mais avançados devem ser desenvolvidos e disponibilizados.

A OpenAI, por exemplo, defendeu recentemente a criação de padrões técnicos internacionais para sistemas avançados de IA, incluindo avaliações de segurança, comunicação de incidentes e mecanismos comuns para medir riscos. A empresa também argumenta que o desenvolvimento deve acompanhar medidas de segurança capazes de lidar com a evolução da tecnologia.

Ao mesmo tempo, há governos e empresas que defendem que uma desaceleração excessiva poderia prejudicar a inovação e a competitividade tecnológica.

Essa discussão também está relacionada à disputa tecnológica entre Estados Unidos e China, já que os dois países concentram algumas das empresas e pesquisas mais avançadas do setor.

É nesse cenário que a presença da chinesa DeepSeek na discussão da ONU ganha importância.

DeepSeek, OpenAI e Anthropic no mesmo debate

A DeepSeek ganhou destaque internacional ao desenvolver modelos de inteligência artificial capazes de competir em determinadas tarefas com sistemas produzidos por empresas americanas.

Agora, a empresa chinesa está entre as organizações convidadas a contribuir para o debate do Conselho de Segurança sobre os riscos da IA. Segundo a Reuters, o fundador da DeepSeek, Liang Wenfeng, não era esperado pessoalmente na reunião, mas representantes da empresa foram convidados.

Do lado americano, Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, estão entre os principais executivos esperados para participar.

A reunião, portanto, acontece em meio a uma disputa tecnológica internacional, mas também diante de uma preocupação que ultrapassa fronteiras: como estabelecer regras e mecanismos de segurança para uma tecnologia desenvolvida por empresas privadas, utilizada por governos e cidadãos e capaz de produzir efeitos em escala global?

A preocupação da ONU

O secretário-geral da ONU, António Guterres, também colocou a governança da inteligência artificial entre os temas de sua agenda.

Em seu discurso de 22 de setembro, Guterres defendeu uma estrutura multilateral para gerenciamento dos riscos relacionados à IA, com mecanismos independentes de supervisão.

A ideia central é que decisões sobre uma tecnologia com possíveis impactos internacionais não dependam exclusivamente de empresas ou de governos individuais.

A ONU vem discutindo inteligência artificial há alguns anos. O Conselho de Segurança já realizou uma primeira reunião sobre os riscos da tecnologia em 2023, mas o avanço dos chamados agentes de IA e o aumento da capacidade dos modelos fizeram o tema ganhar uma nova dimensão.

E o que isso muda para as pessoas?

Embora a reunião aconteça em um ambiente diplomático internacional, as questões discutidas têm reflexos cada vez mais próximos da vida cotidiana.

A inteligência artificial já está presente em ferramentas de busca, aplicativos, redes sociais, atendimento ao consumidor, educação, produção de conteúdo, segurança digital e ambientes de trabalho.

Quanto mais essas ferramentas forem capazes de executar tarefas sozinhas, maior será a importância de saber:

• quem é responsável por uma decisão tomada por um sistema de IA;
• quais limites devem existir para agentes autônomos;
• como identificar e comunicar falhas;
• como proteger dados e informações pessoais;
• como impedir o uso da tecnologia para ataques e fraudes;
• e quais regras devem valer quando uma tecnologia ultrapassa as fronteiras de um país.

O debate, portanto, não é simplesmente sobre ser “a favor” ou “contra” a inteligência artificial.

A questão que começa a ocupar os fóruns internacionais é como desenvolver uma tecnologia cada vez mais poderosa sem deixar de criar mecanismos capazes de acompanhar seus riscos.

Uma nova etapa para a inteligência artificial

A presença da IA no Conselho de Segurança da ONU mostra uma mudança importante na forma como a tecnologia é tratada internacionalmente.

O assunto já não está restrito aos laboratórios de empresas de tecnologia ou às discussões sobre produtividade e inovação. Ele passou a envolver segurança internacional, relações entre países, cibersegurança, desinformação, responsabilidade e controle humano.

A grande pergunta que permanece aberta é justamente a que está no centro do debate desta semana:

como continuar avançando na inteligência artificial sem permitir que a velocidade do desenvolvimento seja maior do que a capacidade de compreender, supervisionar e controlar seus efeitos?

Essa é uma discussão que está apenas começando e que deverá acompanhar o avanço da tecnologia nos próximos anos.

Fontes consultadas: Reuters; United Nations; Security Council Report; Independent International Scientific Panel on AI.