Quando os governos encontram a IA agêntica: identidade, soberania e a urgência para agir

O que acontece quando os agentes de IA não apenas auxiliam o governo, mas começam a administrá-lo? Não respondendo a perguntas ou resumindo documentos, mas iniciando processos de aquisição, fazendo a triagem de ajuda humanitária, verificando a compliance regulatória, emitindo licenças? E nesse mundo, como sabemos com quem – ou com o quê – estamos realmente lidando?

No segundo episódio da Série Deepfakes do Veriff Voices, a apresentadora Anisah Osman Britton reúne Hubert Behaghel, Diretor de Tecnologia da Veriff, e Luukas Ilves, conselheiro de IA do Gabinete do Governo da Estônia e conselheiro do Ministério da Transformação Digital da Ucrânia. A conversa avança rapidamente: de um artigo de visão marcante sobre o governo agêntico, passando pelos dilemas de soberania da dependência de IA, até os riscos de segurança específicos que os sistemas autônomos introduzem – e, por fim, por que uma infraestrutura de identidade robusta não é uma característica desse futuro, mas sim sua pré-condição.

Produzido por Any Other Business

O estado agêntico: o que é e por que é importante agora

A conversa começa com o artigo que motivou o convite a Luukas Ilves: um trabalho de referência sobre o que ele chama de “estado agêntico” – um modelo de governo reimaginado em torno das capacidades de agentes de IA autônomos. O projeto intelectual, explica ele, era dividir o que o governo realmente faz em suas tarefas e fluxos de trabalho, e então pensar cuidadosamente sobre como cada um deles é transformado quando agentes podem realizá-los.

A urgência por trás desse projeto não é hipotética. Os governos, argumenta Ilves, passaram a última geração de cinco a dez anos atrás do setor privado na transformação digital. O custo desse atraso na década de 2010 foi atrito e ineficiência. O custo do mesmo atraso agora, ele adverte, pode ser muito maior, incluindo até o colapso funcional dos serviços públicos em países que não conseguem acompanhar o ritmo.

Mas não é apenas o medo que impulsiona a agenda. Os fatores de atração são igualmente convincentes. Os governos podem desbloquear capacidades genuinamente transformadoras: serviços ao cidadão multimodais e proativos; processos de compliance regulatória virados de cabeça para baixo, com empresas gerando provas agênticas de compliance em vez de navegar por relatórios burocráticos; aquisições – 11% do PIB mundial – redesenhadas em torno de compras agênticas. E em cenários de crise, a diferença entre um contact center atendendo cem residentes afetados por enchentes de uma vez e agentes engajando cada pessoa em uma zona de inundação simultaneamente, em tempo real, fazendo a triagem e enviando apoio conforme avançam.

“O tempo para a adaptação do governo está se esgotando”, diz Ilves, mas, da mesma forma, “os governos podem desbloquear capacidades essenciais com agentes” que eram simplesmente impossíveis antes.

A Estônia como modelo e seus limites

Hubert Behaghel pressiona Ilves sobre a Estônia, o país que se tornou o ponto de referência mundial para a transformação digital do governo. A história da Estônia, esclarece Ilves, é menos sobre o governo liderando o setor privado do que sobre uma genuína coevolução: um país se reconstruindo do zero na década de 1990, uma economia ávida por uma vantagem competitiva, um setor bancário que produziu o primeiro banco on-line para consumidores do mundo, e um governo que optou por digitalizar em paralelo em vez de esperar.

A lição que ele tira dessa história não é que o modelo da Estônia pode ser replicado em sua totalidade. É que a coevolução foi importante, que nem o governo nem a economia poderiam ter feito isso sozinhos, e que a rede de parcerias e a infraestrutura compartilhada foram tão importantes quanto qualquer escolha tecnológica individual.

A Ucrânia, onde Ilves também trabalha, oferece um caso diferente, mas igualmente instrutivo: um país que teve que aproveitar a tecnologia para sobreviver a uma invasão em grande escala, e que agora enfrenta o desafio de reconstruir – planejamento, licenciamento, aquisições, saúde e saúde mental – em uma escala enorme. A única maneira de alcançar esses resultados, ele argumenta, é com as capacidades que os agentes podem agora fornecer.

Soberania e a questão da dependência

A conversa se volta para um dos tópicos mais contestados na política de tecnologia europeia: o que significa construir uma infraestrutura de governo agêntico sobre modelos e plataformas que você não controla? Anisah Osman Britton coloca a questão diretamente – muito do que os governos estão construindo está sobre grandes modelos de linguagem dos EUA. A dependência é um risco que você pode gerenciar ou uma armadilha?

A resposta de Ilves é caracteristicamente precisa. O problema com a “soberania” como enquadramento, ele argumenta, é que ela foca a atenção inteiramente no negativo – todas as coisas que poderiam dar errado – sem forçar uma definição de como é o sucesso. Antes de poder gerenciar as dependências racionalmente, você precisa saber quais resultados está tentando proteger. Pergunte qual é a sua dependência em cada camada da pilha de tecnologia, ele adverte, e você ficará paralisado ou concluirá que precisa reconstruir tudo, um custo que chegaria a centenas de bilhões para qualquer país de médio a grande porte, por capacidades que ainda podem não ser verdadeiramente autônomas.

O enquadramento mais útil: entenda seus processos de negócios críticos, identifique quais dependências criam vulnerabilidades genuínas nesses processos e construa sua arquitetura com opções de contingência. “Foque nos resultados, não nas dependências”, é como ele resume – use as melhores ferramentas disponíveis, garantindo que você não fique preso sem alternativas.

Behaghel adiciona a dimensão do setor: a indústria de verificação de identidade, ao contrário de alguns setores adjacentes, não tem um player global dominante. Essa fragmentação cria tanto vulnerabilidade quanto oportunidade. A questão é quem reúne o stack e as parcerias certas primeiro.

Navegando na divisão entre o técnico e o não técnico

Uma das conversas mais sutis do episódio diz respeito ao problema humano de gestão de mudanças em grandes organizações, e especificamente governos. Ilves contesta sutilmente uma suposição comum: que o desafio é fazer com que pessoas “não técnicas” adotem ferramentas projetadas para as técnicas. Esse enquadramento, ele argumenta, já está desatualizado.

Um advogado, um médico ou um cientista social que passou um dia trabalhando com um agente pode se tornar um orquestrador extraordinariamente capaz de fluxos de trabalho complexos. As ferramentas se tornaram fluentes o suficiente para que a variável real seja a exposição, não a formação técnica. Sua esposa, que trabalha em saúde pública e não é tecnóloga, configurou o Claude Code por sugestão dele e, em um dia, construiu fluxos de trabalho que triplicaram sua produtividade. O problema não é a capacidade, é fazer com que pessoas suficientes passem por esse primeiro contato.

O problema mais difícil é fazer isso em escala, em grandes organizações, sem manuais confiáveis sobre o que faz a transição funcionar. O que parece mais importar, diz Ilves, não são palestras, mas exposição prática, idealmente com alguém que já fez isso antes: um tipo de transmissão de conhecimento que se espalha, como ele diz, como uma religião.

Riscos de segurança em um mundo agêntico

Aqui, a conversa se torna mais incisiva. Ilves identifica um risco específico que ele acredita que ainda não atingiu escala, mas está por vir: ataques de injeção em sistemas autônomos. Em um mundo onde agentes saem e coletam informações em nome dos usuários, um invasor que sabe o que o agente de um analista do ministério das relações exteriores provavelmente pesquisará pode plantar cargas maliciosas em PDFs sobre tópicos relevantes na web pública. O agente os captura, a injeção ocorre e o sistema é comprometido, sem que o humano esteja significativamente envolvido no processo.

“Há muitas pessoas que, de outra forma, são muito conscientes sobre segurança, mas que estão praticando o equivalente técnico de relações sexuais muito inseguras neste momento, quando deixam os agentes em suas máquinas saírem e fazerem coisas”, diz ele.

Behaghel conecta isso a uma mudança estrutural na forma como precisamos pensar sobre as interações on-line. A internet foi projetada para humanos. Bots eram a exceção, algo a ser eliminado. Agora, humanos e agentes operam nas mesmas plataformas, e o desafio não é mais a eliminação, mas a verificação. Cada interação deve ser tratada como potencialmente agêntica ou humana, com a capacidade de escalar para um humano preservada a qualquer momento. E cada interação precisa de um rastro – um registro de auditoria – porque responsabilidade e legitimidade são agora as questões das quais tudo o mais depende.

A identidade como o facilitador dos facilitadores

Behaghel levanta o desafio diretamente: na visão de Ilves sobre o estado agêntico, a identidade não é apenas importante, mas a fundação sobre a qual todo o resto é construído? E o estado atual da infraestrutura de identidade, mesmo com frameworks como o eIDAS 2, é realmente maduro o suficiente para suportar o que está sendo proposto?

Ilves concorda com o ponto. O problema da identidade em um mundo agêntico, ele explica, tem duas camadas que ainda não têm respostas claras.

A primeira é simplesmente ter identificadores confiáveis anexados a humanos, credenciais verificáveis que não podem ser falsificadas por deepfakes. Ele cita a própria experiência da Estônia: não comprometimentos técnicos do sistema subjacente, mas credenciais sendo roubadas por phishing e usadas por criminosos. A biometria, ele argumenta, aborda exatamente esse problema: se houver uma verificação biométrica no ponto de uso, você sabe que a credencial está sendo usada pela pessoa certa. A Ucrânia teve a biometria incorporada em sua pilha de identidade digital desde o início.

A segunda camada é mais inovadora: quando o modo de interação não é mais um humano interagindo diretamente com um serviço, mas um agente agindo em nome desse humano, o que identidade sequer significa? “Agora que existe uma interação on-line, você precisa ser capaz de assumir que pode ser uma interação agêntica ou uma interação humana. E você precisa ser capaz de escalar para um ser humano a qualquer momento”, descreve Behaghel.

Os mesmos frameworks para delegação limitada que se aplicam a contadores ou advogados humanos – a capacidade de conceder autoridades específicas e limitadas em vez de acesso irrestrito – precisam se estender aos agentes. A Estônia está explorando ativamente como isso se parece tecnicamente: propostas foram levantadas para uma “residência de agente” modelada na e-residência, e para emitir códigos de identidade para agentes análogos aos códigos de identidade pessoal dados aos cidadãos.

A questão de se isso requer nova infraestrutura ou se pode aproveitar os sistemas existentes não está resolvida. Assim como a questão de se é uma função pública ou privada. Ilves é claro que provavelmente não é puramente público – padrões globais importarão, e intermediários privados desempenharão um papel significativo – mas é quase certo que há um papel público em certificar e orientar esses intermediários.

Barreiras de proteção: a resposta honesta é que ainda não chegamos lá

A seção final aborda a questão das barreiras de proteção diretamente: à medida que os agentes recebem mais autoridade para agir, como restringimos aqueles que dão errado?

Ilves é sincero ao dizer que ainda não há uma resposta. Ele enquadra a questão em termos de dois tipos de barreiras de proteção: aquelas incorporadas no próprio sistema agêntico e aquelas incorporadas no ambiente com o qual o sistema interage. O que podemos dizer é que as barreiras de proteção devem ser calibradas ao risco — a reversibilidade de uma decisão, seu impacto em pessoas físicas versus pessoas jurídicas e a gravidade de potenciais efeitos adversos. Ele gostaria de controles muito mais fortes para movimentar dinheiro do que para um processo regulatório onde um erro pode ser corrigido. A emissão de alvarás de construção, onde um erro tem consequências econômicas, exige barreiras de proteção diferentes de uma decisão que afeta o bem-estar médico ou financeiro imediato de alguém.

Mas os princípios abstratos, ele argumenta, só podem levar você até certo ponto. As respostas reais precisam vir empiricamente, da implantação desses sistemas de maneiras controladas em processos de menor risco, observando como os controles realmente funcionam na prática, aprendendo quais vieses cognitivos surgem na supervisão humana e iterando. Começar com as aplicações de maior risco é claramente errado. Mas esperar até que tudo esteja teoricamente resolvido também é.

Behaghel retoma o argumento sobre a formação do ambiente digital: a própria internet, a infraestrutura sobre a qual tudo aqui funciona, foi projetada por acadêmicos, não por atores comerciais, e isso importa. Ele é receoso de um mundo em que apenas os interesses comerciais moldem os padrões que governam as interações agênticas. Governos e instituições acadêmicas, ele acredita, precisam estar na sala onde esses padrões são definidos, não apenas serem consultados após o fato.

Ilves encerra com um contraponto que é claramente importante para ele: apesar de toda a discussão legítima sobre riscos, há um risco igualmente sério na não utilização. O potencial dos agentes para resolver os gargalos fundamentais em saúde, educação e serviços públicos – para fornecer suporte cognitivo e atenção personalizada que de outra forma exigiriam exércitos de profissionais – é realmente grande. “Eu não gostaria de voltar ao século XIX por todos os horrores do século XX”, diz ele, buscando uma analogia que captura o que está em jogo ao não adotar a tecnologia transformadora, juntamente com o desafio de gerenciar seus riscos.

Ouça o episódio completo

Este é o segundo episódio da Série Deepfakes do Veriff Voices. Ouça a conversa completa entre Hubert Behaghel e Luukas Ilves e fique ligado para mais episódios da série.