Fraude na era da IA agente: O que os comerciantes de comércio eletrônico precisam saber

Quando a primeira loja de comércio eletrônico de varejo foi lançada em 1984, ela apresentou uma enorme oportunidade: os consumidores não precisavam mais sair de casa para fazer compras. À medida que as capacidades de compras online cresceram, adquirir desde roupas e móveis até medicamentos e mais tornou-se rápido e conveniente. Hoje, os compradores raramente precisam entrar em uma loja física. Esse fenômeno mudou radicalmente a forma como os varejistas operam.

A indústria agora está diante de mais uma grande disrupção: a IA agente. O comércio eletrônico tornou as compras disponíveis com o apertar de um botão – mas com a IA agente, os consumidores nem sequer precisam apertar um botão; um robô fará compras em seu nome.

O potencial da IA agente não vem sem consequências: maior conveniência deve ser equilibrada com maior risco de fraude. Então, como as plataformas podem manter seus clientes seguros ao mesmo tempo em que permanecem competitivas e inovadoras na corrida atual da IA agente?

O que é IA agente?

Quando a maioria das pessoas pensa em IA, pensa em IA generativa, que produz texto, imagens e código. A IA agente leva essas capacidades um passo além, usando conteúdo gerado para realizar tarefas ou metas específicas e tomar decisões com supervisão limitada. Consiste em “agentes de IA” que imitam processos de tomada de decisão humanos para resolver problemas em tempo real.

No comércio eletrônico, isso frequentemente se manifesta como um assistente de compras automatizado. Um exemplo recente é o recurso “Comprar Para Mim” da Amazon, que permite que agentes de IA comprem produtos em nome do usuário – mesmo que esses produtos não estejam na plataforma Amazon. O novo recurso, lançado em abril deste ano, demonstra o apelo crescente da IA agente no espaço do comércio eletrônico.

Qual é o impacto potencial da IA agente no comércio eletrônico?

A indústria de comércio eletrônico varejista já é enorme. A IA agente tem o potencial de impulsionar ainda mais as vendas, tornando as compras mais rápidas e convenientes para os consumidores.

De fato, a consultoria Edgar Dunn & Co. prevê que o valor do comércio impulsionado por IA aumentará nos próximos 5 anos, de $136 bilhões hoje para $1,7 trilhão até 2030. Da mesma forma, o CEO da PayPal Alex Chriss previu que 25% dos gastos no comércio eletrônico poderão ser conduzidos por agentes até 2030.

Quais são os riscos da IA agente no comércio eletrônico?

Por mais promissora que seja a IA agente, ela introduz riscos igualmente significativos. Uma das questões mais urgentes é a autoridade: Como podemos verificar se um sistema de IA realmente tem permissão para agir em nome de um usuário humano, toda vez que faz uma compra?

Se os controles de autorização ou identidade forem fracos, agentes mal-intencionados podem explorar agentes de IA de várias maneiras:

• Impersonação e roubo de identidade: Fraudadores podem sequestrar ou imitar agentes legítimos de IA para fazer compras não autorizadas ou acessar dados sensíveis.

• Agentes de IA falsos: Atacantes podem criar agentes falsificados que parecem confiáveis, mas são projetados para manipular transações, coletar credenciais ou redirecionar fundos.

• Falhas de rastreabilidade: Quando decisões da IA não são registradas corretamente ou vinculadas a uma identidade humana específica, torna-se difícil auditar ações ou responsabilizar alguém, dificultando investigações pós-fraude.
  
• Escondendo-se à vista de todos: A IA agente permite que o consumidor comum use bots. Fraudadores há muito tempo utilizam bots em grande volume para realizar golpes em escala, e os sites de comércio eletrônico podem ter dificuldade para acompanhar. Provavelmente, fraudadores terão mais facilidade em se esconder à vista de todos em meio ao tráfego legítimo da IA agente.

Soluções para comerciantes de comércio eletrônico

À medida que a IA agente evolui, as ferramentas de verificação de identidade que mantêm empresas e usuários seguros também devem evoluir. Hoje, a maioria dos sites de comércio eletrônico não possui a tecnologia avançada necessária para diferenciar entre agentes genuínos de IA para compras e aqueles controlados por impostores.

Estabelecer autoridade requer mais do que uma caixa de consentimento única. Envolve definir limites claros e específicos ao contexto sobre o que a IA está autorizada a fazer, por quanto tempo e sob quais circunstâncias. Essas permissões devem permanecer sob o controle do usuário. Cada decisão ou transação feita por um agente de IA deve ser rastreável até uma fonte humana verificada – tornando a infraestrutura tecnológica de verificação de identidade crucial.

Estabelecer autoridade requer mais do que uma caixa de consentimento única. Envolve definir limites claros e específicos ao contexto sobre o que a IA está autorizada a fazer, por quanto tempo e sob quais circunstâncias. Essas permissões devem permanecer sob o controle do usuário. Cada decisão ou transação feita por um agente de IA deve ser rastreável até uma fonte humana verificada – tornando a infraestrutura tecnológica de verificação de identidade crucial.

Hubert Behaghel Diretor de Produto e Tecnologia Veriff

O que vem a seguir?

A IA agente marca não apenas uma nova fase na indústria do comércio eletrônico, mas um ponto de virada em como construímos e mantemos a confiança. O futuro dessa inovação depende da nossa capacidade de diferenciar entre agentes autorizados e aqueles agindo com intenções maliciosas, e de garantir que cada decisão automatizada possa ser rastreada até uma pessoa real. Em vez de começar do zero, o progresso virá do fortalecimento dos sistemas de verificação de identidade em que já confiamos.