Fraude na era da IA agente: o que os lojistas de comércio eletrônico precisam saber

Quando a primeira loja de varejo de comércio eletrônico foi lançada em 1984, ela representou uma enorme oportunidade: os consumidores não precisavam mais sair de casa para fazer compras. À medida que os recursos de compras online cresceram, comprar de tudo, de roupas e móveis a medicamentos e muito mais, tornou-se rápido e conveniente. Hoje, os compradores raramente precisam pôr os pés em uma loja física. Esse fenômeno mudou radicalmente a forma como os varejistas operam.

O setor agora está diante de mais uma grande disrupção: a IA agente. O comércio eletrônico tornou as compras disponíveis com o apertar de um botão – mas, com a IA agente, os consumidores não precisam mais apertar botão algum; um bot fará as compras em seu nome.

O potencial da IA agente não vem sem consequências: o aumento da conveniência deve ser equilibrado com o aumento do risco de fraude. Então, como as plataformas podem manter seus clientes seguros e, ao mesmo tempo, continuar competitivas e inovadoras na corrida atual da IA agente?

O que é IA agente?

Quando a maioria das pessoas pensa em IA, pensa em IA generativa, que produz textos, imagens e código. A IA agente leva essas capacidades um passo adiante, usando o conteúdo gerado para realizar tarefas ou objetivos específicos e tomar decisões com supervisão limitada. Ela é composta por “agentes de IA” que imitam processos de tomada de decisão humanos para resolver problemas em tempo real.

No comércio eletrônico, isso geralmente assume a forma de um assistente de compras automatizado. Um exemplo recente é o recurso “Buy For Me” da Amazon, que permite que agentes de IA comprem produtos em nome de um usuário – mesmo que esses produtos não estejam na plataforma da Amazon. O novo recurso, que estreou em abril deste ano, demonstra o apelo crescente da IA agente no espaço de comércio eletrônico.

Qual é o possível impacto da IA agente no comércio eletrônico?

A indústria de comércio eletrônico de varejo já é gigantesca. A IA agente tem o potencial de impulsionar ainda mais as vendas, tornando as compras mais rápidas e convenientes para os consumidores.

De fato, a consultoria Edgar Dunn & Co. prevê que o valor do comércio impulsionado por IA disparará nos próximos 5 anos, de US$ 136 bilhões hoje para US$ 1,7 trilhão até 2030. Da mesma forma, o CEO do PayPal Alex Chriss previu que 25% dos gastos em comércio eletrônico podem ser conduzidos por agentes até 2030.

Quais são os riscos da IA agente no comércio eletrônico?

Por mais promissora que a IA agente pareça, ela introduz riscos igualmente significativos. Uma das questões mais urgentes é a questão da autoridade: como podemos verificar se um sistema de IA realmente tem permissão para agir em nome de um usuário humano, toda vez que faz uma compra?

Se os controles de autorização ou identidade forem fracos, agentes de IA podem ser explorados por agentes mal-intencionados de diversas maneiras:

• Personificação e roubo de identidade: fraudadores podem sequestrar ou imitar agentes de IA legítimos para fazer compras não autorizadas ou acessar dados sensíveis.

• Agentes de IA falsos: invasores podem criar agentes falsos que parecem confiáveis, mas são projetados para manipular transações, capturar credenciais ou redirecionar fundos.

• Lacunas de rastreabilidade: quando as decisões de IA não são devidamente registradas ou vinculadas a uma identidade humana específica, torna-se difícil auditar ações ou responsabilizar alguém, tornando investigações pós-fraude quase impossíveis.
  
• Escondendo-se à vista de todos: a IA agente permite que o consumidor comum use bots. Fraudadores há muito exploram bots em alto volume para impulsionar golpes em escala, e sites de comércio eletrônico podem ter dificuldade em acompanhar. É provável que os fraudadores tenham mais facilidade para se esconder à vista de todos em meio ao tráfego agente legítimo.

Soluções para lojistas de comércio eletrônico

À medida que a IA agente evolui, o mesmo deve acontecer com as ferramentas de verificação de identidade que mantêm as empresas e seus usuários em segurança. Hoje, a maioria dos sites de comércio eletrônico não possui a tecnologia avançada necessária para diferenciar entre agentes de compras de IA genuínos e aqueles controlados por impostores.

Estabelecer autoridade exige mais do que uma caixa de seleção de consentimento única. Envolve definir limites claros e específicos de contexto para o que a IA tem permissão para fazer, por quanto tempo e em quais circunstâncias. Essas permissões devem permanecer sob o controle do usuário. Cada decisão ou transação feita por um agente de IA deve ser rastreável até uma fonte humana verificada – tornando a infraestrutura de tecnologia de verificação de identidade crucial.

Estabelecer autoridade exige mais do que uma caixa de seleção de consentimento única. Envolve definir limites claros e específicos de contexto para o que a IA tem permissão para fazer, por quanto tempo e em quais circunstâncias. Essas permissões devem permanecer sob o controle do usuário. Cada decisão ou transação feita por um agente de IA deve ser rastreável até uma fonte humana verificada – tornando a infraestrutura de tecnologia de verificação de identidade crucial.

Hubert Behaghel Diretor de Produto e Tecnologia Veriff

O que fazer a seguir?

A IA agente marca não apenas uma nova fase na indústria de comércio eletrônico, mas um ponto de virada em como construímos e mantemos a confiança. O futuro dessa inovação depende da nossa capacidade de distinguir entre agentes autorizados e aqueles que agem com má intenção, e de garantir que cada decisão automatizada ainda possa ser rastreada até uma pessoa real. Em vez de recomeçar do zero, o progresso virá do fortalecimento dos sistemas de verificação de identidade dos quais já dependemos.