Fraude en la era de la IA agéntica: lo que los comerciantes de comercio electrónico deben saber

Cuando se introdujo la primera tienda minorista de comercio electrónico en 1984, presentó una enorme oportunidad: los consumidores ya no tenían que salir de sus casas para comprar. A medida que han crecido las capacidades de las compras en línea, adquirir desde ropa y muebles hasta medicamentos y más se ha vuelto rápido y conveniente. Hoy en día, los compradores rara vez tienen que poner un pie en una tienda física. Este fenómeno ha cambiado radicalmente la forma en que operan los minoristas.

La industria ahora se enfrenta a otra disrupción de gran impacto: la IA agéntica. El comercio electrónico hizo que las compras estuvieran disponibles con solo presionar un botón; pero con la IA agéntica, los consumidores ya ni siquiera tienen que presionar un botón, ya que un bot comprará en su nombre.

El potencial de la IA agéntica no está exento de consecuencias: el aumento de la comodidad debe equilibrarse con un mayor riesgo de fraude. Entonces, ¿cómo pueden las plataformas mantener a salvo a sus clientes y, al mismo tiempo, seguir siendo competitivas e innovadoras en la actual carrera por la IA agéntica?

¿Qué es la IA agéntica?

Cuando la mayoría de las personas piensan en IA, piensan en IA generativa, que produce texto, imágenes y código. La IA agéntica lleva estas capacidades un paso más allá al usar contenido generado para cumplir tareas u objetivos específicos y tomar decisiones con supervisión limitada. Consta de “agentes de IA” que imitan los procesos de toma de decisiones humanos para resolver problemas en tiempo real.

En el comercio electrónico, esto suele tomar la forma de un asistente de compras automatizado. Un ejemplo reciente es la función “Buy For Me” de Amazon, que permite a los agentes de IA comprar productos en nombre de un usuario, incluso si esos productos no están en la plataforma de Amazon. La nueva función, que debutó en abril de este año, demuestra el creciente atractivo de la IA agéntica en el espacio del comercio electrónico.

¿Cuál es el posible impacto de la IA agéntica en el comercio electrónico?

La industria minorista de comercio electrónico ya es enorme. La IA agéntica tiene el potencial de impulsar aún más las ventas al hacer que las compras sean más rápidas y convenientes para los consumidores.

De hecho, la consultora Edgar Dunn & Co. predice que el valor del comercio impulsado por IA se disparará en los próximos 5 años, de 136 mil millones de dólares hoy a 1,7 billones de dólares para 2030. De manera similar, el CEO de PayPal Alex Chriss ha pronosticado que el 25 % del gasto en comercio electrónico podría estar impulsado por agentes para 2030.

¿Cuáles son los riesgos de la IA agéntica en el comercio electrónico?

Por prometedora que sea la IA agéntica, también introduce riesgos igualmente significativos. Uno de los problemas más apremiantes es la cuestión de la autoridad: ¿Cómo podemos verificar que un sistema de IA realmente tiene permiso para actuar en nombre de un usuario humano cada vez que realiza una compra?

Si los controles de autorización o identidad son débiles, los actores maliciosos pueden explotar a los agentes de IA de varias maneras:

• Suplantación de identidad y robo de identidad: los estafadores podrían secuestrar o imitar agentes de IA legítimos para realizar compras no autorizadas o acceder a datos confidenciales.

• Agentes de IA falsos: los atacantes podrían crear agentes falsificados que parezcan confiables pero estén diseñados para manipular transacciones, recolectar credenciales o desviar fondos.

• Brechas de trazabilidad: cuando las decisiones de la IA no se registran adecuadamente ni se vinculan a una identidad humana específica, se vuelve difícil auditar acciones o responsabilizar a alguien, lo que hace que las investigaciones posteriores al fraude sean casi imposibles.
  
• Ocultarse a plena vista: la IA agéntica permite que el consumidor común use bots. Los estafadores han aprovechado bots en grandes volúmenes durante mucho tiempo para impulsar estafas a escala, y a los sitios de comercio electrónico puede resultarles difícil mantenerse al día. Es probable que los estafadores tengan más facilidad para ocultarse a plena vista entre el tráfico agéntico legítimo.

Soluciones para comerciantes de comercio electrónico

A medida que evoluciona la IA agéntica, también deben hacerlo las herramientas de verificación de identidad que mantienen a salvo a las empresas y a sus usuarios. Hoy en día, la mayoría de los sitios de comercio electrónico no cuentan con la tecnología avanzada necesaria para diferenciar entre agentes de compras de IA genuinos y aquellos controlados por impostores.

Establecer la autoridad requiere más que una casilla de verificación de consentimiento de una sola vez. Implica definir límites claros y específicos según el contexto sobre qué se le permite hacer a la IA, durante cuánto tiempo y bajo qué circunstancias. Estos permisos deben permanecer bajo el control del usuario. Cada decisión o transacción realizada por un agente de IA debe poder rastrearse hasta una fuente humana verificada, lo que hace que la tecnología de verificación de identidad sea una parte fundamental de la infraestructura.

Establecer la autoridad requiere más que una casilla de verificación de consentimiento de una sola vez. Implica definir límites claros y específicos según el contexto sobre qué se le permite hacer a la IA, durante cuánto tiempo y bajo qué circunstancias. Estos permisos deben permanecer bajo el control del usuario. Cada decisión o transacción realizada por un agente de IA debe poder rastrearse hasta una fuente humana verificada, lo que hace que la tecnología de verificación de identidad sea una parte fundamental de la infraestructura.

Hubert Behaghel Director de producto y tecnología Veriff

¿Qué hacer a continuación?

La IA agéntica marca no solo una nueva etapa en la industria del comercio electrónico, sino un punto de inflexión en cómo creamos y mantenemos la confianza. El futuro de esta innovación depende de nuestra capacidad para distinguir entre agentes autorizados y aquellos que actúan con malas intenciones, y de asegurarnos de que cada decisión automatizada aún pueda rastrearse hasta una persona real. En lugar de empezar desde cero, el progreso vendrá de fortalecer los sistemas de verificación de identidad en los que ya confiamos.