Fraude en la era de la IA agente: lo que los comerciantes de comercio electrónico deben saber

Cuando se introdujo la primera tienda minorista de comercio electrónico en 1984, presentó una gran oportunidad: los consumidores ya no tenían que salir de casa para comprar. A medida que crecieron las capacidades de compra en línea, adquirir desde ropa y muebles hasta medicamentos y más se volvió rápido y conveniente. Hoy en día, los compradores rara vez tienen que pisar una tienda física. Este fenómeno ha cambiado radicalmente la forma en que operan los minoristas.

La industria ahora se enfrenta a la culminación de otra gran disrupción: la IA agente. El comercio electrónico hizo que comprar fuera posible con solo presionar un botón, pero con la IA agente, los consumidores ni siquiera tienen que presionar un botón; un bot comprará en su nombre.

El potencial de la IA agente no viene sin consecuencias: la mayor conveniencia debe equilibrarse con un mayor riesgo de fraude. Entonces, ¿cómo pueden las plataformas mantener a sus clientes seguros mientras siguen siendo competitivas e innovadoras en la actual carrera de la IA agente?

¿Qué es la IA agente?

Cuando la mayoría de las personas piensa en IA, piensa en la IA generativa, que produce texto, imágenes y código. La IA agente lleva estas capacidades un paso más allá, utilizando contenido generado para cumplir tareas o metas específicas y tomar decisiones con supervisión limitada. Consiste en “agentes de IA” que imitan los procesos de toma de decisiones humanos para resolver problemas en tiempo real.

En el comercio electrónico, esto suele tomar la forma de un asistente de compras automatizado. Un ejemplo reciente es la función “Buy For Me” de Amazon, que permite a los agentes de IA comprar productos en nombre de un usuario, incluso si esos productos no están en la plataforma de Amazon. La nueva función, que debutó en abril de este año, demuestra el creciente atractivo de la IA agente en el espacio del comercio electrónico.

¿Cuál es el impacto potencial de la IA agente en el comercio electrónico?

La industria minorista de comercio electrónico ya es enorme. La IA agente tiene el potencial de aumentar aún más las ventas al hacer que comprar sea más rápido y conveniente para los consumidores.

De hecho, la consultora Edgar Dunn & Co. predice que el valor del comercio impulsado por IA aumentará en los próximos 5 años, de $136 mil millones hoy a $1.7 billones para 2030. De manera similar, el Director Ejecutivo de PayPal, Alex Chriss, ha pronosticado que el 25% del gasto en comercio electrónico podría estar impulsado por agentes para 2030.

¿Cuáles son los riesgos de la IA agente en el comercio electrónico?

Por prometedora que sea la IA agente, introduce riesgos igualmente significativos. Una de las cuestiones más urgentes es la cuestión de la autoridad: ¿Cómo podemos verificar que un sistema de IA realmente tiene permiso para actuar en nombre de un usuario humano, cada vez que realiza una compra?

Si los controles de autorización o identidad son débiles, los actores malintencionados pueden explotar a los agentes de IA de varias maneras:

• Suplantación y robo de identidad: Los defraudadores podrían secuestrar o imitar agentes legítimos de IA para realizar compras no autorizadas o acceder a datos sensibles.

• Agentes falsos de IA: Los atacantes podrían crear agentes falsificados que parecen confiables pero están diseñados para manipular transacciones, obtener credenciales o redirigir fondos.

• Brechas de trazabilidad: Cuando las decisiones de IA no se registran adecuadamente ni se vinculan a una identidad humana específica, se vuelve difícil auditar acciones o responsabilizar a alguien, haciendo casi imposible las investigaciones posteriores al fraude.
  
• Ocultarse a simple vista: La IA agente permite que el consumidor común use bots. Los defraudadores han utilizado bots en grandes volúmenes durante mucho tiempo para impulsar estafas a gran escala, y los sitios de comercio electrónico pueden tener dificultades para mantenerse al día. Probablemente, los defraudadores tendrán más facilidad para ocultarse entre el tráfico legítimo de agentes.

Soluciones para comerciantes de comercio electrónico

A medida que la IA agente evoluciona, también deben hacerlo las herramientas de verificación de identidad que mantienen seguros a los negocios y sus usuarios. Hoy en día, la mayoría de los sitios de comercio electrónico no cuentan con la tecnología avanzada necesaria para diferenciar entre agentes de compras de IA genuinos y aquellos controlados por impostores.

Establecer autoridad requiere más que una casilla de consentimiento única. Implica definir límites claros y específicos según el contexto sobre lo que la IA puede hacer, por cuánto tiempo y bajo qué circunstancias. Estos permisos deben permanecer bajo el control del usuario. Cada decisión o transacción realizada por un agente de IA debe poder rastrearse hasta una fuente humana verificada, lo que hace que la infraestructura tecnológica de verificación de identidad sea crucial.

Establecer autoridad requiere más que una casilla de consentimiento única. Implica definir límites claros y específicos según el contexto sobre lo que la IA puede hacer, por cuánto tiempo y bajo qué circunstancias. Estos permisos deben permanecer bajo el control del usuario. Cada decisión o transacción realizada por un agente de IA debe poder rastrearse hasta una fuente humana verificada, lo que hace que la infraestructura tecnológica de verificación de identidad sea crucial.

Hubert Behaghel Director de producto y tecnología Veriff

¿Qué viene después?

La IA agente no solo marca una nueva etapa en la industria del comercio electrónico, sino un punto de inflexión en cómo construimos y mantenemos la confianza. El futuro de esta innovación depende de nuestra capacidad para diferenciar entre agentes autorizados y aquellos que actúan con malas intenciones, y asegurar que cada decisión automatizada pueda rastrearse hasta una persona real. En lugar de empezar desde cero, el progreso vendrá del fortalecimiento de los sistemas de verificación de identidad en los que ya confiamos.