Los ‘faceswaps’ superan la detección humana. La revisión manual no es suficiente.

Les pedimos a las personas que identificaran deepfakes. Sabían que había imágenes falsas en el conjunto y las estaban buscando. Aún así, a la mayoría le costó, y sentirse seguro de una respuesta no los hizo más propensos a acertar.

Ese resultado de nuestro Cuestionario sobre Deepfakes es importante más allá del propio cuestionario. En más de 8,000 sesiones, los jugadores acertaron en promedio solo el 63 % de las imágenes, no muy por encima del 50 % que se obtendría adivinando. Tres de cada 10 personas no obtuvieron mejores resultados que al lanzar una moneda, y solo 1 de cada 40 acertó las 12. La confianza tampoco ayudó: más de 1 de cada 4 personas que dijeron estar «completamente seguras» no obtuvieron mejores resultados que el azar.

Los faceswaps son el aspecto más crítico de este problema. A continuación, se explora por qué los faceswaps son cada vez más eficaces, por qué la revisión manual tiene dificultades para seguir el ritmo y cómo una defensa por capas y en tiempo real puede ayudar a detectarlos y prevenirlos.

Tres cosas cambiaron a la vez

En el último año, se produjeron tres cambios al mismo tiempo. Cualquiera de ellos por sí solo dificultaría un flujo de verificación. Juntos, rompen los supuestos sobre los que se construyó la mayoría de los flujos.

1. Las herramientas mejoraron y se abarataron. Hace un año, un faceswap convincente requería verdadera habilidad. Ahora, las aplicaciones para consumidores lo hacen en tiempo real en un teléfono común.

2. El ataque se trasladó al interior de la cámara. Sostener una foto o usar una máscara es un ataque de presentación, y las verificaciones de vida se diseñaron para ello. Los ataques de inyección son diferentes. Una cámara virtual o un emulador introduce video sintético directamente en el canal de la cámara, por lo que el modelo de vida nunca ve un artefacto físico. Lo que ve es una transmisión digital limpia.

3. El fraude se convirtió en una operación. Las redes de estafadores ahora dirigen las sesiones como una línea de producción, utilizando bots de aplicaciones de mensajería para guiar a personas reales en cada paso de la verificación. La persona está en vivo, el rostro es real y el dispositivo es real. La prueba de vida se supera. Y a menudo, la revisión manual también.

El volumen hace que este sea un problema operativo, no solo técnico. Se estima que en 2025 se compartieron en línea 8 millones de deepfakes, un gran aumento desde los 500,000 de 2023, según cifras del gobierno del Reino Unido. Solo en los centros de contacto, los intentos de fraude con deepfakes aumentaron más de un 1,300 % en 2024, según el análisis de 1,200 millones de llamadas de Pindrop. A esa escala, no puedes solucionarlo solo con revisiones.

Por qué es tan difícil detectar los faceswaps

Los faceswaps son más difíciles de detectar porque casi todo en ellos es real. Las caras totalmente sintéticas y los clones de voz todavía dejan pistas: los bordes del cabello, la consistencia de los contornos y los dientes. Un faceswap parte de un video real de una persona real y reemplaza solo el rostro.

El fondo es real. La iluminación es real. El lenguaje corporal es real. La única parte sintética es el rostro, y es exactamente ahí donde los modelos de generación han mejorado más.

Los sistemas automatizados se enfrentan al mismo problema. Hace un año, los artefactos de compresión y los bordes difuminados delataban la mayoría de los faceswaps. Hoy, las mejores herramientas producen resultados que se confunden con el ruido de la cámara de un teléfono de baja calidad. Cualquier señal de detección única ahora puede ser manipulada, por lo que la detección debe basarse en varias a la vez.

Detecta deepfakes. Protégete contra la coerción.

Descubre cómo la Verificación de presencia de Veriff ayuda a detectar deepfakes e identificar señales de coacción a través de un análisis de sesión avanzado y en tiempo real.

Explora la Verificación de presencia

Confianza no es precisión: el límite de la revisión manual

El resultado del cuestionario confirma lo que vemos durante las verificaciones en vivo. La confianza y la precisión ya no van de la mano. Un revisor con experiencia es bueno reconociendo patrones, pero fue entrenado con las falsificaciones del año pasado, y las herramientas avanzan más rápido de lo que la intuición puede seguir.

Ni siquiera los especialistas capacitados están siempre de acuerdo. Cuando los equipos de fraude y calidad con experiencia revisan las mismas sesiones, a veces llegan a conclusiones distintas sobre si un rostro es sintético. Si los especialistas no se ponen de acuerdo, no es realista pedir al equipo de operaciones de un banco que detecte faceswaps a gran escala.

El volumen y la velocidad lo hacen aún más difícil:

• Capacidad: el volumen de ataques crece más rápido de lo que cualquier equipo de revisión puede manejar.
• Falsa confianza: los revisores pasan por alto las falsificaciones incluso cuando creen que las están detectando.
• Latencia: para cuando una persona lo revisa, el pago, la transferencia o la creación de la cuenta a menudo ya se han realizado.

Dónde la revisión manual aún tiene su lugar

Las personas aportan contexto y criterio que los modelos no tienen. Cuando una decisión automatizada no es concluyente, un revisor puede evaluar en conjunto el documento, la sesión y el historial de la cuenta. La revisión también es importante para los casos límite en los que un rechazo erróneo es costoso, como cuando se le bloquea a un cliente real el acceso a su propia cuenta durante la recuperación.

La revisión no debe ser la principal línea de defensa en flujos de alto volumen y en tiempo real. En esos casos, debe encargarse de las excepciones que marca la automatización, no de llevar toda la carga.

Cerrando la brecha con capas

Ninguna verificación por sí sola puede detener los faceswaps. Por eso, una detección eficaz se basa en múltiples señales que funcionan juntas en tiempo real. La Verificación de presencia combina estas verificaciones, incluida la detección de ataques de inyección, para identificar y prevenir los intentos de faceswap.

La prueba de vida responde a una pregunta: ¿hay un rostro humano en vivo frente a la cámara en este momento? La Verificación de presencia responde a una más importante: ¿es esta una persona real, que actúa por sí misma, en este preciso momento? Analiza toda la sesión, lo que incluye el dispositivo, la señal de la cámara, el video, el audio y los patrones entre sesiones.

La detección de faceswap se encuentra dentro de la Verificación de presencia, como parte de la detección de ataques de inyección. Su objetivo es atrapar los medios sintéticos antes de que lleguen al modelo de vivacidad.

Tres niveles de señales

1. La puerta de entrada: integridad del dispositivo y detección de inyecciones. Estas verificaciones se realizan antes de capturar la selfi. ¿Es un dispositivo real o un emulador? ¿La transmisión de la cámara es genuina o un software está inyectando video sintético? Si fallan, la sesión es rechazada de inmediato, sin ninguna imagen que procesar.

2. Captura: detección pasiva de vivacidad y de deepfakes. Analizamos 100 fotogramas de video pasivo en menos de dos segundos, sin darte ninguna instrucción. Esto atrapa los ataques de presentación y los medios sintéticos que superaron la puerta de entrada.

3. Sesión: intención, coacción y patrones entre sesiones. Las pistas de audio y video muestran si alguien actúa libremente o si está siendo instruido. Las señales entre sesiones, como la velocidad, la actividad en múltiples dispositivos y los patrones de granjas de cuentas, muestran cuándo una operación está detrás de muchas cuentas.

Por qué importa el filtro

Detener los emuladores y las cámaras virtuales antes de la selfie logra dos cosas. Es más barato, porque no hay ninguna imagen que procesar o almacenar. Y lo que es más importante, hace que las granjas de bots dejen de ser rentables. Si cada intento necesita un dispositivo real en lugar de una de las cientos de instancias de emuladores, el costo de cada cuenta fraudulenta aumenta drásticamente.

La conclusión

El modelo de amenaza ha cambiado y la mayoría de las defensas se han quedado atrás. Los faceswaps y las sesiones instruidas superan las pruebas de vida. La revisión manual no da abasto contra los ataques generados por IA, y la confianza de un revisor es un mal indicador de la precisión.

La respuesta es por capas: integridad del dispositivo, detección de inyecciones, prueba de vida pasiva, señales a nivel de sesión e inteligencia entre sesiones, todo en tiempo real. Antes del pago, antes de la transferencia, antes de que la cuenta se vea comprometida.

Eso es la Verificación de presencia. No es una mejor prueba de vida, sino un tipo de defensa diferente.

Mira cómo la Verificación de presencia se adapta a tu flujo. Reserva una demo.