Cómo Veriff está construyendo confianza al abordar el sesgo

En Veriff, estamos orgullosos de la diversidad de nuestro equipo, con oficinas en Europa, Gran Bretaña y América que cuentan con profesionales de más de 40 países diferentes. Es vital que abarquemos una variedad de orígenes y perspectivas para lograr nuestra misión: crear una plataforma que permita a los usuarios honestos de todo el mundo acceder a servicios en línea de manera rápida, segura y fluida.

Hacemos grandes esfuerzos para encontrar el mejor talento que enriquezca tanto nuestra cultura organizacional como nuestra oferta a los usuarios. Sin embargo, Veriff no existe en un vacío; según investigaciones recientes, el sector tecnológico en Estonia (nuestra sede corporativa) tiene tres hombres por cada mujer profesional.

Estas disparidades pueden entenderse como un resultado del sesgo, donde las personas tienen una preferencia desproporcionada hacia otras personas o cosas, incluyendo rasgos como la etnicidad, la edad o el género. Muchas personas son conscientes de algunos de sus sesgos personales, pero el sesgo inconsciente ocurre sin que ellos sean conscientes de sus propios prejuicios.

El sesgo humano se forma a partir de diferentes factores, como la educación, la cultura y el entorno. En términos sencillos, todos los humanos tienen algún tipo de sesgo; una promesa de larga data de la tecnología innovadora ha sido la idea de que la automatización puede permitir una mayor objetividad y claridad, con el objetivo de resultados más justos para los usuarios. Sin embargo, tendencias recientes han demostrado que el sesgo puede existir en la tecnología innovadora de varias maneras.

Por ejemplo, tomemos el caso real de una herramienta de reclutamiento automatizada abandonada utilizada por un importante minorista en línea. El objetivo de la herramienta de reclutamiento era filtrar CVs y encontrar a los mejores candidatos para puestos técnicos, pero la herramienta eligió solo hombres. Muchas de las empresas más grandes del mundo tienen una fuerza laboral de ingeniería predominantemente masculina, y estas fuerzas laborales son de donde se extraen muchos de los datos para estas herramientas, por lo que el sistema automatizado aprendió que los hombres eran preferibles para los roles.

Podemos ver que muchos usuarios enfrentan un trato injusto al utilizar un servicio automatizado. Veriff utiliza principalmente la automatización para validar usuarios, pero también emplea especialistas humanos. Para eliminar tanto sesgo humano como sea posible, controlamos la decisión de verificación mapeando casos de uso de verificación históricos y acordando procesos más amplios. Como parte del control de calidad, garantizamos control al instituir una prueba de alineación que controla cómo diferentes personas responden diferentes preguntas y asegura que las respuestas estén alineadas y sean consistentes.

Monitoreamos los sesgos como parte de nuestro proceso general de control de calidad debido al riesgo de errores. La tarea del control de calidad es revisar un porcentaje definido de sesiones de verificación diariamente con el objetivo de detectar errores. Las sesiones enviadas para revisión se seleccionan aleatoriamente de todas las sesiones, pero existen controles para recibir un número representativo de sesiones de usuarios en función de su país, tipos de documentos, clientes y si la sesión fue completada por automatización o por especialistas.

Este proceso de revisión asegura que podamos detectar errores en nuestras decisiones rápidamente. La producción del proceso de aseguramiento de calidad se rastrea semanalmente como un KPI interno clave. Los problemas encontrados durante el proceso de control de calidad son luego reportados por los equipos relevantes, quienes los priorizan y toman medidas pertinentes para evitar errores futuros.

El sesgo en las decisiones automáticas depende principalmente de los datos utilizados para el entrenamiento. Veriff entrena modelos con datos reales de clientes que han otorgado permiso. El uso de datos en vivo asegura que tenemos una buena cobertura de una variedad de sesgos documentados en el conjunto de entrenamiento. Trabajamos para que cubramos diferentes casos de uso con los datos y lo controlamos periódicamente. Nos aseguramos de no sobreajustar diferentes casos controlando cuántos datos tenemos para un caso en un conjunto de entrenamiento.

Otro riesgo que necesita ser abordado y tratado es el sesgo documental. El sesgo documental ocurre debido a la realidad de que los documentos de identidad varían considerablemente entre diferentes países, con factores que incluyen el idioma, las características de seguridad, la calidad de la fotografía y más. Sin embargo, Veriff trabaja para asegurarse de que esto no se convierta en una barrera para validar a usuarios honestos.

Por ejemplo, hemos construido una base de datos de especímenes líder en el mercado, capaz de procesar más de 12,000 tipos de documentos de 230 países. Nuestro equipo actualiza regularmente la base de datos a medida que se emiten nuevos tipos de identificación y se mejoran los tipos de documentos existentes.

Estamos constantemente actualizando nuestros procesos basados en mejores prácticas, nuevas investigaciones e ideas de nuestro equipo. Tener un equipo internacional y multiétnico es invaluable para eliminar el sesgo dentro de nuestras operaciones automatizadas y humanas. Los miembros del equipo podrán abordar los sesgos inconscientes de los demás y llamar la atención sobre una variedad de necesidades de los usuarios, mientras que un enfoque en la neurodiversidad ayuda a innovar procesos. A medida que Veriff sigue expandiéndose, esperamos continuar promoviendo la diversidad como un valor fundamental y uno que beneficia a nuestra base de usuarios.

Otra forma en que Veriff está trabajando para reducir el sesgo es construyendo un sistema de reconocimiento facial interno. Al crear nuestro propio modelo, podemos entrenarlo utilizando nuestros propios datos y podemos hacer que las anotaciones sean realizadas por nuestros propios equipos. Estamos buscando crear un modelo que sea más preciso, intuitivo para el usuario y menos propenso a cometer errores.

En resumen, Veriff busca utilizar lo mejor que la tecnología tiene para ofrecer así como la opción de control de calidad humano. Dicho esto, necesitamos encontrar el equilibrio adecuado entre precisión y automatización; si solo perseguimos lo primero, podemos generar más verificaciones, pero tomará más tiempo, será menos amigable para el usuario y difícil de escalar. Si solo optáramos por lo segundo, correríamos el riesgo de mayores fallos en las verificaciones y falta de revisión sobre posibles sesgos en desarrollo. El sesgo puede ser siempre un hecho de la vida en humanos y máquinas, pero en Veriff nos enfocamos en reducirlo tanto como sea posible para beneficiar a nuestros usuarios y lograr nuestra misión.