Cómo Veriff está abordando el sesgo en la verificación de identidad

El sesgo en la tecnología debe ser reconocido y contrarrestado en cada momento, de lo contrario, los clientes genuinos se verán privados de acceso a bienes y servicios de manera discriminatoria. La Gerente de Producto Senior de Veriff, Liisi Soots, explica la importancia de eliminar el sesgo en nuestros productos y nuestros métodos para lograrlo.

En un mundo cada vez más digital, es imperativo que las herramientas digitales que las personas usan a diario activen la localización y eliminación de sesgos. Esto se debe a que las tecnologías sesgadas tienen implicaciones negativas en el mundo real, ya que las personas pueden ser injustamente privadas de acceso a servicios o experimentar discriminación; desde empleo hasta justicia penal, se ha expuesto que el sesgo está incrustado en muchos sectores durante varios años. Además, existen riesgos financieros, legales y de reputación sustanciales para las empresas que se exponen por tener sesgos en su tecnología.

El sesgo puede estar presente a través de la forma en que una persona interactúa con un sistema; por ejemplo, si una persona tiene que comprender o seguir instrucciones complejas, esto podría ser un sesgo hacia las personas con limitaciones cognitivas. Además, si un proceso requiere movimiento físico, como manipular un dispositivo, esto puede representar sesgo contra las personas con movilidad física limitada, a menudo los ancianos. Si un sistema solo funciona en tecnología nueva – a menudo la más cara – esto presenta un sesgo contra las personas con recursos financieros limitados

En cuanto a herramientas digitales innovadoras, gracias a su usabilidad, capacidad de escalar y efectividad para prevenir el fraude, las empresas están adoptando cada vez más la verificación de identidad (IDV) para el proceso de incorporación de clientes. Como líder en la industria de IDV, Veriff se compromete a crear acceso equitativo a bienes, productos y servicios para personas de todo el mundo.

Sin embargo, reconocer y abordar los sesgos en la IDV es esencial para crear sistemas justos y precisos que no sean discriminatorios. Para detallar nuestro compromiso de abordar el sesgo, nos reunimos con nuestra Gerente Senior de Producto, Liisi Soots, para exponer sus opiniones sobre qué es el sesgo, cómo se puede encontrar el sesgo en la tecnología y pasos concretos para reducirlo.

¿Puedes definir el concepto de sesgo y cómo surge?

Vemos el sesgo en la vida cotidiana cuando una persona favorece o desfavorece injustamente a una persona, idea, objeto u otro asunto, mostrando una perspectiva sesgada. Puede estar influenciado por factores como la crianza, el entorno diario, el grupo social o la cultura. Para dar un ejemplo, para muchas personas en culturas occidentales, el término ‘vestido de novia’ evoca un vestido blanco y un velo, pero no todas las culturas asociarían eso como un ‘vestido de novia’.

Al hablar de sesgo en el aprendizaje automático, debemos considerar si los sistemas tienen sesgo a favor o en contra de las personas debido a factores como la edad, raza, género o discapacidad. Un sistema podría funcionar mejor para niños y no tan bien con personas mayores, o viceversa. La existencia de sesgo pone a las personas en riesgo real de discriminación basada en características sobre las cuales no tienen control, por lo que debe ser abordado seriamente.

¿Cuáles son los diferentes tipos de sesgo que vemos en el espacio de IDV y por qué son problemáticos para nuestros clientes?

Además de los sesgos de edad, raza y género, en IDV debemos ser conscientes de situaciones específicas donde puede ocurrir sesgo, como qué tipo de documento de identidad o dispositivo personal está utilizando un individuo. Por ejemplo, no todos pueden permitirse los últimos teléfonos móviles de alta gama que pueden tomar una imagen de alta resolución. En Veriff, ya apoyamos una amplia variedad de documentos de identificación y dispositivos, y continuamos ampliando el alcance para que más personas genuinas puedan ser verificadas en línea.

Veriff opera en muchos países e industrias diferentes, lo que significa que nuestras soluciones de IDV deben poder ser utilizadas por un amplio espectro de personas. Como parte de nuestros procesos de aseguramiento de calidad, monitoreamos regularmente cómo están funcionando nuestras soluciones con diferentes grupos de personas, por ejemplo, si estamos funcionando de manera similar para hombres y para mujeres.

Veriff opera en muchos países e industrias diferentes, lo que significa que nuestras soluciones de IDV deben poder ser utilizadas por un amplio espectro de personas.

Liisi Soots

Lo que estamos tratando de mitigar es una diferencia en el rendimiento; por ejemplo, según el género, asegurando que las mujeres pasen por nuestro flujo de IDV tanto como los hombres, asegurándonos de que no las estamos bloqueando, ni a personas de diferentes razas. Esto es para que nuestro sistema sea equitativo hacia todos, sin importar de dónde sean o cómo se vean

Para las empresas de hoy, es vital asegurar que puedan incorporar clientes genuinos de todo el mundo. No hacerlo limita la capacidad de la empresa para escalar, expandirse en nuevos mercados, y crea el riesgo de daños financieros o de reputación si los clientes se ven afectados por sesgo.

¿Cómo dirías que el sesgo afecta al aprendizaje automático?

Los sistemas, incluidos los modelos de aprendizaje automático, son construidos por humanos, por lo tanto, el sesgo que tienen los humanos se propaga naturalmente a todos los sistemas que estamos construyendo. Los modelos de aprendizaje automático deben ser creados utilizando las mejores prácticas posibles. Entrenamos nuestros modelos con una amplia variedad de datos, asegurándonos de reunir diferentes casos regulares y extremos

Si alguna de estas áreas tenía sesgo incorporado, por ejemplo, al usar solo un conjunto de datos limitado construido a partir de una población restringida o creado por individuos que solo tuvieron exposición a culturas limitadas, entonces hay un riesgo de introducir sesgo en los algoritmos. Veriff es constantemente consciente del riesgo de introducir sesgo en nuestros sistemas y tratamos conscientemente de mitigar el riesgo monitoreando nuestro desempeño y actuando cuando surgen problemas.

El sesgo en el aprendizaje automático es más relevante que cuando tenemos sesgo en humanos, ya que estamos usando modelos para tomar miles de decisiones diariamente. Nosotros como humanos no tomamos miles de decisiones al día. Con el aprendizaje automático, estamos propagando el sesgo a un contexto más amplio. No queremos que los sistemas estén sesgados, ni que discriminen a algunas personas. Estamos midiendo cómo estamos funcionando para diferentes grupos raciales y géneros y debemos asegurarnos de que estamos funcionando de manera equitativa.

Decisiones rápidas

Experience and expertise

Experiencia simple

Retroalimentación en vivo con menos pasos que aprueba al 95% de los usuarios en el primer intento.

Cobertura de documentos

Cobertura sin paralelo y en crecimiento de más de 12.000 identificaciones emitidas por el gobierno.

Más conversiones

The entire Veriff team from a highly-trained Verification Specialists, our experienced and specialized legal team, and document specialists can help you provide an exceptional service to your users.

Alta detección de fraudes

Además de la velocidad, la detección de fraudes impulsada por datos es consistente, auditable y detecta de manera confiable formas fraudulentas de identificación.

Escalabilidad y crecimiento

El POA de Veriff puede crecer con las necesidades de su empresa y mantenerse al día con tiempos de mayor demanda de usuarios.

¿Qué pueden hacer las empresas para eliminar el sesgo o mitigar el riesgo de sesgo?

Existen múltiples métodos para eliminar el sesgo. El primero es los datos con los que entrenamos: qué datos estamos ingresando al modelo y cómo obtenemos los datos. Es realmente importante asegurarse de que los datos no estén sesgados, que no tengamos datos solo de hombres blancos, sino que tengamos datos de diferentes grupos raciales y estén distribuidos equitativamente.

Es importante que tengamos una variedad diversa de profesionales, como científicos de datos y anotadores, de diferentes orígenes trabajando con los datos, porque ellos plantean diferentes preguntas y aseguran que los datos estén preparados adecuadamente. Por último, podemos eliminar el sesgo y mitigarlo asegurándonos de que somos conscientes de él, de que estamos midiendo cuánto sesgo tenemos en nuestros modelos y realizando cambios para garantizar alta calidad

Veriff utiliza la verificación manual de documentos junto con el aprendizaje automático en el proceso de IDV. ¿Esto ayuda a eliminar el sesgo?

Integrar el flujo automático y manual ayuda a garantizar que brindemos el mejor servicio al mundo. Si no estamos seguros de una decisión automatizada, nuestros especialistas altamente capacitados pueden verificar la decisión cuando lo solicitamos. Si la investigación identifica algún error en la decisión del algoritmo, la respuesta se retroalimenta al sistema como parte de un proceso de mejora continua.

¿Qué tan cerca está Veriff de lograr el «cero sesgo»?

En términos matemáticos, ningún sistema puede tener cero sesgo. El enfoque más importante es asegurarnos de que, como una empresa tecnológica líder, monitoreemos continuamente nuestros sistemas en busca de cualquier evidencia de sesgo. Si alguna vez se encuentra esto, nos aseguramos de tener un proceso para mitigar y rectificar rápidamente cualquier problema. Además, hay nuevas leyes que están entrando en vigor que también regulan el sesgo en el aprendizaje automático y las mediciones.