Como a Veriff está construindo confiança enfrentando o viés

Na Veriff, temos orgulho da diversidade de nossa equipe, com nossos escritórios na Europa, Reino Unido e Estados Unidos compostos por profissionais provenientes de mais de 40 países diferentes. É vital que abranjamos uma variedade de origens e perspectivas para alcançar nossa missão: criar uma plataforma que permita a usuários honestos de todo o mundo acessar serviços online de forma rápida, segura e sem esforço.

Fazemos grandes esforços para encontrar os melhores talentos que possam aprimorar tanto nossa cultura organizacional quanto nossa oferta para os usuários. No entanto, a Veriff não existe em um vácuo; de acordo com pesquisas recentes, o setor de tecnologia na Estônia (nossa sede corporativa) tem três profissionais do sexo masculino para cada uma do sexo feminino.

Essas disparidades podem ser compreendidas como resultado de viés, onde as pessoas têm uma favorabilidade ou desfavorabilidade desproporcional em relação a outras pessoas ou coisas, incluindo características como etnia, idade ou gênero. Muitas pessoas estão cientes de alguns de seus vieses pessoais, mas o viés inconsciente ocorre sem que estejam cientes de seu próprio preconceito.

O viés humano é formado a partir de uma série de fatores diferentes, como criação, cultura e ambiente. Para ser direto, todos os humanos têm alguma forma de viés; uma promessa de longa data da tecnologia inovadora tem sido a ideia de que a automação pode permitir uma maior objetividade e clareza, com o objetivo de resultados mais justos para os usuários. No entanto, tendências recentes provaram que o viés pode existir na tecnologia inovadora de várias maneiras.

Por exemplo, pegue o caso real de uma ferramenta de recrutamento automatizada abandonada usada por um grande varejista online. O objetivo da ferramenta de recrutamento era filtrar currículos e encontrar os principais candidatos para posições técnicas — mas a ferramenta selecionava apenas homens. Muitas das maiores empresas do mundo têm forças de trabalho predominantemente masculinas na engenharia, e essas forças de trabalho são de onde muitos dos dados para essas ferramentas são extraídos, portanto, o sistema automatizado aprendeu que os homens eram preferíveis para essas funções.

Podemos ver que muitos usuários enfrentam tratamento injusto ao usar um serviço automatizado. A Veriff utiliza principalmente automação para validar usuários, mas também emprega especialistas humanos. Para eliminar tanto quanto possível o viés humano, controlamos a decisão de verificação mapeando casos de uso de verificação históricos e acordando processos maiores. Como parte do controle de qualidade, garantimos controle ao instituir um teste de alinhamento que controla como diferentes pessoas respondem a diferentes perguntas e garante que as respostas sejam alinhadas e consistentes.

Monitoramos vieses como parte do nosso processo geral de controle de qualidade devido ao risco de erros. A função do controle de qualidade é revisar uma porcentagem definida das sessões de verificação diariamente com o objetivo de detectar erros. As sessões enviadas para revisão são selecionadas aleatoriamente entre todas as sessões, mas há controles para receber um número representativo de sessões de usuários com base em seu país, tipos de documentos, clientes e se a sessão foi concluída por automação ou por especialistas.

Esse processo de revisão assegura que somos capazes de detectar erros em nossas decisões rapidamente. A produção do processo de controle de qualidade é monitorada semanalmente como um KPI interno chave. Os problemas encontrados durante o processo de controle de qualidade são então levantados pelas equipes relevantes, que irá priorizá-los e tomar as ações pertinentes para evitar futuros erros.

O viés em decisões automáticas depende principalmente dos dados usados para o treinamento. A Veriff treina modelos com dados reais de clientes que concederam permissão. O uso de dados ao vivo assegura que temos uma boa cobertura de uma gama de vieses documentados no conjunto de treinamento. Trabalhamos para que estamos cobrindo diferentes casos de uso com os dados e controlamos periodicamente. Estamos garantindo que não superajustamos diferentes casos controlando a quantidade de dados que temos para um caso em um conjunto de treinamento.

Outro risco que precisa ser abordado e tratado é o viés de documento. O viés de documento ocorre devido à realidade de que os documentos de identidade variam enormemente entre diferentes países, com fatores incluindo língua, recursos de segurança, qualidade da fotografia e mais. No entanto, a Veriff trabalha para garantir que isso não se torne uma barreira para validar usuários honestos.

Por exemplo, construímos um banco de dados de espécimes líder de mercado, capaz de processar mais de 12.000 tipos de documentos de 230 países. Nossa equipe atualiza regularmente o banco de dados à medida que novos tipos de I.D. são emitidos e tipos de documentos existentes são atualizados.

Estamos constantemente atualizando nossos processos com base em melhores práticas, novas pesquisas e insights de nossa equipe. Ter uma equipe internacional e multiétnica é inestimável para eliminar o viés em nossas operações automatizadas e humanas. Os membros da equipe poderão abordar os preconceitos inconscientes uns dos outros e chamar a atenção para uma variedade de necessidades dos usuários, enquanto um foco na neurodiversidade ajuda a inovar processos. À medida que a Veriff continua a se expandir, estamos ansiosos para continuar promovendo a diversidade como um valor central e que beneficia nossa base de usuários.

Outra maneira que a Veriff está trabalhando para reduzir o viés é construindo um sistema de reconhecimento facial interno. Ao criar nosso próprio modelo, podemos treiná-lo usando nossos próprios dados e podemos ter as anotações feitas por nossas próprias equipes. Estamos buscando criar um modelo que seja mais preciso, intuitivo para o usuário e menos propenso a cometer erros.

Para resumir, a Veriff busca utilizar o melhor que a tecnologia tem a oferecer bem como a opção de QA humano. Dito isso, precisamos encontrar o equilíbrio certo entre precisão e automação; se buscarmos apenas a primeira, podemos produzir mais verificações, mas isso levará mais tempo, será menos amigável ao usuário e difícil de escalar. Se optássemos apenas pela segunda, corremos o risco de ter mais verificações falhadas erroneamente e falta de revisão sobre potenciais preconceitos em desenvolvimento. O preconceito pode sempre ser um fato da vida tanto em humanos quanto em máquinas, mas na Veriff estamos focados em reduzi-lo ao máximo para beneficiar nossos usuários e alcançar nossa missão.