Conecte-se
Ajuda
Seja verificado
Fique por dentro das notícias da Veriff. Assine o boletim informativo
Podcast
Três temas para ficar de olho na IA em 2024
A inteligência artificial tem sido um dos tópicos mais discutidos em nossos podcasts Veriff Voices em 2023.
Nossas conversas com especialistas internos e externos destacaram três questões-chave que serão importantes à medida que a IA avançar para o mainstream em 2024.
1. Lidando com viés
O preconceito não intencional pode ser um problema significativo em processos automatizados que incorporam IA e aprendizado de máquina. Felizmente, é um problema que pode ser abordado eficazmente com a ajuda de intervenção humana focada.
O primeiro passo para reduzir o preconceito é entender de onde ele vem. O viés existe no mundo real, então inevitavelmente acaba nos dados, como aponta Liisi German, Gerente de Produto Sênior da Veriff.
‘Os dados refletem como vemos o mundo ao nosso redor,’ comenta Liisi. ‘Se todos nós pensamos em um vestido de noiva, então provavelmente todos nas culturas ocidentais pensam em um vestido branco. Mas as pessoas asiáticas podem não pensar em um vestido branco.’
A IA é programada para aprender a discriminar entre dados fornecidos por humanos, usando regras criadas por humanos. Como resultado, o preconceito inevitavelmente se infiltra. Devido à natureza do processo, o preconceito pode ser progressivamente amplificado pelo aprendizado de máquina em um tipo de ciclo de feedback se não for tratado. Os resultados podem ser imprevisíveis e, muitas vezes, indesejáveis, como evidenciado por exemplos bem divulgados, mesmo ao usar os modelos generativos de IA mais recentes e avançados.
A Veriff está constantemente explorando maneiras de abordar o preconceito na verificação de identidade, tanto melhorando algoritmos de IA quanto por meio da intervenção humana.
‘Por exemplo, temos pessoas de diferentes países e etnias trabalhando na equipe, anotando os dados,’ diz Liisi. ‘Mas também estamos medindo quão tendenciosos somos, como nosso desempenho difere entre os diferentes gêneros e raças.’
‘Você pode definitivamente remover o viés,’ diz Suvrat Joshi, Vice-Presidente Sênior de Produto da Veriff. ‘Eu acho que alcançar uma saída de modelo perfeita o tempo todo ou ao longo do tempo é difícil, mas nunca é impossível – e é uma grande meta a ser alcançada.’
Quando os vieses são identificados, eles podem ser tratados por meio de um processo conhecido como aprendizado reforçado por meio de feedback humano, ou RLHF para abreviar (veja nosso artigo recente sobre temas quentes em fraude online e verificação de identidade para mais informações sobre como isso funciona).
Suvrat vê o RLHF como uma ótima maneira de ajudar a abordar as preocupações sobre o uso de IA tanto para empresas que desejam empregar as técnicas de verificação de identidade mais avançadas quanto para seus clientes finais.
‘A augmentação é sempre necessária,’ diz Suvrat. ‘E é um aprendizado contínuo, que permite que o modelo continue relevante ou seja melhorado ao longo do tempo. Eu acho que essa é uma parte essencial da construção de confiança – ajuste e melhoria para fornecer aos nossos clientes a garantia de que não é apenas algo que está operando no piloto automático.’
Devido à natureza do processo, o preconceito pode ser progressivamente amplificado pelo aprendizado de máquina em um tipo de ciclo de feedback se não for tratado.
2. A corrida armamentista de IA entre criminosos e guardiões
A inteligência artificial sem dúvida promete entregar benefícios significativos no esforço do setor de serviços financeiros para combater fraudes. Infelizmente, também é uma inovação que está sendo rapidamente e entusiasticamente adotada por criminosos, como explica Kathryn Sharpe, Chefe de Produto de Crime Financeiro na plataforma de banco como serviço Griffin.
‘Acho que a IA generativa vai ser realmente poderosa (para maus atores), e já tem sido realmente poderosa – para criar deep fakes e para gerar textos para criar um monte de aplicativos muito rapidamente.’
Os guardiões estão inevitavelmente se encontrando em uma espécie de corrida armamentista com os fraudadores, que têm a vantagem de serem muito mais livres para “agir rapidamente e quebrar coisas”.
‘Enquanto teremos a capacidade de usar IA de uma maneira muito mais significativa em termos de identificar padrões e sendo proativos e reativos, teremos que implementar mudanças muito mais lentamente, provavelmente, do que os criminosos são capazes,’ diz Kathryn.
Kathryn afirma que deve haver um compromisso entre garantir que as empresas de serviços financeiros e outros guardiões estejam usando a IA com segurança e permitindo liberdade suficiente para que possam acompanhar os criminosos.
Ao mesmo tempo, para as empresas, sempre há um compromisso a ser feito entre minimizar riscos e evitar fricção excessiva.
‘À medida que seu negócio muda, à medida que o cenário de fraude muda, à medida que o cenário de clientes muda, você vai querer ser capaz de balançar esse pêndulo para frente e para trás,’ diz David Divitt, Diretor Sênior de Prevenção de Fraude e Experiência da Veriff.
Felizmente, processos eficazes de combate à fraude podem ser virtualmente invisíveis para o usuário final.
‘Você pode fazer muito observando as maneiras como os clientes interagem com seus serviços,’ comenta David. ‘Se você puder reunir todos esses dados e tomar decisões melhores com eles, pode fazer isso sem que o cliente realmente saiba que está acontecendo.’
Enquanto teremos a capacidade de usar IA de uma maneira muito mais significativa em termos de identificar padrões e sendo proativos e reativos, teremos que implementar mudanças muito mais lentamente, provavelmente, do que os criminosos são capazes de […]
3. O impacto da IA na engenharia de software
As aplicações potenciais para a inteligência artificial generativa se estendem a praticamente todas as disciplinas, e a engenharia de software não é exceção. Na Veriff, já estamos usando soluções assistidas por IA para gerar parte do nosso código. A IA generativa tem acesso a uma quantidade imensa de documentação técnica disponível na internet e pode usar isso para ajudar a integrar até mesmo com a API mais arcanos.
No entanto, Hubert Behaghel, Vice-Presidente Sênior de Engenharia da Veriff, vê a IA como uma ferramenta para engenheiros, em vez de um substituto para eles.
‘Isso está deslocando o trabalho, mas não substituiu todo o papel,’ diz Hubert. ‘Não prevejo, pelo menos nos próximos anos, que não precisaremos mais de um engenheiro de iOS ou de um cientista de dados…’
Em vez disso, Hubert acredita que a IA desempenhará cada vez mais a função de especialista, graças à sua capacidade de acessar e sintetizar rapidamente o conhecimento sobre as complexidades de elementos específicos da pilha de software. Isso acelerará o retorno dos engenheiros de software a um papel mais holístico, uma tendência já vista com a crescente popularidade dos engenheiros ‘em forma de T’ (indivíduos que possuem habilidades especializadas e a capacidade de se integrar a outras disciplinas).
‘Quando eu era mais jovem, não tínhamos front end e back end, nós fazíamos tudo,’ diz Hubert. ‘Eu me pergunto se o nível de complexidade da pilha que temos agora será algo que uma pessoa pode lidar novamente, por conta da assistência que recebemos da IA.’
