Tres temas a tener en cuenta en la IA en 2024

La inteligencia artificial ha sido uno de los temas más discutidos en nuestros podcasts de Veriff Voices en 2023.

Nuestras conversaciones con expertos internos y externos destacaron tres temas clave que serán importantes a medida que la IA avance más hacia la corriente principal en 2024.

1. Dealing with bias

El sesgo no intencional puede ser un problema significativo en los procesos automatizados que incorporan IA y aprendizaje automático. Afortunadamente, es un problema que se puede abordar eficazmente con la intervención humana enfocada.

The first step in reducing bias is understanding where it comes from. Bias exists in the real world, so it inevitably ends up in data, as Liisi German, Senior Product Manager at Veriff, points out.

‘Los datos reflejan cómo vemos el mundo que nos rodea,’ comenta Liisi. ‘Si todos pensamos en un vestido de novia, probablemente todos en las culturas occidentales piensen en un vestido blanco. Pero las personas asiáticas pueden no pensar en un vestido blanco.’

La IA está programada para aprender a discriminar entre los datos proporcionados por los humanos, utilizando reglas creadas por humanos. Como resultado, el sesgo inevitablemente se introduce. Debido a la naturaleza del proceso, el sesgo puede ser amplificado progresivamente por el aprendizaje automático en una especie de ciclo de retroalimentación si no se aborda. Los resultados pueden ser impredecibles y, a menudo, indeseables, como se evidencia en ejemplos bien publicitados incluso al usar los modelos de IA generativa más recientes y avanzados.

Veriff está explorando constantemente maneras de abordar el sesgo en la verificación de identidad, tanto mejorando los algoritmos de IA como a través de la intervención humana.

‘Por ejemplo, tenemos personas de diferentes países y etnias trabajando en el equipo, anotando los datos,’ dice Liisi. ‘Pero también estamos midiendo cuán sesgados somos, cómo difiere nuestro rendimiento según géneros y razas diferentes.’

‘You can definitely remove bias,’ says Suvrat Joshi, Veriff’s Senior Vice President of Product. ‘I think that achieving a perfect model output all the time or over a period of time is hard, but it’s never impossible – and it’s a great thing to aim for.’

When biases are identified, they can be addressed through a process known as reinforced learning through human feedback, or RLHF for short (see our recent article on hot topics in online fraud and identity verification for more on how this works).

Suvrat ve el RLHF como una gran manera de ayudar a abordar las preocupaciones sobre el uso de IA tanto para las empresas que desean emplear las técnicas de verificación de identidad más avanzadas como para sus clientes finales.

‘La augmentación siempre es necesaria,’ dice Suvrat. ‘Y es un aprendizaje continuo, lo que permite al modelo permanecer enfocado o ser mejorado con el tiempo. Creo que eso es una parte esencial para generar confianza – ajustándose y mejorando para que proporcionemos a nuestros clientes la tranquilidad de que no es solo algo que funciona en piloto automático.’

Debido a la naturaleza del proceso, el sesgo puede ser amplificado progresivamente por el aprendizaje automático en una especie de ciclo de retroalimentación si no se aborda.

2. The AI arms race between criminals and gatekeepers

Artificial intelligence undoubtedly promises to deliver significant benefits in the financial services sector’s drive to address fraud. Unfortunately, it’s also an innovation that’s being rapidly and enthusiastically embraced by criminals, as Kathryn Sharpe, Head of Financial Crime Product at banking as a service platform Griffin, explains.

‘Creo que la IA generativa va a ser realmente poderosa (para los actores malintencionados), y ya ha sido realmente poderosa – para crear falsificaciones profundas y para generar textos que crean una gran cantidad de aplicaciones muy rápido.’

Los guardianes inevitablemente se encuentran en una especie de carrera armamentista con los estafadores, quienes tienen la ventaja de poder “moverse rápido y romper cosas”.

‘Mientras vamos a tener la capacidad de usar la IA de manera mucho más significativa en términos de detectar patrones y ser tanto proactivos como reactivos, vamos a tener que implementar cambios mucho más lentamente, probablemente, de lo que los criminales son capaces de hacerlo,’ dice Kathryn.

Kathryn dice que debe haber un equilibrio entre asegurar que las empresas de servicios financieros y otros guardianes estén utilizando la IA de manera segura y permitir suficiente libertad para que puedan mantenerse al ritmo de los criminales.

Al mismo tiempo, para las empresas siempre hay un equilibrio que debe hacerse entre minimizar el riesgo y evitar fricciones excesivas.

‘As your business changes, as the fraud landscape changes, as the customer landscape changes, you’ll want to be able to swing that pendulum back and forth,’ says David Divitt, Veriff’s Senior Director of Fraud Prevention and Experience.

Afortunadamente, los procesos efectivos de prevención del fraude pueden ser prácticamente invisibles para el usuario final.

‘Puedes hacer mucho observando las maneras en que los clientes interactúan con tus servicios,’ comenta David. ‘Si puedes recopilar todos esos datos y tomar mejores decisiones con ellos, puedes hacerlo sin que el cliente realmente sepa que está sucediendo.’

Mientras vamos a tener la capacidad de usar la IA de manera mucho más significativa en términos de detectar patrones y ser tanto proactivos como reactivos, vamos a tener que implementar cambios mucho más lentamente, probablemente, de lo que los criminales son capaces de […]

Kathryn Sharpe Head of Financial Crime Product Griffin

3. AI’s impact on software engineering

Las aplicaciones potenciales de la inteligencia artificial generativa se extienden a prácticamente todas las disciplinas, y la ingeniería de software no es una excepción. En Veriff, ya estamos utilizando soluciones asistidas por IA para generar parte de nuestro código. La IA generativa tiene acceso a los extensos documentos técnicos disponibles en Internet y puede usar esto para ayudar a integrarse con incluso la API más oscura.

However, Hubert Behaghel, Veriff’s Senior Vice President of Engineering, sees AI as a tool for engineers, rather than as a replacement for them.

‘Está cambiando el trabajo, pero no ha reemplazado el rol completo,’ dice Hubert. ‘No imagino, al menos en los próximos años, que ya no necesitaremos un ingeniero de iOS, o un científico de datos…’

En cambio, Hubert piensa que la IA cumplirá cada vez más la función de especialista, gracias a su capacidad de acceder y sintetizar rápidamente el conocimiento sobre las complejidades de elementos específicos de la pila de software. Esto acelerará el retorno de los ingenieros de software a un rol más holístico, una tendencia ya observada con la creciente popularidad de los ingenieros ‘en forma de T’ (individuos que poseen habilidades especializadas y la capacidad de integrarse en otras disciplinas).

‘Cuando era más joven, no teníamos front end y back end, simplemente hacíamos todo,’ dice Hubert. ‘Me pregunto si el nivel de complejidad de la pila que tenemos ahora será algo que una persona pueda manejar de nuevo, debido a la asistencia que obtenemos de la IA.’