Sesgo en IA (AI Bias)

Tendencias sistemáticas en los outputs de la IA que pueden favorecer o perjudicar a ciertos grupos de personas, derivadas de sesgos presentes en los datos de entrenamiento o en el diseño del modelo.

Si entrenas a un modelo con currículums de directivos de los últimos 50 años (mayoritariamente hombres blancos de ciertos países), el modelo 'aprenderá' a preferir esos perfiles. El algoritmo solo amplifica lo que había en los datos.

Un sistema de IA para filtrar CVs entrenado con los empleados históricos de una empresa puede penalizar sistemáticamente nombres extranjeros o escuelas menos conocidas, perpetuando sesgos históricos sin que nadie lo haya decidido conscientemente.