La necesidad de una IA sin sesgos

Ana Muñoz, Editora de Tecnología en Business Insider España

La inteligencia artificial forma parte de nuestras vidas y a veces lo hace de forma imperceptible. Cada vez que vas a buscar una ruta más rápida con tu coche, comprar cualquier producto online o saber qué tiempo va a hacer mañana, seguramente estés usando la IA sin darte cuenta.

Sin embargo, detrás de estas mejoras que van desde lo más mundano a lo más delicado —como son los avances médicos o los coches autónomos— se dispara una bala que no hay que perder de vista: los sesgos, que amenazan con perpetuar y profundizar en las desigualdades ya existentes. Por eso es fundamental que los algoritmos de aprendizaje, los datos y el progreso (así como quienes lo crean) vayan de la mano de un sistema más justo para todos.

Tal y como explica un estudio de McKinsey titulado Lo que la inteligencia artificial puede hacer y lo que no (todavía) en tu negocio, “la eliminación de prejuicios [en la IA] está demostrando ser uno de los obstáculos más preocupantes y difíciles desde el punto de vista social hasta la fecha”.

Los ejemplos de sesgos de la inteligencia artificial en la vida real brindan a las organizaciones información útil sobre cómo se debe identificar y abordar este tema. Al observar estos ejemplos y cambiarlos, los científicos de datos pueden comenzar a construir una hoja de ruta para descubrir y prevenir sesgos en sus modelos de aprendizaje automático.

Por ejemplo, si las bases de datos mismas están alteradas porque solo se usan determinados grupos étnicos para construirlas, los resultados de esa IA se verán perjudicados en sus respuestas. En este sentido es conocido el caso de Joy Buolamwini, una informática afrocanadiense que se dio cuenta de que distintos robots de reconocimiento facial no identificaban su rostro. Al percatarse de este hecho, empezó a investigar y se dio cuenta de que el entrenamiento de estos se había realizado con personas de etnia blanca, por lo que eran incapaces de reconocer a otros. Gracias a ello, la experta creó una organización denominada Algorithmic Justice League, que se dedica a combatir la discriminación en estas tecnologías.

Aquí se incluye una variante aún más preocupante: la escasez de mujeres en puestos tecnológicos (solo un 30%, según el Foro Económico Mundial), y aún menos en trabajos relacionados con la IA. Tal y como asegura un estudio elaborado por la fundación Telefónica Mujeres en la IA, la cifra disminuye hasta el 22% si se habla de trabajos vinculados con la inteligencia artificial en España.

Esto pone de manifiesto la oportunidad que existe para perfiles femeninos en un ámbito en pleno crecimiento, ya que la representación equitativa de géneros en el desarrollo y aplicación de la IA es esencial para evitar sesgos en el desarrollo de esta tecnología.

Además, la falta de diversidad en los equipos desarrolladores de la IA tiende a acarrear varios problemas. Por una parte, supone una falta de perspectiva en el diseño y el desarrollo de esta tecnología y, por tanto, derivará en soluciones menos efectivas para los problemas que surjan, ya que no se considerarán necesidades, experiencias y perspectivas de diversos géneros. Por otra parte, si la inteligencia artificial se emplea para tomar decisiones empresariales, esta información puede basarse en datos sesgados que perpetúan la exclusión de las mujeres (y de otros grupos en la sociedad) —por no hablar de la pérdida de oportunidades en el ámbito de la innovación—.

Ante esta situación, el papel de contratación, así como el formador de las empresas y el incentivo por parte del gobierno en el ámbito STEM para que las primeras se vean predispuestas a ello debe ser proactivo. Y no solo exclusivamente en el ámbito educativo o como meras usuarias, sino como desarrolladoras de tecnología, ya que ellas son la clave para que en el futuro la IA no tenga sesgos y ofrezca soluciones imparciales con una ética intachable. Para ello, también es fundamental que estas mujeres desarrolladoras sean promocionadas a puestos de mando, que se les ofrezca la oportunidad de ser líderes sin importar su condición, para que se pueda sacar todo el jugo a esta disciplina que ahora nos aborda. Así, la cultura empresarial de muchas compañías debe cambiar, no solo en cuestión de sueldos —que se necesitan equiparar para poder desarrollarse y que sean atractivos para ellas—, sino a través de acciones reales. Entre ellas destaca recientemente la iniciativa de Google, que formará a 50 mujeres en IA generativa a través de un curso de 8 semanas, pero no se encuentran muchos más ejemplos de esta índole (aunque sean necesarios).

Al final, no se trata de limitar el uso de la tecnología, y más concretamente de esta disciplina, sino de que quienes la usan y desarrollan sean conscientes de sus barreras y de que se tomen en cuenta los usos que se le dan. Por eso, son necesarias acciones políticas y regulatorias sólidas para que la sociedad se vea representada en su conjunto, y no solo una parte.