La necessitat d’una IA sense biaixos 

Ana Muñoz, Editora de Tecnologia a Business Insider Espanya

La intel·ligència artificial forma part de les nostres vides i a vegades ho fa de manera imperceptible. Cada vegada que vas a buscar una ruta més ràpida amb el teu cotxe, comprar qualsevol producte online o saber quin temps farà demà, segurament estàs fent servir la IA sense adonar-te’n. 

No obstant això, darrere d’aquestes millores que van des del més mundà al més delicat – com són els avenços mèdics o els cotxes autònoms – es dispara una bala que no s’ha de perdre de vista: els biaixos, que amenacen en perpetuar i profunditzar en les desigualtats ja existents. Per això és fonamental que els algoritmes d’aprenentatge, les dades i el progrés (així com els qui ho creen) vagin acompanyats d’un sistema més just per a tots. 

Tal com explica un estudi de McKinsey titulat El que la intel·ligència artificial pot fer i el que no (de moment) al teu negoci, “l’eliminació de prejudicis [a la IA] està demostrant ser un dels obstacles més preocupants i difícils des del punt de vista social fins al moment”. 

Els exemples de biaixos de la intel·ligència artificial a la vida real brinden a les organitzacions informació útil sobre com s’ha d’identificar i abordar aquest tema. En observar aquests exemples i canviar-los, els científics de dades poden començar a construir un full de ruta per a descobrir i preveure biaixos en els seus models d’aprenentatge automàtic. 

Per exemple, si les bases de dades estan alterades perquè només es fan servir determinats grups ètnics per a construir-les, els resultats d’aquesta IA es veuran perjudicats en les seves respostes. En aquest sentit, és conegut el cas de Joy Buolamwini, una informàtica afro canadenca que es va adonar que diferents robots de reconeixement facial no identificaven la seva cara. En veure aquest fet, va començar a investigar i es va adonar que l’entrenament d’aquests s’havia realitzat amb persones d’ètnia blanca, per la qual cosa eren incapaços de reconèixer altres ètnies. Gràcies a això, l’experta va crear una organització denominada Algorithmic Justice League, que es dedica a combatre la discriminació en aquestes tecnologies. 

Aquí s’inclou una variant encara més preocupant: l’escassetat de dones en llocs tecnològics (només un 30%, segons el Fòrum Econòmic Mundial), i encara menys a les feines relacionades amb la IA. Tal com assegura un estudi elaborat per la fundació Telefónica Dones a la IA, la xifra disminueix fins al 22% si es parla de feines vinculades amb la intel·ligència artificial a Espanya. 

Això posa de manifest l’oportunitat que existeix per a perfils femenins en un àmbit en ple creixement, ja que la representació equitativa de gèneres en el desenvolupament i aplicació de la IA és essencial per a evitar biaixos en el desenvolupament d’aquesta tecnologia. 

A més, la falta de diversitat en els equips desenvolupadors de la IA tendeix a comportar alguns problemes. Per una part, suposa una falta de perspectiva en el disseny i el desenvolupament d’aquesta tecnologia i, per tant, derivarà a solucions menys efectives pels problemes que sorgeixin, ja que no es consideraran necessitats, experiències i perspectives de diversos gèneres. D’altra banda, si la intel·ligència artificial es fa servir per a prendre decisions empresarials, aquesta informació pot basar-se en dades esbiaixades que perpetuen l’exclusió de les dones (i d’altres grups de la societat) -per no parlar de la pèrdua d’oportunitats en l’àmbit de la innovació-. 

Davant d’aquesta situació, el paper de contractació, així com el formador de les empreses i l’incentiu per part del govern en l’àmbit STEM perquè les primeres es vegin predisposades ha de ser proactiu. I no només exclusivament en l’àmbit educatiu o com meres usuàries, sinó com a desenvolupadores de tecnologia, ja que elles són la clau perquè en el futur la IA no tingui biaixos i ofereixi solucions imparcials amb una ètica impecable. Per això, també és fonamental que aquestes dones desenvolupadores siguin promocionades a càrrecs importants, que se’ls hi ofereixi l’oportunitat de ser líders sense importar la seva condició, perquè es pugui treure tot el suc a aquesta disciplina que ara ens aborda. Així, la cultura empresarial de moltes empreses ha de canviar, no només en qüestió de sous –que s’han d’equiparar per a poder desenvolupar-se i que siguin atractius per a elles-, sinó a través d’accions reals. Entre elles, destaca recentment la iniciativa de Google, que formarà a 50 dones en IA generativa a través d’un curs de 8 setmanes, però no trobem gaires més exemples d’aquesta índole (encara que siguin necessaris). 

Al final, no es tracta de limitar l’ús de la tecnologia, i més concretament d’aquesta disciplina, sinó que els qui la fan servir i la desenvolupen siguin conscients de les seves barreres i que tinguin en compte els usos que se li donen. Per això, són necessàries accions polítiques i reguladores sòlides perquè la societat es vegi representada en conjunt, i no només una part.