- Una quarantena de ponents de gran prestigi internacional crida a l’acció per lluitar contra l’emergència digital.
- Barcelona es consolida com a capital mundial de l’humanisme tecnològic.
Barcelona, 18 de novembre de 2021.- Experts mundials en transformació digital i en l’impacte socioeconòmic dels grans canvis tecnològics criden a avançar urgentment en accions concretes per a garantir la protecció i promoció dels drets de les persones en aquest àmbit i no quedar-se només en discursos de bones intencions. Aquest concepte compartit va protagonitzar la jornada “Humanism in the digital age: the urban contribution”, organitzada por Digital Future Society i l’Ajuntament de Barcelona aquest dilluns, creant un gran espai de debat i reflexió amb la participació de 150 entitats i més de 40 ponents de primer nivell. La gran acollida de la jornada reforça Barcelona com a capital mundial de l’humanisme tecnològic.
Durant la jornada es van celebrar onze sessions centrades en diferents aspectes relacionats amb els drets digitals i l’ètica en la Intel·ligència Artificial (IA), amb les aportacions d’agents de l’administració pública, responsables polítics, experts, investigadors i activistes. El paper de les ciutats i les zones urbanes, on la transformació digital és encara més accelerada, va centrar les temàtiques de l’esdeveniment.
Drets digitals: mantenir l’ús de les dades i les bretxes sota control
L’escriptora i filòsofa de l’Institut d’ètica en la Intel·ligència Artificial a la Universitat d’Oxford, Carissa Véliz, va obrir la jornada amb una reflexió sobre els drets humans en l’era digital. Véliz va destacar la importància de ser conscients de les dades que compartim i va advertir sobre el dret de protecció i control de les dades “hi ha molt en joc, la nostra democràcia està en joc”. A més, va assenyalar en positiu els passos en matèria de regulació que està fent Europa, tot i que “cal seguir treballant”.
A continuació, va ser el torn de les ciutats i el seu paper en la construcció d’una transformació digital inclusiva, segura i responsable que va reunir als representants dels ajuntaments de Bordeus, Rotterdam i París per reflexionar sobre el seu paper com a actors clau. En el cas del municipi neerlandès, Roos Vermeij va destacar les seves dues principals prioritats: equitat i inclusió digital. “La nostra principal missió és treballar en aquestes prioritats i preparar a les persones per les feines del futur, no només a l’escola, sinó a nivell local”, va apuntar. En el cas de la capital francesa, Arnaud Ngatcha va traslladar que “les ciutats estan al centre de la transformació digital, perquè són les que donen atenció diària als ciutadans”. Per la seva banda, la representant de Bordeus, Delphine Jamet va destacar la necessitat de que “els serveis digitals han de respectar els drets i la llibertat dels ciutadans”, a banda de recalcar que “és necessari que aquests sereis incloguin a tots, no poden ser exclusivament només per uns quants”. Per la seva banda, la moderadora i tercera tinent d’alcaldia de l’Ajuntament de Barcelona, Laia Bonet, va puntualitzar que “per no agreujar les desigualtats, necessitem una política atrevida d’inclusió digital i treballar en el context de l’humanisme a nivell local, nacional i internacional ".
Al seu torn, els responsables tecnològics de grans ciutats com Nova York (John Paul Farmer) i Barcelona (Michael Donaldson), juntament amb l’assessor de la UNU-EGOV, Morten Meyerhoff, i la directora de l’Observatori Nacional de Tecnologia i Societat, Lucía Velasco, van parlar sobre les polítiques públiques per la lluita contra les bretxes digitals. Meyerhoff es va centrar en la qualitat de les dades de què disposen les administracions: “veiem que quant més riques són les ciutats, més gran és el número de dades que tenim a la nostra disposició, però sempre seran limitades, veurem alguns segments de l’usuari, però faltarà el context”. Por la seva banda, Donaldson va recordar que “la bretxa digital no és nova, però cal buscar solucions innovadores per a mitigar-la”. A més, va destacar el ferm compromís de la ciutat de Barcelona per a la recopilació de dades i va exposar que “l’1% de la població no podia accedir a Internet per motius econòmics”, una dada que assegura que es pot abordar a curt termini. De la mateixa manera, Farmer va incidir que per lluitar contra les bretxes digitals hem d’implementar una estratègia envers les noves tecnologies que consideri l’accès, la connectivitat, la infraestructura i que sigui assequible, ja que la pandèmia “va evidenciar que la tecnologia no és un luxe, sinó una necessitat i la connectivitat ha de ser universal”. Finalment, Velasco, es va centrar en la frustració digital i va insistir “demanem als ciutadans que interactuïn amb les administracions digitals, independentment dels usuaris i la seva experiència o accés”. Com a resultat, la població s’allunya de la tecnologia i incrementa la seva frustració, reacció “contraria al que busca la digitalització”.
Una de les sessions de keynote més destacades va anar a càrrec de la directora executiva de l’Aliança per a una Internet Assequible, Sonia Jorge, que va incidir en la necessitat d’entendre les conseqüències de la bretxa digital, especialment en les bretxes geogràfiques i de gènere. Jorge va destacar que “la bretxa de gènere a les zones rurals és brutal: estem parlant d’un 52%”. I, segons els seus càlculs, “el món ha perdut una oportunitat d’un bilió de dòlars per no haver inclòs a les nenes en les societats digitals” i va recordar que quan excloem, estem alimentant desigualtats. En una altr intervenció, Núria Oliver, directora de Data Science de la Alianza Data-Pop, va reflexionar sobre la falta de dones en el procés de desenvolupament de les tecnologies. Oliver va manifestar la seva preocupació per la falta d’estudiants en matèries STEM i va afirmar que “qualsevol camp on falti diversitat no desbloquejarà tot el seu potencial i les solucions no seran mai totalment inclusives”.
Intel·ligència Artificial: de la interpretació a la regulació
Les tecnologies de reconeixement facial i el seu ús responsable en entorns urbans va ser un gran punt de debat amb les intervencions de veus internacionals com l’assessora sènior de polítiques en la Iniciativa de Drets Digitals Europeus, Sarah Chander, l’eurodiputat i relator de regulació sobre IA, Brando Benifei i l’investigador sènior a Human Rights Watch, Amos Toh. Tots van coincidir en la necessitat de noves regulacions que preserven i garanteixen els drets fonamentals de la ciutadania. Chander es va centrar en la conscienciació sobre l’impacte de la tecnologia “necessitem un mecanisme de coneixement per entendre el risc humà qui serà impactat, com i per què”. Al seu torn, Benifei va afirmar que el Parlament europeu és la veu més forta a favor dels drets fonamentals, pel que “és important que adopti mesures fermes per prohibir aquestes tecnologies o declari una posició clara”. L’eurodiputat va destacar que, en l’actualitat, el seu ús està restringit amb un text legal, però segueix “tenint moltes interpretacions”. Una afirmació que coincideix amb la reflexió d’Amos Toh, on va destacar que aspirem a “empoderar els ciutadans per entendre com es dissenya la tecnologia i marcar els seus límits”. Toh va concloure que la tecnologia de vegades és necessària per a la prestació de serveis bàsics, però també “una plataforma per facilitar el debat i la presa de decisions polítiques".
L’ètica operacional en Intel·ligència Artificial va centrar una altra de les sessions, abordant els estàndards de regulació amb el membre del gabinet de la vicepresidenta Margrethe Vestager de la Comissió Europea, Werner Stengg, que va assegurar el compromís de la institució per crear un marc legal eficaç i va recordar que “les regulacions no són necessàriament l’enemic de la innovació tecnològica”. Per la seva banda, el professor de la UOC, Agustí Cerrillo, se va centrar en la complexitat dels algoritmes, ja que “canvien amb el temps a mesura que recuperen noves dades”. També cal sumar la falta de privacitat, un risc que com va exposar la CEO d’Open Knowledge Foundation, Renata Ávila, hauria “d’establir-se per defecte, però no és suficient, necessitem altres valors amb la innovació oberta”, la qual afirma que té un gran impacte.
Un altre enfocament sobre la Intel·ligència Artificial va ser l’aspecte de la discriminació i el seu ús des del punt de vista de parcialitat, gènere, raça i pobresa. Segons el fundador i director d’investigacions a OptIA, Ricardo Baeza-Yates, no podem considerar les dades recopilades com alguna cosa negativa, sinó neutral i va afirmar que “el bucle d’interacció entre el sistema i l’usuari pot afectar-nos a tots”. Al seu torn, la responsable de transformació digital a lafede.cat, Judith Membrives, va assegurar que “la tecnologia pot ajudar a resoldre problemes socials”, però hauríem d’incloure a la ciutadania per “donar veu als afectats pels resultats dels biaixos d’algoritmes”. Per la seva banda, la investigadora i professora a la Universitat de Södertorn, Anne Kaun, va considerar que “els ciutadans són més conscients el biaix tecnològic” i reflexiona sobre el fet que estem provant tecnologia en col·lectius molt vulnerables. Per últim, el professor de la UPC, Cecilio Angulo, va reflexionar sobre la definició d’un algoritme i va assegurar que “sempre serà discriminatori. La seva feina és discriminar i no tots discriminen en un mal sentit”.
De la mateixa manera, la democràcia algorítmica va ser una altra de les sessions organitzades en el marc d’ActivosTech, que va explorar solucions per comprendre el paper de les tecnologies de la Intel·ligència Artificial i la seva integració amb els drets humans. La consellera delegada i fundadora d’ETICAS, Gemma Galdón, va obrir el debat amb una reflexió sobre la concentració de poder i va demanar que “deixin d’estar en mans d’uns pocs i es replantegi, fins i tot, si es necessiten altres infraestructures per a redissenyar l’entorn digital”. Al seu torn, l’analista de polítiques de tecnologia, digital del Real Instituto Elcano, Raquel Jorge Ricart, va declarar que “la governança algorítmica s’està limitant a una sèrie de països, ja que on són els països d’Amèrica Llatina, els de l’Àfrica subsahariana, i, fins i tot, alguns de la Unió Europea?". Com a resposta, la investigadora del Barcelona Centre for International Affairs, Andrea G. Rodríguez, va concloure que “no existeix un esquema compartit per part dels actors rellevants sobre què fer i què no fer amb el codi” i va demanar transparència i responsabilitat per part de les empreses. D’altra banda, la directora d’IA a Singular, Nerea Luis, es va centrar en els usuaris i va demanar conscienciació per part dels ciutadans, reiterant que “les dades són un negoci, però te n’adones de com de desprotegits ens trobem".
Por últim, es van tractar els riscos associats amb la recopilació d’aquestes dades, que també han augmentat substancialment en els darrers anys, a mesura que la informàtica generalitzada es converteix en una realitat. Aquest fenomen ha tingut noves conseqüències, com va exposar l’expert en governança de dades a la UIA i professor convidat a SciencesPo, Simon Chignard, que va reflexionar sobre el paper de les ciutats per a “lluitar contra la resignació digital, que sembla que és una preocupació que creix”. Davant d’això, el líder d’equip i expert a InTouchAI.eu, Gianluca Misuraca va respondre que hem d“utilitzar la tecnologia a favor dels ciutadans”, i, en aquest sentit, va exposar que “hem de preguntar-nos què es pot fer per a garantir que se salvaguardi la resiliència digital i com poder governar la Intel·ligència Artificial”. Per la seva banda, l’assessora de la Secretaria d’Estat de Digitalització i Intel·ligència Artificial, Belén Santa Cruz, es va enfocar en les noves regulacions i va afirmar que “necessitem estudiar l’impacte en els drets digitals, com fem en altres aspectes” i va il·lustrar el cas espanyol amb la presentació de la Carta de Drets Digitals del Govern d’Espanya.
L’acte va concloure amb el tancament institucional a càrrec del comissionat d’Innovació Digital de l’Ajuntament de Barcelona, Michael Donaldson i el CEO de la Fundació Mobile World Capital Barcelona, Carlos Grau, que va recalcar el ferm compromís per passar a l’acció i va assegurar que calia “construir i ampliar més aliances i col·laboracions per avançar en tots els reptes discutits durant la jornada”. També va recordar que la resposta més eficaç a la complexitat d’aquests reptes és “treballar conjuntament i fomentar la cooperació i la col·laboració entre tots els actors i parts interessades clau”.
La jornada “Humanism in the digital era: the urban contribution” es pot tornar a visualitzar al següent enllaç:
https://www.youtube.com/playlist?list=PLIy7U5iKUMpJqwBYaJO1P-FElHfGvbLpd