✒️Ciutadan.IA: la IA al servei de les persones

La IA ja forma part del dia a dia de les administracions públiques, però genera confiança… o distància amb la ciutadania? Reflexionem sobre com fer-ne un ús ètic, transparent i comprensible per reforçar la legitimitat institucional.

En els últims anys, la IA ha entrat dins les nostres administracions públiques. En alguns casos, utilitzem els sistemes de IA com assistents eficients per buscar una informació que necessitem o per saber quina és la millor manera per fer una tasca que tenim encomanada. Altres vegades, els sistemes de IA tenen un paper més protagonista: ens permeten accelerar projectes portant a terme tasques tècniques i administratives senzilles. En definitiva, sigui quin sigui el seu grau de participació, la IA ha tocat a la porta de la gran majoria de les nostres organitzacions.

Veníem ja d'uns anys de transformació digital accelerada (tot i que no tan accelerada com ens hauria agradat) que, en alguns casos, ha propiciat un seguit de bretxes digitals i ha diluït la relació entre Administració i ciutadania, dificultant el coneixement dels neguits i les necessitats de les persones per part de les organitzacions, entre altres. A aquest escenari hem de sumar-li una crisi de confiança ciutadana que beu de les diverses crisis socioeconòmiques que hem anat enllaçant, dels diferents casos de corrupció i escàndols polítics que han sacsejat els fonaments de les nostres institucions i de la percepció ciutadana generalitzada d'unes administracions burocràtiques, lentes, i allunyades del ciutadà mitjà. I ara, per si això fos poc, entra en joc la intel·ligència artificial, un concepte que engresca però que alhora espanta, que ens permet pensar en una major eficiència però alhora en una major deshumanització de les administracions. És a dir, la IA s’experimenta com una eina per la millora dels serveis públics però alhora els riscos ètics i democràtics que planteja generen recel.

La Declaració Europea sobre els Drets i Principis per la Dècada Digital determina que la IA ha de ser un instrument al servei de les persones i el seu fi últim ha de ser augmentar el benestar humà. Alhora, estableix que tota persona hauria d'estar empoderada per beneficiar-se dels avantatges dels sistemes de IA, especialment a fi de prendre les seves pròpies decisions en l'entorn digital amb coneixement de causa i estar protegida front els riscos.

Així doncs, no en queda una altra que canviar-nos el barret i pensar per un moment en com viu la ciutadania tot aquesta allau de canvis i novetats: l'ús de la IA la fa sentir més a prop del seu Ajuntament o, en canvi, té la percepció que parlen llenguatges diferents? Coneix les facilitats que la IA li proporciona, o ho veu com un entrebanc més per entendre què fa el seu Ajuntament? Entén perquè la seva organització fa ús de la IA?

Per facilitar la comprensió ciutadana de l'ús de la IA i guanyar-nos de nou la seva confiança, hem de començar per algunes consideracions ètiques fonamentals, que han de guiar les nostres actuacions:

  • Transparència i explicabilitat: Un dels majors dilemes ètics és el problema de la "caixa negra", on la opacitat dels algoritmes impedeix saber com s'arriba a una conclusió. És necessari que les decisions administratives siguin traçables i explicables per mantenir la legitimitat institucional i el dret dels ciutadans a obtenir explicacions significatives.
  • Justícia, equitat i no discriminació: la IA no pot reproduir o fins i tot amplificar biaixos històrics (de gènere, raça o classe) presents en les dades d'entrenament. La justícia algorítmica exigeix dissenyar sistemes inclusius i realitzar auditories constants per evitar que es perpetuïn les desigualtats socials.
  • Privacitat i protecció de dades:  la gestió de grans volums de dades personals requereix un control estricte i pràctiques de "minimització de dades" per evitar la vigilància massiva i l'ús indegut de la informació sensible.
  • Autonomia i supervisió humana: la IA s'ha d'entendre com una tecnologia de suport que complementi, i no substitueixi, el judici humà. Especialment en àrees que afecten drets fonamentals, cal garantir que un expert humà validi les decisions crítiques per evitar la deshumanització dels serveis.

Des de Local.IA compartirem eines i instruments per aterrar aquests conceptes a la pràctica quotidiana dels ens local, necessaris per aconseguir una IA pública humanista, transparent i al servei del benestar col·lectiu.

De moment, us recomanem respondre les preguntes següents (plantejades per Arlet Brufau (OEIAC) a una de les sessions de Microcredencials en govern de les dades i intel·ligència artificial en l’administració pública)  pels casos d'ús que tingueu previst arrancar o què ja hagueu posat en marxa. Les respostes a aquestes preguntes contribueixen a l'explicabilitat de l'ús de la IA i en faciliten la seva transparència, tant interna (dins l’organització) com externament (cap a la ciutadania):

Per on comencem per apropar la IA a la ciutadania?

Donar resposta a aquestes preguntes i facilitar-les a la ciutadania en llenguatge clar és una bona manera de promoure una ciutadania activa, de facilitar el dret a l’explicació (RIA) i mitigar les pors. També us animem a promoure tallers destinats als veïns i veïnes dels vostres municipis, per millorar el seu coneixement de la IA i la seva autonomia, i a fer campanyes de sensibilització sobre l’ús de la IA a la vostra organització, els seus beneficis i les mesures de seguretat davant el risc.

L’ús de la IA al món local és una oportunitat per revertir la desconfiança i treballar per la legitimitat de les nostres institucions. Comencem?