Ètica i transparència - Local.ia

La incorporació d’enfocaments ètics com el conseqüent, l’ecològic, el relacional i el deontològic proporciona un marc global per a l’ús ètic de la IA en tots els serveis dels governs locals. Per què? Doncs perquè la incorporació d’aquests enfocaments ètics assegura que la intel·ligència artificial no només sigui una eina eficient, sinó també respectuosa amb els valors i les necessitats de la comunitat local. Per exemple, l’enfocament conseqüent ajuda a avaluar els impactes reals de les decisions basades en IA, garantint que els resultats beneficiïn tots els ciutadans, especialment els més vulnerables i, en particular, en àmbits com la salut, l’educació o la mobilitat. D’altra banda, l’enfocament ecològic ens recorda la importància de dissenyar sistemes tecnològics que minimitzin l’impacte ambiental, un aspecte crucial per a tots els municipis que inevitablement han d’estar compromesos amb la sostenibilitat.

A més, l’enfocament relacional posa l’accent en com la IA pot millorar les interaccions humanes i reforçar els llaços comunitaris. En municipis petits això és encara més important, ja que la confiança i la col·laboració són essencials. Per exemple, això pot traduir-se en plataformes que fomentin la participació ciutadana o en eines que facilitin la comunicació entre veïns i l’administració local. Finalment, l’adopció d’un enfocament deontològic garanteix que l’ús de la IA respecti principis com la transparència, la privadesa o la justícia, aspectes fonamentals per mantenir la confiança de la ciutadania en les institucions públiques.

 

Per tal de facilitar una millor comprensió del que suposa l’adopció d’aquests enfocaments per als municipis petits, on la proximitat i la cohesió comunitària són claus, a continuació us detallem algunes de les principals característiques:

1. Enfocament conseqüent: Aquest enfocament té com a consideració principal si les tecnologies d’IA tenen conseqüències beneficioses o perjudicials per a la ciutadania i els serveis municipals. Les autoritats locals han de garantir que els avenços tecnològics serveixin al benestar col·lectiu, especialment en contextos en què l'accés a recursos pot ser desigual. Per exemple, en l'àmbit de la salut, la IA pot millorar l'atenció mèdica, però també pot generar desigualtats si no s'assegura que tothom tingui accés als mateixos recursos. Les autoritats han de prioritzar projectes que tinguin un impacte positiu i tangible per a la comunitat.

2. Enfocament ecològic: Aquest enfocament posa l'accent en la sostenibilitat i la interdependència de tots els elements de la comunitat. En petits municipis, cal considerar fins a quin punt les tecnologies d’IA afecten l'equilibri ambiental i social. Per exemple, en la gestió de residus o la mobilitat urbana, la IA pot optimitzar recursos, però també pot generar un consum excessiu d'energia o dependència d'infraestructures costoses. Les autoritats locals han de garantir que la integració de les tecnologies d’IA sigui sostenible i equilibrada, assegurant que no esdevingui una càrrega econòmica o ambiental per a la comunitat.
3. Enfocament relacional: Aquest enfocament prioritza les interaccions entre els individus i la cohesió comunitària. En petits municipis, on les relacions personals són fonamentals, la introducció de tecnologies d’IA pot influir en la dinàmica social. Per exemple, en els serveis socials, la IA pot agilitzar tràmits, però també pot despersonalitzar l'atenció als ciutadans. Les autoritats locals han de fomentar l'ús de tecnologies que millorin, en lloc de soscavar, les connexions interpersonals i el sentit de comunitat. La tecnologia ha de ser una eina per reforçar, no per substituir, el contacte humà.
4. Enfocament deontològic: Aquest enfocament es refereix als principis ètics que regeixen l'ús de les tecnologies d’IA. En petits municipis, on la privadesa i l'autonomia poden ser més vulnerables, és essencial que les autoritats locals estableixin directrius i estàndards clars que respectin els drets i la dignitat de totes les persones. Això inclou garantir que les tecnologies s'utilitzen d'una manera coherent amb valors com l'equitat, la justícia i el respecte a la privadesa. Per exemple, en la gestió de dades municipals, cal assegurar que la IA no vulneri la privadesa dels ciutadans ni generi discriminacions.

Si bé hi ha una oportunitat transformadora per millorar l’eficiència, la qualitat i l’accessibilitat dels serveis públics, aquesta requereix una reflexió profunda i un enfocament ètic per tal que sigui socialment acceptada. Partint dels enfocaments previs, cal tenir en compte tres aspectes clau. El primer té a veure amb els límits de la tecnologia i el seu paper com a complement o substitut dels professionals que treballen als municipis. Per tant, es tracta d’entendre com la IA pot potenciar les capacitats dels treballadors municipals sense erosionar el valor de les interaccions humanes i el judici professional que són claus en la prestació de serveis públics. El segon està a assumir de forma inequívoca que les aplicacions d’IA no són neutrals i que el seu ús pot tenir implicacions significatives en aspectes com la privacitat, la justícia i la igualtat. Per tant, sempre cal establir un marc ètic sòlid que garanteixi que la tecnologia s’utilitza de manera responsable, transparent i respectuosa amb els drets de la ciutadania. El tercer està relacionat amb la formació i, especialment, en tenir en compte que una implementació efectiva d’aplicacions d’IA requereix que els professionals municipals estiguin ben formats i disposin dels recursos necessaris per utilitzar aquesta tecnologia de manera crítica i efectiva.

Així doncs, estem parlant de tres temes que es poden tractar individualment a través de tres preguntes clau que ens han de servir com a punt de partida per a una reflexió estructurada sobre com els governs locals poden aprofitar els beneficis de la IA mentre minimitzen els seus riscos. Aquestes són:

1. Fins a quin punt la IA pot substituir el paper dels professionals dels governs locals?
2. Fins a quin punt cal tenir en compte uns principis ètics bàsics abans d’utilitzar aplicacions d’IA en l'àmbit municipal?
3. Fins a quin punt existeixen programes de desenvolupament de recursos i formació per als professionals dels governs locals?

Pregunta 1: Fins a quin punt la IA pot substituir el paper dels professionals dels governs locals?

La potencial substitució dels professionals municipals per la IA planteja interrogants significatius sobre els límits i capacitats de la tecnologia, destacant la necessitat d'equilibrar els avantatges de la innovació amb el valor insubstituïble de les interaccions humanes en la prestació de serveis públics en l'àmbit local. En aquest context, cal anticipar que la relació entre els treballadors municipals i la ciutadania, generalment rica en matisos socials i emocionals, posaria en dubte la capacitat de la IA de replicar de la mateixa manera aquests aspectes profundament humans. Per tant, qualsevol aplicació d’IA ha de ser considerada més aviat com a complement que no pas com a substitut del rol dels professionals, potenciant les possibilitats dels serveis municipals sense erosionar la base humana de l'atenció al ciutadà.

De fet, podríem dir que la IA no pot substituir els professionals municipals per tres raons principals:

1. El judici professional i l’adaptabilitat: Els professionals municipals prenen decisions informades i sensibles al context, basades en una comprensió profunda de les necessitats comunitàries, les normatives locals i les dinàmiques socials. Aquesta capacitat d'adaptació i presa de decisions en entorns complexos és impossible de replicar per qualsevol aplicació d’IA, que no pot ponderar múltiples factors ni entendre els matisos de les demandes ni emocions humanes o fins i tot les subtileses de les relacions comunitàries.
2. Les relacions personals i de confiança: Els professionals municipals construeixen relacions de confiança i respecte amb la ciutadania, essencials per a la cohesió social i el bon funcionament dels serveis públics. Aquestes relacions es basen en l'empatia, la comprensió mútua i la capacitat de respondre de manera personalitzada a les necessitats individuals. Les aplicacions d’IA, per molt avançades que siguin, no poden replicar aquesta connexió entre persones ni oferir aquest tipus de suport o atenció que molts ciutadans necessiten.
3. La retroalimentació i el suport continu: Els professionals municipals ofereixen una retroalimentació constant i personalitzada envers els ciutadans, no només per resoldre problemes sinó també per fomentar la participació ciutadana i millorar la qualitat dels serveis. Les aplicacions d’IA poden oferir solucions automatitzades complementàries, però no poden proporcionar el suport emocional o la intervenció personalitzada que requereixen moltes situacions complexes.

Pregunta 2: Fins a quin punt cal tenir en compte uns principis ètics bàsics abans d’utilitzar aplicacions d’IA en l'àmbit municipal?

És imprescindible aplicar una sèrie de principis ètics (set com a mínim) abans d’utilitzar aplicacions d’IA en els serveis municipals. Aquests principis són el de transparència, justícia, seguretat, responsabilitat, privacitat, autonomia i sostenibilitat:

1. La transparència: Cal assegurar que tant els treballadors municipals com la ciutadania entenguin com funciona la IA, les dades que utilitza i com arriba a les seves conclusions. Això inclou explicar els algoritmes en termes accessibles i garantir que no es tracta d’una “caixa negra”.
2. La justícia: La IA no ha de reproduir biaixos existents ni crear noves desigualtats. S’han de revisar i ajustar els algoritmes per garantir que tracten tots els ciutadans de manera equitativa, independentment del seu origen, capacitat o situació socioeconòmica.
3. La seguretat: S’han de prioritzar la seguretat i el benestar de la ciutadania, garantint que les aplicacions de la IA no tinguin efectes perjudicials en la salut física, psicològica o emocional de les persones.
4. La responsabilitat: Cal establir mecanismes clars de responsabilitat per a les persones desenvolupadores, desplegadores (com és el cas dels governs locals) i usuàries de la IA, incloent-hi processos per abordar problemes o incidències que puguin sorgir.
5. La privacitat: És essencial protegir la privacitat dels ciutadans mitjançant una gestió sensible de les seves dades, assegurant que tenen control sobre com es recopilen, utilitzen i comparteixen.
6. L’autonomia: La IA ha de respectar l'autonomia dels ciutadans i professionals, garantint que sigui una eina de suport i no un determinant de les decisions individuals o comunitàries.
7. La sostenibilitat: S’ha de minimitzar l'impacte ambiental de les tecnologies d'IA, optimitzant l'eficiència energètica i seleccionant programari respectuós amb el medi ambient.

Pregunta 3: Fins a quin punt existeixen programes de desenvolupament de recursos i formació per als professionals dels governs locals?

En l’actualitat, no existeixen gaires programes de desenvolupament i formació integral sobre els usos ètics de la IA en els serveis municipals. Els cursos disponibles se centren més en l'ús instrumental de les eines d’IA, sense una capacitat crítica sobre quines tecnologies s’han de desplegar i quines no, amb l’objectiu de millorar els serveis públics des d’una perspectiva ètica i social. En aquest sentit, és imprescindible una major:

• Formació del personal municipal: És essencial dotar els treballadors municipals dels coneixements i habilitats necessàries per utilitzar la IA de manera crítica i responsable. Això inclou la sistematització de programes de formació reglats i orientats als objectius dels serveis públics.
• Creació de recursos: La creació de recursos ha d’incloure consideracions ètiques, biaixos potencials i limitacions de les tecnologies d’IA, adaptant-se a les necessitats específiques de cada àmbit municipal (salut, mobilitat, gestió de residus, etc.).
• Comunicació oberta: Cal establir canals de comunicació entre els treballadors municipals i la ciutadania per construir una comprensió mútua de com les eines d'IA es poden utilitzar de manera responsable i eficaç.
• Formació inicial i permanent: S’han d’introduir orientacions ètiques sobre l’ús de la IA en els programes de formació inicial i permanent del personal municipal, garantint que adquireixin competències per gestionar, planificar i implementar la IA de manera ètica i efectiva.

Davant dels avenços tecnològics ràpids que impliquen reptes i riscos, i per tal de facilitar l’aplicació dels enfocaments ètics a través de preguntes i principis fonamentals, l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya en col·laboració amb la Diputació de Barcelona elaborarà un nou Model PIO (veure web https://oeiac.cat/), focalitzat en facilitar l’adopció d’aquests enfocaments i consideracions ètiques per als governs locals.

Aquest nou model, anomenat Model PIO Local, es concebeix com una eina pràctica per a la gestió i verificació de l’ús ètic de la intel·ligència artificial en els serveis municipals. A més, incorporaria els requisits legislatius com la nova normativa europea sobre IA (AI Act), així com estàndards i recomanacions ètiques específiques per a l’ús d’aplicacions d’IA en l’àmbit local. Per facilitar la seva comprensió i implementació, aquesta eina d’avaluació o checklist estaria estructurada al voltant dels set principis del Model PIO, adaptats a les necessitats dels governs locals.

Però la implementació d’aquests principis a través d’un Model PIO Local no és suficient ja que també es requereix d’un enfocament col·laboratiu que involucri tant els responsables polítics i tècnics dels ajuntaments així com a la ciutadania, els proveïdors de tecnologia i els experts en ètica i legislació. Només d’aquesta manera es pot garantir que l’adopció responsable de la IA en la gestió dels serveis municipals esdevingui una realitat.

Per aconseguir-ho, la confiança ha de ser un element central en la implementació dels usos ètics de la IA en l’àmbit local, entenent-se aquesta com a conseqüència natural de l’adherència als principis de transparència, justícia, seguretat, responsabilitat, privacitat, autonomia i sostenibilitat. Això és perquè quan la ciutadania i els gestors públics perceben que la tecnologia s’utilitza de manera transparent, que es promou la justícia i s’eviten danys, que la seguretat i el benestar estan garantits, que hi ha un clar retiment de comptes, que la privacitat és respectada, que s’aprecia la seva autonomia i que es fa un ús sostenible dels recursos, la confiança en la IA com a eina de gestió pública s’enforteix. Aquesta confiança és indispensable per fomentar un entorn en què la tecnologia no només és acceptada, sinó també valorada com un mitjà per millorar la qualitat dels serveis i la vida comunitària.

La integració de la IA en l’administració local pot representar una oportunitat per millorar l’eficiència, la sostenibilitat i la qualitat de vida dels ciutadans. No obstant això, aquesta innovació tecnològica també comporta reptes significatius que requereixen una reflexió profunda i una planificació estratègica. Els enfocaments ètics, com el conseqüent, l’ecològic, el relacional i el deontològic, ofereixen un marc sòlid per garantir que la IA s’utilitzi de manera responsable, respectant els valors i les necessitats de les comunitats locals. Aquests principis no només asseguren que la tecnologia sigui una eina d’inclusió i justícia, sinó que també ajuden a construir confiança entre la ciutadania i les institucions públiques.

La implementació de la IA en els municipis no pot ser un procés arbitrari o impulsat únicament per la tecnologia. És essencial que les decisions es basin en una comprensió clara de les necessitats reals dels ciutadans i dels objectius de servei públic. Això implica prioritzar la transparència, la justícia, la privacitat i la sostenibilitat en totes les fases del cicle de vida de les aplicacions d’IA. A més, cal garantir que la tecnologia complementi, no substitueixi, el paper dels professionals municipals, preservant així les interaccions humanes que són fonamentals per a la cohesió social i el benestar comunitari.

Per superar els reptes associats a la manca de coneixement legislatiu, l'opacitat dels models d’IA i la necessitat d’innovar amb responsabilitat, és imprescindible promoure programes de formació i recursos accessibles per als gestors municipals. Això inclou la creació d’eines pràctiques, com el Model PIO Local, que facilitin l’avaluació i la implementació ètica de la IA en els serveis públics. A més, és crucial fomentar la col·laboració entre tots els actors implicats, incloent-hi els ciutadans, els proveïdors de tecnologia i els experts en ètica i legislació, per garantir que la IA s’utilitzi de manera transparent, justa i inclusiva.

En definitiva, la IA té el potencial de transformar els serveis municipals i millorar la qualitat de vida dels ciutadans, però només si s’implementa amb una visió clara, un compromís amb els valors ètics i una atenció constant a les necessitats reals de les comunitats. És per això que és absolutament indispensable que els municipis adoptin un enfocament proactiu i col·laboratiu per assegurar que la tecnologia sigui una força de transformació positiva, ja que, només així, es podrà garantir que els beneficis de la IA arribin a tothom, sense deixar ningú enrere.