Decàleg per desplegar la IA en un ens local: pas a pas
Aquesta document té per objectiu guiar de forma fàcil i concreta als ens locals que tot just es plantegen l’ús de la IA en les seves organitzacions.
1. Busca aliances per desplegar la IA i avalua les capacitats i recursos actuals
Si la naturalesa de la teva organització ho permet, crea un comitè multidisciplinari amb representants de diferents departaments per coordinar i planificar les iniciatives relacionades amb la IA. Aquest equip serà el referent intern per a la implementació de bones pràctiques, el seguiment normatiu i la resolució de dubtes tècnics o ètics.
Una de les primeres accions que et recomanem fer és:
- Identificar els coneixements i els perfils professionals capacitats dins de l’organització.
- Identificar les capacitats tecnològiques actuals: tingues en compte que els proveïdors de sistemes d’informació tradicionals estan incorporant IA com a millora dels seus sistemes.
Aquest inventari permetrà detectar mancances i definir necessitats formatives i tecnològiques per a la implementació responsable de la IA.
2. Sensibilitza a l’organització
Explica al personal què és la IA i com pot impactar positivament en la seva feina. Comunica que comenceu a analitzar possibles usos en la vostra organització i que ho fareu de manera ordenada, respectant els valors i principis de respecte i protecció de les persones. Per a ajudar-te, a Local.IA trobaràs materials que t’ajudaran a fer aquesta comunicació interna (properament), com ara vídeos i Preguntes més freqüents.
3. Capacita el personal
Comença amb una capacitació bàsica i transversal del personal. Et recomanem començar pels membres del comitè i pels comandaments, fins a arribar a tots els tècnics i personal administratiu.
Et recomanem els itineraris que trobaràs a Local.IA que permeten donar cobertura a una capacitació bàsica i també a perfils que requereixen diferents graus d’especialització.
4. Identifica els casos d’ús en els quals aplicar la IA
Ara que els tècnics ja coneixen el potencial, els límits i els riscos, organitza grups de treball participatius per a identificar casos d’ús concrets en els que la IA generativa pot ajudar.
Per a inspirar-te, et recomanem la fitxa que trobaràs a Local.IA “Identificant casos d’ús d’aplicació de la IA” o el model canva per a definir projectes d’IA.
Busca un cas d’ús en què vulguis aplicar IA o IAGen per tal de solucionar un repte que al conjunt de l’organització afegeixi valor.
Fes un breu diagnòstic en aquests cinc àmbits:
a) Dades i qualitat de les dades
b) Infraestructura tecnologia i volumetria dels processos
c) Descripció detallada del procés que vull crear o transformar
d) Altres experiències similars que hagin estat documentades
e) Identificació de les persones i els professionals que necessito per impulsar el projecte
5. Aprova una instrucció interna d’ús de la IA
En funció de les capacitats, recursos i objectius, concreta quins sistemes i eines d’IA permetreu utilitzar dins de l’organització i per a quin usos.
Caldrà que definiu:
- les eines i usos permesos
- el procediment per autoritzar l’ús de la IA (per evitar perdre el control dels usos),
- qui s’encarregarà de supervisar i controlar els usos,
- si hi haurà formació obligatòria per als treballadors públics prèvia a l’ús de la IA,
- com complireu amb les obligacions de registre i transparència algorísmica,
- com assegureu els drets de la ciutadania
- quin impacte té en la prestació de serveis a la ciutadania i,
- qui i amb quina periodicitat realitzarà auditories sobre l’ús de la IA
Tots aquests aspectes queden reflectits en el model de normativa sobre l’ús de la IA a l’ens local. A Local.IA trobaràs un model de normativa interna per regular l’ús de la IA a la teva organització.
6. Concreta qui formarà part de l’Òrgan de supervisió i control de la IA, i les seves funcions
L'Òrgan de supervisió i control de la IA és el comitè que ha d’autoritzar els usos i eines d’IA permeses dins de l’organització. Entre les seves funcions cal destacar:
- Concretar els usos i sistemes d'IA admesos.
- Protocol·litzar el procés per a analitzar qualsevol tipus de biaix o discriminació i valorar l’adaptació al marc normatiu vigent.
A Local.IA trobaràs un model per a documentar proves de concepte amb IA. El model de “Documentació de prova de concepte” pot ser el punt de partida perquè l’Òrgan de supervisió i control pugui decidir si autoritza o no el seu ús. També trobaràs a l’apartat de recursos el model PIO, una metodologia per a analitzar en profunditat els riscos de l’aplicació de la IA en casos concrets.
- Fer seguiment del calendari d’auditories internes per verificar el compliment de les polítiques, la seguretat i l’eficàcia dels sistemes d’IA. Aquestes revisions ajudaran a identificar i corregir possibles desviacions.
7. Comunica internament de forma clara
Comunica i explica de forma clara a tots els treballadors públics els usos i eines permeses dins de l’organització, així com el protocol per a sol·licitar utilitzar la IA en l’entorn de treball i el procediment per a sol·licitar nous usos.
Comunica periòdicament novetats i bones pràctiques relacionades amb l’ús de la IA, assegurant una comunicació fluida i transparent.
8. Documenta els casos d’ús, realitza proves de concepte i defineix el procediment intern de sol·licitud d’autorització
Els casos d’ús, projectes pilot i/o proves de concepte s’han de documentar. A Local.IA trobaràs un model de fitxa per a fer-ho.
També trobaràs publicades les proves de concepte que hem elaborat des de l’Àrea d’Innovació, Integritat i Transformació Digital Local.
Si ens comparteixes la documentació de les teves proves de concepte, les hi donarem visibilitat i les compartirem amb el món local per compartir experiències.
Recomanem que l’òrgan de supervisió i control de l’ens local porti un registre centralitzat on es documentin tots els usos de la IA, així com incidències, errors o biaixos detectats. Aquesta eina serà clau per a la millora contínua i la gestió de riscos.
Et recomanem que identifiquis el valor esperat, és a dir, com mesuraràs l’estalvi o impacte de l’aplicació del cas d’ús.
9. Identifica l’impacte en els serveis: informa la ciutadania
Explica a la ciutadania que la teva organització utilitzarà la IA per la millora de l’eficiència i els serveis públics. A Local.IA et facilitem materials per a fer aquesta difusió [properament]. Explica on es poden consultar els usos, quins drets té la ciutadania i com exercir-los. Caldrà que revisis i adaptis els formularis digitals i en paper dels tràmits i serveis afectats.
10. Documenta i publica al portal de transparència la informació de transparència algorísmica
La normativa preveu la creació de “mecanismes” perquè els algorismes involucrats en la presa de decisions tinguin en compte criteris de transparència i explicabilitat. Davant de la falta de concreció de la normativa sobre els mecanismes per aconseguir la transparència algorísmica, el Consorci AOC proposa publicar al portal de transparència la següent fitxa: https://www.aoc.cat/wp-content/uploads/2023/05/FIT_TRANSP_ALGORISMICA_ESTRUCTURA_web.pdf.
Més informació a: https://www.aoc.cat/projecte-innovacio/transparencia-en-lus-dalgorismes-dintelligencia-artificial-a-laoc/
Si has elaborat la documentació de la prova de concepte ja disposaràs de bona part de la informació que cal publicar.