19/11/2025 18:18 h.
Somies amb una IA pública, sobirana i respectuosa? Això no passarà per accident
Si volem una IA pública, sobirana, responsable, transparent, explicable i sostenible cal que hi posem intenció. Perquè si volem donar contingut a aquests conceptes des de la convicció cal començar a prendre decisions.
Fer-ho realitat requerirà de cada actor de l'ecosistema: administracions en tots els seus nivells, empreses i ciutadania. En aquest article us expliquem què podeu fer per posar el vostre granet de sorra si treballeu a l'administració pública i eu facilitem alguns recursos interessants.
Una IA pública, sobirana, responsable, transparent, explicable i sostenible és possible, però no passarà per accident
Per a una IA pública i sobirana hem d'enfortir els models fundacionals europeus. Què és un model fundacional i perquè són tan importants? Un model fundacional és el que el reglament d'IA europeu identifica com un model d'IA d'ús general. Es tracta de la base sobre la qual es desenvolupen eines, aplicacions i han estat entrenats amb milions de dades. Conèixer quines dades, en quina representativitat d'idees i d'idiomes, l'objectivitat de les fonts... esdevé essencial per a construir aplicacions en base a model ben equilibrats i lliures de biaixos (us recomanem la ponència del David Masip (https://blogs.uoc.edu/edcp/ca/explicabilitat-en-models-ia-i-biaixos-entrenament-de-models/).
Però com podem des de l'administració ajudar a impulsar aquests models funcionals públics i millorar el seu entrenament?
- Compartint dades públiques de qualitat: Els models d’IA generalistes aprenen millor amb dades diverses i fiables. L'obertura de dades ben estructurades i de qualitat és essencial.
- Participant en projectes pilot de la UE. Moltes iniciatives de la UE busquen col·laboradors per testejar models d’IA (ex.: AI4PublicServices, Horizon Europe, AI Watch). Això ajuda els models a aprendre amb escenaris del món real i no només amb grans ciutats.
- Proporcionar retorn operatiu als desenvolupadors quan s'utilitzen eines d’IA (per exemple, assistents per a tràmits). Cal recollir errors, suggeriments i problemes recurrents. Aquest retorn és molt valuós per entrenar models perquè siguin més precisos en entorns municipals petits.
- Potenciant l'ús de models fundacionals públics per davant de models privats, per exemple, en els processos de licitació. No sempre el model públic satisfarà les nostres necessitats, però és important demanar al licitador que documenti l'efectivitat i consum de diferents models públics i privats, per poder prendre decisions de forma conscient.
- Col·laborant amb universitats o centres tecnològics, com ara el Barcelona Supercomputing Center, que sovint impulsen campanyes per recopilar dades o validar models.
Com podem des de l'administració promoure una IA més sostenible?
No és cap secret que la IA generativa té un impacte ambiental significatiu, tot i que variable segons la mida del model i l’eficiència del sistema.
- Incorpora la IA només en projectes on realment hi haurà un retorn significatiu, amb impacte directe en ciutadans o eficiència interna. Fes una valoració prèvia del valor que aportarà.
- Prioritza en les licitacions models lleugers i adaptats al cas concret. Evita desplegar models massius sense necessitat. Demana al proveïdor informació de consum energètic i recursos per valorar eficiència.
- Demana al proveïdor que documenti les proves realitzades amb diferents models. Pren les decisions ponderant tots els aspectes: consum, eficiència, temps de resposta i qualitat de les respostes.
- Analitza si pots acotar l'ús de la IA generativa, per exemple, per generar regles de comportament o classificacions que permetin reduir l'ús de la IA generativa en els projectes.
En resum, és recomanable prioritzar models més petits i optimitzats i tècniques d’inferència eficients, equilibrant l’eficiència amb el benefici real dels serveis que ofereix l’IA.
Com podem des de l'administració ser més transparents?
- Inventaria i classifica segons nivell de risc els casos que tens en marxa a la teva organització
- Demana al proveïdor documentació tècnica comprensible sobre els models s’utilitzen, amb quines dades i instruccions s'han perfilat i amb quina finalitat. En aquest sentit, pots descarregar el model de Local.iA de prova de concepte (https://www.diba.cat/ca/web/local-ia/materials-ia). Publica també informes senzills d'ús, impacte i decisions automatitzades perquè els ciutadans puguin comprendre-les.
- Demana al proveïdor documentació tècnica sobre la qualitat i biaixos de les dades d'entrenament o que serveixen per prendre decisions. Dona accés públic, quan sigui possible, a conjunts de dades oberts i metadades (anonimitzades i depurades).
- Mantingues un canal de comunicació ciutadà: denúncies o errors detectats per usuaris poden ajudar a corregir biaixos.
I en tots aquests aspectes estem treballant a Local.iA A Local.iA trobaràs serveis, itineraris de formació i models i instruments pensats per a ser utilitzats de forma fàcil per administracions o proveïdors.
Si has arribat fins aquí i t'interessa el tema, només us donarem dos consells:
- Estigues al dia dels recursos que tens gratuïtament disponibles a Local.iA: dona't d'alta al nostre butlletí perquè estem elaborant nous materials que publicarem en els propers mesos en obert. No te'ls perdis! https://www.diba.cat/ca/web/local-ia/butlletins
- Governa la dada: no podràs construir la IA ni automatitzar processos sobre dades duplicades, sense estandarditzar, de les que no puguis assegurar la confiabilitat. És el pas 0. Així que inverteix en governar les dades. Si t'interessa aquest tema, indica'ns que t'ha agradat aquest tema i continuarem aprofondint.