17/06/2026 13:31 h.
Models d’intel·ligència artificial per al sector públic: de l’ús de models oberts a la seva governança
Impulsar una IA pública, ètica, sobirana, sostenible i segura no passarà per accident. Requereix consciència, intenció i acció en 4 capes essencials dels sistemes d’intel·ligència artificial: els models de llenguatge, les dades que l’alimenten, els algorismes i la infraestructura (als que cal afegir l’ús que en fa l’usuari).
Avui aportem llum per donar resposta a una de les grans qüestions: Quins models d’intel·ligència artificial pot utilitzar una administració pública amb garanties?
Durant els darrers anys han aparegut repositoris i plataformes com Hugging Face, GitHub Models, Kaggle Models, TensorFlow Hub, PyTorch Hub, ModelScope, Zenodo o AI4Europe, que permeten descobrir, provar i reutilitzar models d’IA. Hugging Face, en particular, s’ha convertit en un dels principals espais per compartir models, conjunts de dades i documentació tècnica. La seva pròpia documentació defineix les model cards (fitxes del model) com fitxers que acompanyen els models i que haurien de descriure el model, els seus usos previstos, limitacions, biaixos, consideracions ètiques, paràmetres d’entrenament, datasets utilitzats i resultats d’avaluació.
Però per a una administració pública això no és suficient. No n’hi ha prou amb saber que un model és “obert”, “potent” o “molt descarregat”. Cal saber qui l’ha creat, amb quines dades, sota quina llicència, amb quines proves, amb quins riscos i amb quin nivell de traçabilitat.
La nova frontera de la IA pública no és només l’accés als models. És la seva governança documental, jurídica i ètica.
No tots els models oberts són igualment reutilitzables
Un dels errors més habituals és pensar que un model publicat en un repositori obert ja és automàticament apte per a l’ús públic. La realitat és molt més complexa.
Hi ha models descarregables però sense informació clara sobre les dades d’entrenament. Altres indiquen la llicència del model, però no les llicències dels conjunts de dades utilitzats. Alguns publiquen bons resultats tècnics, però no expliquen si han estat avaluats en termes de biaix, toxicitat, seguretat o privacitat. I molts models no documenten suficientment si poden memoritzar o reproduir fragments sensibles del corpus d’entrenament.
Això és especialment rellevant per al sector públic. Les administracions gestionen dades personals, expedients administratius, informació social, sanitària, fiscal, territorial i documental. També treballen amb procediments que poden afectar drets, interessos legítims i obligacions de la ciutadania. Per tant, un model d’IA no pot ser incorporat només perquè “funciona bé”. Ha de ser explicable, verificable, auditable i jurídicament defensable.
Aquí és on le fitxes del models passen de ser una bona pràctica tècnica a convertir-se en una eina de governança pública.
La fitxa tècnica del model hauria de ser obligatòria
En el món del programari públic, és normal exigir documentació tècnica, requisits de seguretat, arquitectura, integracions, manteniment, llicències i responsabilitats. Amb els models d’IA hauria de passar el mateix.
Una administració no hauria d’utilitzar un model si no disposa d’una fitxa tècnica suficient. Aquesta fitxa hauria d’incloure, com a mínim, els elements següents:
- Identificació del model: Nom, versió, responsable, organització i repositori oficial.
- Tipus de model: Text, traducció, àudio, visió, multimodal, anonimització, etc.
- Dades d’entrenament: Fonts utilitzades, datasets, corpus, origen i criteris de selecció.
- Llicències: Llicència del model i llicències dels datasets utilitzats.
- Avaluació tècnica: Mètriques, benchmarks, proves de rendiment i limitacions.
- Biaixos detectats: Resultats de proves de biaix lingüístic, social, territorial o de gènere.
- Seguretat: Proves de toxicitat, robustesa, ús indegut i vulnerabilitats.
- Privacitat: Riscos de dades personals, memorització, filtratge i anonimització.
- Sostenibilitat: Cost computacional, mida del model, eficiència i requisits d’infraestructura.
- Desplegament: Possibilitat d’ús on-premise, núvol sobirà, logs, retenció i telemetria.
- Supervisió humana: En quins casos cal revisió humana obligatòria.
La idea és clara: no s’hauria d’homologar cap model d’IA per a ús administratiu sense una fitxa tècnica completa.
Aquesta fitxa no hauria de ser només una pàgina informativa del repositori. Hauria de funcionar com un document de responsabilitat: una declaració formal del proveïdor o de l’equip desenvolupador sobre les dades utilitzades, les llicències aplicables, els riscos detectats i les condicions d’ús.
El gran buit actual: la transparència encara és incompleta
L’anàlisi de models oberts i privats mostra una conclusió molt rellevant: avui hi ha models amb documentació molt bona, però és difícil trobar models que compleixin completament, en un únic artefacte verificable, tots els requisits que una administració pública hauria d’exigir.
Hi ha models molt interessants en termes de rendiment, llicència oberta o capacitat de desplegament local. Però sovint falta alguna peça: la llista completa de conjunts de dades, les llicències de cadascuna de les fonts, les proves públiques de privacitat, els tests de biaix o una declaració formalment verificable.
Això no vol dir que aquests models no es puguin utilitzar. Vol dir que cal classificar-los correctament:
- Apte per a producció condicionada: Model amb bona documentació, llicència clara i desplegament controlable, però amb proves pròpies addicionals.
- Apte per a pilot o sandbox: Model prometedor, però amb mancances documentals o restriccions de llicència.
- No homologable sense annexos: Model sense dades suficients sobre origen, llicències, riscos o privacitat.
Aquest enfocament és especialment important per a la contractació pública. La compra pública no hauria de valorar només el rendiment del model, sinó també la qualitat de la seva documentació.
Models que mostren bones pràctiques
Algunes famílies de models destaquen com a bons candidats per iniciar una cartera pública de models homologables.
Els models ALIA, impulsats des de l’ecosistema del Barcelona Supercomputing Center, són especialment rellevants per a les llengües cooficials en els estats de la UE. El model ALIA-40b-Instruct es presenta amb llicència Apache 2.0 i documentació sobre dades, llengües, usos previstos i recomanacions de seguretat, fet que el converteix en un candidat d’alt interès per a administracions que necessiten treballar en castellà, català, gallec, euskera i altres llengües europees.
Els models OLMo, desenvolupats per AllenAI, són també una referència rellevant perquè han posat molt d’èmfasi en l’obertura de dades, codi, receptes d’entrenament i documentació. OLMo-2-1124-7B-Instruct, per exemple, està publicat amb llicència Apache 2.0 i s’acompanya de documentació tècnica i datasets associats, fet que el fa especialment interessant per a recerca, auditoria i entorns on la transparència és prioritària.
En l’àmbit privat, la família IBM Granite és un dels exemples més sòlids de documentació orientada a usos empresarials i institucionals. IBM publica model cards específiques, informació sobre llicència, arquitectura, avaluació i limitacions, i alguns models Granite es distribueixen sota Apache 2.0, cosa que facilita el seu desplegament en entorns controlats.
També són interessants models especialitzats com Granite Docling, orientat a comprensió documental, extracció estructurada, OCR i tractament de documents. Aquest tipus de model és especialment rellevant per a administracions públiques, perquè molts processos administratius continuen depenent de formularis, PDFs, expedients escanejats, taules i documents semiestructurats.
Ara bé, fins i tot en aquests casos més madurs, la recomanació és clara: abans d’un ús en producció, l’administració hauria de fer una validació pròpia sobre dades, biaixos, privacitat, seguretat i adequació al cas d’ús concret. Potser en aquest punt et preguntes... perquè Claude desenvolupat per Anthropic no es troba en aquesta llista? Claude disposa de documentació orientada principalment a la seguretat, el comportament i les limitacions d’ús, però presenta una menor transparència pel que fa a la seva base d’entrenament. Les seves fitxes de model o documents equivalents no inclouen els conjunts de dades d’entrenament detallats ni la seva procedència completa, la traçabilitat de les dades utilitzades, ni la possibilitat d’auditar externament el procés d’entrenament a nivell de dades o pesos del model.
GitHub Models no substitueix la fitxa tècnica
GitHub també té un paper important en aquest ecosistema. Molts projectes publiquen a GitHub el codi, scripts d’entrenament, instruccions de desplegament, pesos o documentació complementària. A més, GitHub Models permet descobrir, provar i comparar models des de l’entorn de desenvolupament.
Però cal entendre que, tot i que GitHub Models pot ser molt útil per experimentar, prototipar i avaluar models, no substitueix una fitxa tècnica completa de governança pública. Que un model sigui accessible des d’un catàleg o una API no significa que es coneguin totes les dades d’entrenament, totes les llicències, tots els riscos o totes les condicions de reutilització.
Per això, per a una administració pública, GitHub, Hugging Face o qualsevol altre repositori haurien de ser punts de partida, no punts finals. La decisió d’ús hauria de dependre d’una avaluació pròpia i d’una documentació mínima exigible.
Exemples d’ús públic amb garanties
Imaginem un ajuntament que vol automatitzar la classificació d’instàncies genèriques. El model pot llegir el text de la sol·licitud, detectar si parla d’urbanisme, via pública, medi ambient, padró o serveis socials, i proposar una derivació inicial. Però abans d’utilitzar-lo caldria saber amb quins textos s’ha entrenat, si entén correctament el llenguatge administratiu local, si funciona en català i castellà, si produeix errors sistemàtics i si pot tractar dades personals amb garanties.
Un altre cas és la transcripció de plens municipals. Un model d’àudio a text pot generar una primera versió de l’acta o facilitar subtítols automàtics. Però caldria comprovar si el model reconeix bé accents, noms de municipis, topònims, llenguatge jurídic i intervencions amb soroll ambiental. També caldria verificar si l’àudio s’envia a un tercer o si es pot processar localment.
Un tercer exemple és l’anonimització documental. Abans de publicar resolucions, convenis, informes o datasets, un model pot ajudar a detectar noms, DNI, telèfons, adreces i correus electrònics. Però la decisió final no pot quedar només en mans del model. Cal mesurar falsos negatius, revisar casos sensibles i mantenir supervisió humana.
En tots aquests exemples, la tecnologia és útil. Però la garantia no ve només del model. Ve del sistema de governança que l’envolta.
Cap a una cartera pública de models homologats
La proposta més innovadora per a les administracions no és tenir un únic model d’IA, sinó construir una cartera pública de models homologats.
Aquesta cartera podria classificar els models per funció:
- Gestió documental : Classificació, resum, extracció d’entitats, cerca semàntica.
- Protecció de dades: Anonimització, detecció de PII, pseudonimització.
- Multilingüisme: Traducció entre castellà, català, gallec, euskera i altres llengües.
- Àudio: Transcripció, subtitulat, accessibilitat.
- Document intelligence: OCR, lectura de formularis, extracció de taules.
- Atenció ciutadana: Assistents interns, suport a respostes, lectura fàcil.
- Seguretat: Detecció de contingut inadequat, toxicitat o ús indegut.
Cada model hauria d’estar classificat com a model de laboratori, model de pilot, model autoritzat per a ús intern o model autoritzat per a producció. I cada categoria hauria de tenir condicions diferents de control, supervisió i auditoria.
Això permetria a les administracions deixar enrere la improvització i avançar cap a una gestió madura dels models d’IA.
La fitxa de model com a criteri de valoració enla contractació pública
Una de les idees més potents és incorporar la valoració de la fitxa tècnica del model a les licitacions públiques.
Quan una empresa ofereixi una solució basada en IA, l’administració hauria de poder valorar:
- La fitxa tècnica completa del model.
- La versió exacta utilitzada.
- La llicència del model i dels datasets.
- La identificació dels models base.
- Les proves de biaix, toxicitat, seguretat i privacitat.
- Les condicions de desplegament i allotjament.
- La política de logs, retenció i reutilització de dades.
- Les garanties de no entrenament amb dades de l’administració sense autorització.
- Els mecanismes d’auditoria, traçabilitat i actualització.
- Les condicions de supervisió humana.
Això canviaria completament la manera de contractar IA. Ja no es compraria només una aplicació, sinó també la seva evidència tècnica, jurídica i ètica.
En conclusió, la millor IA pública serà la més governada
La intel·ligència artificial pot ajudar molt les administracions públiques. Pot reduir temps de tramitació, millorar la classificació documental, facilitar la publicació de dades obertes, reforçar l’accessibilitat, ajudar a redactar documents, traduir continguts i fer més eficient la gestió interna.
Però en el sector públic no n’hi ha prou amb innovar. Cal innovar amb garanties.
La millor IA per a una administració no serà necessàriament la més gran, la més famosa o la més ràpida. Serà aquella que pugui explicar d’on ve, com ha estat entrenada, quins riscos té, com es pot auditar i sota quines condicions pot utilitzar-se.
La nova agenda pública de la IA hauria de començar per aquí: models oberts, sí; però sobretot models documentats, verificables, auditables i governats.
Perquè la confiança ciutadana no es construeix només amb tecnologia. Es construeix amb transparència, responsabilitat i capacitat institucional per controlar allò que s’incorpora als serveis públics.