29/01/2026 12:01 h.
Primera IA privada amb un marc “constitucional” orientat a la seguretat i l’ètica
L’empresa tecnològica Anthropic ha anunciat el desenvolupament del seu nou model d’intel·ligència artificial, Claude 3.7, basat en un sistema internalitzat de principis ètics que anomena “IA constitucional”. Aquest enfocament s’articula com una nova metodologia per garantir que els sistemes generatius operin sota criteris de transparència, seguretat i respecte als drets fonamentals.
La companyia destaca que aquest marc normatiu intern redueix la dependència de filtres manuals i sistemes de supervisió externs, incorporant un conjunt de principis que orienten el model a actuar de manera honesta, prudent i no perjudicial. Entre aquests principis hi figuren la protecció de dades, el respecte per la legalitat vigent, la no participació en activitats sensibles o de risc i el compromís amb la veracitat informativa.
Cap a un nou marc de governança de la IA
La presentació del model ha reobert el debat sobre com s’han de governar i regular les tecnologies d’IA avançada, especialment en un context marcat per l’entrada en vigor del Reglament Europeu d’Intel·ligència Artificial (AI Act). Aquestes noves aproximacions posen sobre la taula la necessitat d’establir mecanismes de control que combinin criteris tècnics, ètics i legals, i que garanteixin la rendició de comptes en models cada vegada més sofisticats.
Organismes internacionals, governs i sector privat coincideixen que la pròxima generació de sistemes d’IA requerirà marcs més robustos per prevenir biaixos, minimitzar riscos i reforçar la confiança ciutadana en la tecnologia.
Impacte per a les administracions públiques locals
Per a les administracions locals —ajuntaments, organismes supramunicipals i entitats vinculades—, l’evolució cap a models d’IA “constitucionals” representa una oportunitat i un repte alhora:
- Millora de la seguretat i fiabilitat: L’ús d’eines basades en principis ètics explícits pot reduir riscos en processos administratius, atenció ciutadana, gestió documental i automatització de serveis.
- Adequació al marc normatiu europeu: Alinea els sistemes tecnològics utilitzats per les administracions amb les exigències del marc normatiu, especialment en matèria de transparència i gestió de riscos.
- Impuls de la confiança ciutadana: Les administracions són responsables de garantir que els serveis digitals operin amb criteris de seguretat, equitat i no discriminació. Models amb principis explícits reforcen aquest compromís.
- Planificació i governança tecnològica: La irrupció d’aquestes noves capacitats fa necessari que els ens locals revisin les seves estratègies de digitalització, polítiques de dades i criteris de contractació de solucions basades en IA.
En aquest context, les administracions públiques locals poden beneficiar-se d’aquesta nova generació de models, sempre que s’integrin dins d’un marc responsable i coordinat, que combini tecnologia avançada amb garanties ètiques, legals i organitzatives.