29/07/2025 10:59 h.
Transparència en l’ús de la IA: l’AOC obre camí amb informes entenedors
L’ús de la intel·ligència artificial (IA) en l’àmbit local està creixent ràpidament, aportant eficiència en àrees com la gestió de tràmits, la predicció de necessitats socials o l’atenció ciutadana. Però aquest avenç també comporta reptes importants en matèria de transparència, drets i confiança ciutadana.
Per què és important?
Els sistemes d’IA poden influir en decisions que afecten directament les persones. Per això, garantir-ne un ús ètic, segur i comprensible és clau per mantenir la confiança ciutadana. El nou Reglament Europeu d’IA estableix obligacions per assegurar que aquests sistemes siguin fiables, transparents i respectuosos amb els drets fonamentals.
En aquest sentit, l’Administració Oberta de Catalunya (AOC) ha impulsat la definició d'una fitxa de transparència algorísmica que explica de manera clara com funciona cada sistema, quins riscos comporta, quins drets pot afectar i quins mecanismes de recurs hi ha disponibles.
Fins ara, s’han publicat quatre informes de transparència que analitzen casos com:
- Els xatbots conversacionals,
- La videoidentificació per obtenir l’idCAT Mòbil,
- L’automatització de l’informe de pobresa energètica,
- I els xatbots amb IA generativa.
Quines obligacions tenen els ens locals?
Els ens locals que utilitzin sistemes d’IA —especialment aquells basats en models de propòsit general— han de:
- Exigir documentació tècnica i funcional als proveïdors (finalitat, dades utilitzades, limitacions, mesures de seguretat, etc.)
- Garantir el respecte als drets fonamentals, especialment en sistemes de risc alt (salut, educació, contractació pública...)
- Formar el personal tècnic i jurídic en el compliment del reglament
Per on es pot començar?
- Revisant els contractes amb proveïdors de sistemes d’IA per assegurar que inclouen les obligacions de transparència.
- Designant responsables interns per supervisar l’ús de la IA
- Consultant l'oferta formativa que ofereix la Diputació de Barcelona en matèria de IA
- Contactant amb la Diputació per rebre suport i orientació
👉 Des de Local.IA, celebrem iniciatives com la de l’AOC, que contribueixen a construir una comunitat col·laborativa per a un ús responsable, ètic i compartit de la intel·ligència artificial en el sector públic.
Pots mantenir-te al dia de les novetats de Local.IA donant-te d’alta al nostre butlletí. SUBSCRIU-TE
Vols que aprofundim sobre algun tema?