Clàusula tècnica per a la contractació pública de sistemes d'IA de risc limitat o mínim
Aquesta clàusula tècnica ofereix un marc de referència detallat per a la contractació pública de sistemes d’intel·ligència artificial classificats com a risc limitat o mínim, d’acord amb el Reglament (UE) 2024/1689. El seu objectiu és facilitar als ens locals la incorporació responsable d’aquest tipus de solucions, assegurant el compliment normatiu, la seguretat jurídica i la protecció dels drets fonamentals de la ciutadania.
A Local.iA ens han arribat diverses peticions relacionades amb les clàusules tècniques a incloure en els plecs per contractar serveis que incorporen IA o de projectes per desplegar IA.
Les clàusules de contractació (les garanties que requerim al proveïdor) són diferents segons el nivell de risc. En la majoria dels casos, les administracions contracten serveis per desenvolupar sistemes de risc limitat o mínim.
Per tant, us compartim la proposta de clàusula tècnica per a la contractació pública de sistemes d’intel·ligència artificial classificats com a risc limitat o mínim, d’acord amb el Reglament (UE) 2024/1689. Aquesta cláusula pretén ajudar als ens locals a incorporar d'una manera responsable aquest tipus de solucions, garantint el compliment normatiu, la seguretat jurídica i la protecció dels drets fonamentals de la ciutadania.
El document concreta les obligacions que han d’assumir les empreses contractistes relacionades amb la transparència i l'explicabilitat del seu funcionament, la supervisió humana efectiva, la robustesa tècnica i la ciberseguretat. Així mateix, estableix criteris clars en matèria de governança de dades, gestió de riscos, traçabilitat i no discriminació, per tal de garantir que les dades de l’ens local no s'utilitzaran indegudament ni serviran per entrenar models sense que tinguin l'autorització expressa.
La clàusula també preveu mecanismes de seguiment i vigilància del sistema al llarg del seu cicle de vida, així com l’obligació de revisar-ne la classificació si es produeixen canvis substancials en la seva finalitat prevista. En conjunt, es tracta d’un instrument pràctic i alineat amb el marc europeu que dona suport als ens locals en la contractació de solucions d'IA, i que promou un ús ètic, transparent i responsable d'aquesta tecnologia.
Per als sistemes considerats d’alt risc, el grau de garanties fan molt més complex determinar una clàusula tipus. En aquests casos, us recomanem buscar suport especialitzat segons el sistema d'IA que s'hagi de licitar. En tot cas, hem elaborat també una guia dels aspectes que convé tenir presents en la contractació per als sistemes d’alt risc