20/05/2026 13:35 h.
Declaració europea de drets i principis digitals: nou full de ruta per a l'ètica algorítmica
Les institucions europees han dissenyat l'itinerari cap a la transformació digital de les administracions públiques fins al 2030: la Declaració Europea sobre els Drets i Principis Digitals. Es tracta d’un compromís polític que referma que les persones i els drets fonamentals han de ser el centre de qualsevol innovació tecnològica, també de la IA.
Sota la premissa que "allò que és il·legal fora de línia, també és il·legal en línia", es marca un camí clar per garantir que la tecnologia serveix per empoderar la ciutadania i no per restringir-la. Us exposem els principals punts d'aquesta declaració:
La IA al servei de les persones: de la transparència a la supervisió humana
Respecte a la interacció amb algoritmes i sistemes d'intel·ligència artificial, La Declaració estableix que la IA ha de ser, per sobre de tot, un instrument al servei de les persones i contribuir al benestar humà. També fa referència a que tota persona hauria d’estar empoderada per beneficiar-se dels avantatges de la IA, sobretot per poder prendre les seves pròpies decisions amb coneixement de causa en l’entorn digital i per estar protegida davant els riscos existents.
Aquest punt deixa un encàrrec per a les treballadores i treballadors públics que dissenyen o apliquen aquestes eines en serveis de proximitat:
- Transparència: tota persona té dret a saber quan està interactuant amb un sistema d'IA o quan un algoritme està influint en una decisió que l'afecta
- Explicabilitat: l’administració ha de ser capaç d’explicar aquests processos de manera comprensible
- Mesures de control (guardarails): s’han d’adoptar mesures perquè la IA i els sistemes digitals siguin segurs i respectin plenament els drets fonamentals.
- Supervisió humana obligatòria: en àmbits que afectin la seguretat o els drets fonamentals de la ciutadania, els sistemes algorítmics han d'estar sempre sota la vigilància d'un professional humà.
Adeu als biaixos!
Per altra banda, ja sabem que els sistemes d'IA sovint no són neutres, i que els conjunts de dades que s’utilitzen poden ser de baixa qualitat o aquestes ser poc representatives. La Declaració remarca la importància de treballar per aconseguir sistemes de IA públics, sobirans, segurs i ètics, sobretot des de les administracions públiques:
- Dades sense biaixos: utilitzen conjunts de dades de qualitat per entrenar els algoritmes, amb l'objectiu d'evitar qualsevol tipus de discriminació en la prestació de serveis públics
- Autonomia en la decisió: la tecnologia no es fa servir mai per anticipar-se o predeterminar les decisions de les persones en àrees sensibles com la salut, l'educació o l'ocupació
- L’objectiu és que la ciutadania mantingui la seva capacitat de tria amb coneixement de causa
Una guia útil
Aquesta declaració insta, també els servidors públics, a liderar una transformació digital que no deixi ningú enrere, protegint especialment els més vulnerables i s'asseguri que l'eficiència dels algoritmes no passa mai per davant de la dignitat humana i els drets fonamentals.
Des de Local.IA hem treballat un model d’instrucció interna per facilitar la implantació de sistemes d’intel·ligència artificial que siguin ètics, segurs i transparents, i que recullin també les recomanacions de la Declaració Europea de Drets i Principis Digitals i la normativa vigent. Així doncs, la Declaració constitueix una guia útil per establir els fonaments dels projectes i sistemes d'IA al món local, i la instrucció permet fer un pas més en el respecte pels drets fonamentals i pels principis de bon govern en serveis i processos públics.
Vols consultar la Declaració completa? Pots fer-ho aquí!