La intel·ligència artificial i la regulació pública, amb especial atenció al món local: sisè Living Lab de Bon Govern i Qualitat de la Regulació

El passat 18 de novembre de 2024 va tenir lloc a la seu de la Fundació Bosch i Gimpera de la Universitat de Barcelona el sisè living lab de Bon Govern i Qualitat de la Regulació (sobre els anteriors, feu clic aquí).

Com és sabut, un living lab és un sistema per innovar en reptes socials de manera col·laborativa. Les diferències principals entre el model Living Lab i altres models participatius tradicionals serien que aporta contextos més creatius, amb horitzontalitat i empatia; més representatius, ja que la comunitat que hi participa (que va més enllà de la purament acadèmica) s’articula en funció del repte a resoldre; i més innovadors, ja que cerca l’experimentació, la cocreació amb línies de maduració més llargues. A més, aquest tipus de Living Lab es pot constituir en un hub per compartir informació i experiències. Cada cop més, les universitats utilitzen aquesta metodologia en col·laboració amb el sector públic, el privat i el tercer sector.

En aquesta ocasió, el living lab va versar sobre la intel·ligència artificial i la regulació pública, amb especial èmfasi en el nivell local, tenint molt present el nou Reglament de la UE sobre aquest tema, publicat al DOUE del passat 12 de juliol.

El programa es va articular en tres blocs amb diversos moments per intercanviar opinions entre les desenes d’assistents, tant presencialment com en línia:

Aquests blocs es van iniciar amb una presentació i es van desenvolupar de la mà de diversos professors, que van introduir les qüestions i problemes principals i van donar pas a debats amb membres del sector públic i privat, moderats per un dels codirectors i el coordinador de l’Anuari:

Més enllà de la petita ressenya que s’efectuarà a continuació, el vídeo complet de l’activitat està disponible aquí.

El professor Cerrillo va introduir la relació entre IA, polítiques públiques locals i regulació actualment existent, incloent-hi el Reglament europeu, el qual preveu l’elaboració futura de Codis de Pràctiques, existint ja un esborrany d’un referit a la IA general, com es va destacar a les converses. Com és sabut, els Codis de Pràctiques estan previstos a l’art. 56 del Reglament i són elaborats per l’Oficina d’AI i un ampli ventall de parts interessades. Així mateix, es va fer referència a l’Ordenança d’Administració digital de Tarragona o al Protocol de l’Ajuntament de Barcelona sobre IA. D’altra banda, es va fer referència a la necessitat d’individualitzar localment el desenvolupament de la IA mitjançant codis ètics que s’ocupin, per exemple, de l’ús del conegut ChatGPT. A la conversa suscitada es van posar en relleu qüestions com, per exemple, la possible utilitat d’una Guia per a l’ús de la IA al món local, a imatge i semblança de l’existent al Regne Unit respecte al poder judicial.

Al segon bloc de conversa, els profs. Miranzo i Galindo es van ocupar d’introduir idees respecte a la IA i el seu impacte al món local en els àmbits de contractació i ocupació pública. jubilacions que s’esperen al sector públic no ha modificat en molts casos el mode de selecció dels futurs empleats públics, dels quals, fins ara, han constituït la columna vertebral de les AAPP els dels nivells C1 i C2. El canvi d’escenari que suposa la IA imposa una modificació en tots dos aspectes, i s’ha d’incrementar l’ingrés de nous perfils d’empleats públics i una formació continuada que aprofundeixi l’alfabetització a IA (art . 4 Reglament europeu).

D’altra banda, la compra de sistemes d’IA al sector privat implica els riscos de la seva dependència per part del públic i el desplaçament als privats de decisions que corresponen a les autoritats, així com possibles supòsits d’opacitat per límits de la transparència de la IA a causa del dret a la propietat intel·lectual, per exemple.

En tot cas, es va destacar la importància de l’ajuda que es pugui prestar als municipis de mida petita en relació amb la IA per part d’instàncies supramunicipals. En aquest sentit, es va al·ludir a l’art. les competències pròpies provincials quant “a prestació dels serveis d’administració electrònica i la contractació centralitzada als municipis amb població inferior a 20.000 habitants”, i la necessitat de reflexionar sobre aquesta qüestió.

Així mateix, es va posar en relleu el problema que se suscita si una Administració pretén emprar dades obtingudes per a una finalitat d’interès general en relació amb una altra, com ara desenvolupar una activitat proactiva mitjançant IA (així, per exemple, concessió d’ajudes d’ofici) , en relació amb la necessitat de consentiment per a l’ús de les dades esmentades.

Al tercer i darrer bloc, la senyora Ascen Moro va exposar les experiències municipals d’ús d’IA, especialment de l’Ajuntament de Sant Feliu del Llobregat, on s’empra per predir la vulnerabilitat social o les necessitats de la gent gran. Així mateix, es va fer referència al programa Atenea com a element de lluita contra la bretxa digital. Després, el prof. Martínez i el Dr. en filosofia i advocat Javier de la Cueva van tancar la introducció a aquest bloc amb referències a la responsabilitat patrimonial de l’Administració i al control judicial de l’ús de la IA per part de les AAPP.

El prof. Martínez es va referir als aspectes positius del sistema de responsabilitat patrimonial objectiu teòricament existent a Espanya, plantejant qüestions problemàtiques vinculades a danys causats per biaixos, filtració de dades, informació proporcionada per bots o danys materials causats per activitats materials o tècniques (drons, àmbit sanitari …). Així mateix, s’ha referit, entre altres qüestions, al paper de la clàusula de progrés de l’art. 34 LRJSP oa la qüestió, més general, de si la por a la responsabilitat patrimonial podria arribar a frenar el desenvolupament de la IA al sector públic local, així com a l’interès de considerar aspectes de responsabilitat vinculats a la intervenció d’un contractista.

Per part de Javier de la Cova es van tractar diversos temes vinculats amb el canvi civilitzatori que suposa la IA, els problemes en el control del poder al segle XXI davant de les grans empreses tecnològiques, que suposen un canvi de paradigma respecte al Dret sorgit de les revolucions liberals del segle XVIII i XIX, davant del que les nostres Constitucions, amb les seves declaracions de drets tradicionals, no estan preparades. En la conversa posterior van sorgir diversos temes vinculats a temes de responsabilitat i de control judicial, amb referències al conegut cas BOSCO, que ja ha donat lloc a dues sentències, el 2021 i el 2024.

L’activitat es va tancar amb la previsió de la publicació futura de l’Anuari del Bon Govern i de la Qualitat de la Regulació, que recollirà les aportacions del living lab i serà publicat abans de l’estiu del 2025.

Finalment, recordeu que el vídeo complet de l’activitat està disponible a continuació: