La inteligencia artificial y la regulación pública, con especial atención al mundo local: sexto Living Lab de Buen Gobierno y Calidad de la Regulación

El pasado 18 de noviembre de 2024 tuvo lugar en la sede de la Fundación Bosch i Gimpera de la Universidad de Barcelona el sexto living lab de Buen Gobierno y Calidad de la Regulación (sobre los anteriores, véase aquí).

Como es sabido, un living lab es un sistema para innovar en retos sociales de manera colaborativa. Las principales diferencias entre el modelo Living Lab y otros modelos participativos tradicionales serían que aporta contextos más creativos, con horizontalidad y empatía; más representativos, pues la comunidad que participa (que va más allá de la puramente académica) se articula en función del reto a resolver; y más innovadores, pues busca la experimentación, la cocreación con líneas de maduración más largas. Además, este tipo de Living Lab puede constituirse en un hub para compartir información y experiencias. Cada vez más, las universidades utilizan esta metodología en colaboración con el sector público, el privado y el tercer sector.

En esta ocasión, el living lab versó sobre la inteligencia artificial y la regulación pública, con especial énfasis en el nivel local, teniendo muy presente el nuevo Reglamento de la UE sobre este tema, publicado en el DOUE del pasado 12 de julio.

El programa se articuló en tres bloques con varios momentos para el intercambio de opiniones entre las decenas de asistentes, tanto presencialmente como en línea:

Estos bloques se iniciaron con una presentación y se desarrollaron de la mano de diversos profesores, que introdujeron las cuestiones y problemas principales y dieron paso a debates con miembros del sector público y privado, moderados por uno de los codirectores y el coordinador del Anuario:

Más allá de la pequeña reseña que se va a efectuar a continuación, el video completo de la actividad está disponible aquí.

El profesor Cerrillo introdujo la relación entre IA, políticas públicas locales y regulación actualmente existente, incluyendo el Reglamento europeo, el cual prevé la elaboración futura de Códigos de Prácticas, existiendo ya un borrador de uno de ellos referido a la IA general, como se destacó en las conversaciones. Como es sabido, los Códigos de Prácticas están previstos en el art. 56 del Reglamento y están siendo elaborados por la Oficina de AI y un amplio abanico de partes interesadas. Asimismo, se aludió a la Ordenanza de Administración digital de Tarragona o al Protocolo del Ayuntamiento de Barcelona sobre IA.  Por otro lado, se hizo referencia a la necesidad de individualizar localmente el desarrollo de la IA mediante códigos éticos que se ocupen, por ejemplo, del empleo del conocido ChatGPT. En la conversación suscitada se pusieron de relieve cuestiones como, por ejemplo, la posible utilidad de una Guía para el uso de la IA en el mundo local, a imagen y semejanza de la existente en el Reino Unido respecto al poder judicial.

En el segundo bloque de conversación, los profs. Miranzo y Galindo se ocuparon de introducir ideas respecto a la IA y su impacto en el mundo local en los ámbitos de contratación y empleo público. En la conversación mantenida se puso de relieve como la oleada de jubilaciones que se esperan en el sector público no ha modificado en muchos casos el modo de selección de los futuros empleados públicos, de los cuales, hasta el momento, han constituido la columna vertebral de las AAPP los de los niveles C1 y C2. El cambio de escenario que supone la IA impone una modificación en ambos aspectos, debiendo incrementarse el ingreso de nuevos perfiles de empleados públicos y una formación continuada que profundice en la alfabetización en IA (art. 4 Reglamento europeo).

Por otro lado, la compra de sistemas de IA en el sector privado implica los riesgos de la dependencia de éste por parte del público y el desplazamiento a los privados de decisiones que corresponden a las autoridades, así como posibles supuestos de opacidad por límites de la transparencia de la IA debido al derecho a la propiedad intelectual, por ejemplo.

En todo caso, se destacó la importancia de la ayuda que pueda prestarse a los municipios de pequeño tamaño en relación con la IA por parte de instancias supramunicipales. En este sentido, se aludió al art. 36.1 g de la LBRL, que se refiere a las competencias propias provinciales en cuanto “a prestación de los servicios de administración electrónica y la contratación centralizada en los municipios con población inferior a 20.000 habitantes”, y la necesidad de reflexionar sobre esta cuestión.

Asimismo, se puso de relieve el problema que se suscita si una Administración pretende emplear datos obtenidos para una finalidad de interés general en relación con otra, como la de desarrollar una actividad proactiva mediante IA (así, por ejemplo, concesión de ayudas de oficio), en relación con la necesidad de consentimiento para el empleo de dichos datos.

En el tercer y último bloque, la señora Ascen Moro expuso las experiencias municipales de uso de IA, especialmente del Ayuntamiento de Sant Feliu del Llobregat, donde se emplea para predecir la vulnerabilidad social o las necesidades de las personas mayores. Asimismo, se hizo referencia al programa Atenea como elemento de lucha contra la brecha digital. Después, el prof. Martínez y el Dr. en filosofía y abogado Javier de la Cueva cerraron la introducción a este bloque con referencias a la responsabilidad patrimonial de la Administración y el control judicial del uso de la IA por parte de las AAPP.

El prof. Martínez se refirió a los aspectos positivos del sistema de responsabilidad patrimonial objetivo teóricamente existente en España, planteando cuestiones problemáticas vinculadas a daños causados por sesgos, filtración de datos, información proporcionada por bots o a daños materiales causados por actividades materiales o técnicas (drones, ámbito sanitario…). Asimismo, se refirió, entre otras cuestiones, al papel de la cláusula de progreso del art. 34 LRJSP o a la cuestión, más general, de si el miedo a la responsabilidad patrimonial podría llegar a frenar el desarrollo de la IA en el sector público local, así como al interés de considerar aspectos de responsabilidad vinculados a la intervención de un contratista.

Por parte de Javier de la Cueva se trataron diversos temas vinculados con el cambio civilizatorio que supone la IA, los problemas en el control del poder en el siglo XXI ante las grandes empresas tecnológicas, que suponen un cambio de paradigma respecto al Derecho surgido de las revoluciones liberales del siglo XVIII y XIX, frente al que nuestras Constituciones, con sus declaraciones de derechos tradicionales, no están preparadas. En la conversación posterior surgieron diversos temas vinculados a temas de responsabilidad y de control judicial, con referencias al conocido caso BOSCO, que ha dado ya lugar a dos sentencias, en 2021 y 2024.

La actividad se cerró con la previsión de la futura publicación del Anuario del Buen Gobierno y de la Calidad de la Regulación, que recogerá las aportaciones del living lab y será publicado antes de verano de 2025.

Finalmente, recordar que el video completo de la actividad está disponible a continuación: