Lluís Anglada

Cap a una nova cultura de l’avaluació: experiències institucionals en el marc de CoARA

Ángel Borrego
Facultat d’Informació i Mitjans Audiovisuals
Universitat de Barcelona (UB)

Lluís Anglada
Consorci de Serveis Universitaris de Catalunya (CSUC)
ORCID Id 0000-0002-6384-4927


Reformant l’avaluació de la recerca per afavorir la qualitat i l’impacte científic: Experiències i tendències en el marc de CoARA. (2025). Barcelona: Institut de Bioenginyeria de Catalunya. 3 vídeos. Disponible en: <https://www.youtube.com/playlist?list=PLztiU5moh1RPvMAmDVbuwW1fNq2zawSFF>. Presentacions disponibles en <https://zenodo.org/communities/jornadacoaracatalunya/records>.


La Coalition for Advancing Research Assessment (CoARA) agrupa un ampli col·lectiu d’organitzacions compromeses amb la reforma dels sistemes d’avaluació de la recerca. Aquesta iniciativa sorgeix en un context de creixent consens sobre la necessitat de superar els models d’avaluació basats principalment en indicadors quantitatius (com el factor d’impacte o el nombre de publicacions), per tal d’impulsar una valoració més qualitativa, centrada en la diversitat de contribucions científiques i en pràctiques responsables. Més de 700 organitzacions de recerca, entitats finançadores, agències d’avaluació i societats científiques han adoptat els principis recollits a l’Agreement on Reforming Research Assessment (https://coara.eu/agreement/the-agreement-full-text/), publicat el juliol de 2022.

El dijous 17 de juliol de 2025, l’Institut de Bioenginyeria de Catalunya (IBEC) va acollir la jornada “Reformant l’avaluació de la recerca per afavorir la qualitat i l’impacte científic: Experiències i tendències en el marc de CoARA” (https://events.ibecbarcelona.eu/reformingresearchassessment), un espai en què diverses institucions catalanes van compartir les seves experiències en la implementació dels principis de CoARA, amb l’objectiu d’avançar cap a un sistema d’avaluació més just i integral.

L’activitat es va estructurar en tres parts. La primera va estar dedicada a la presentació de cinc projectes finançats en el marc de la primera convocatòria del CoARA Cascade Funding Programme, un mecanisme de suport econòmic destinat a promoure transformacions institucionals en les pràctiques d’avaluació. Aquest programa contempla dues convocatòries (abril-juny de 2024 i febrer-abril de 2025) i subvenciona projectes d’un any en tres modalitats: intercanvi de coneixement (teaming projects); proves pilot (institutional pilot projects); i canvis institucionals (institutional change projects).

En aquesta sessió, es van presentar els projectes liderats per diferents institucions. La UOC es va centrar en consolidar l’estratègia institucional de coneixement obert; la Universitat Ramon Llull va revisar les seves pràctiques d’avaluació per identificar les dimensions clau del nou paradigma (ampliació del concepte de recerca, inclusió de narratives, transparència, etc.); la UAB va aplicar els criteris CoARA a una convocatòria interna d’ajuts postdoctorals; l’IBEC va desenvolupar un projecte conjunt en col·laboració amb la Université de Carthage (Tunísia); i el Centre de Regulació Genòmica va incorporar narratives d’impacte als seus processos d’avaluació. En general, totes les intervencions van coincidir en la necessitat de sensibilitzar el personal investigador, atesa la manca de coneixement o l’escepticisme envers la proposta de reforma. També es va remarcar la importància de formar adequadament els avaluadors que hauran d’aplicar els nous criteris, així com la dificultat de fer arribar aquestes iniciatives a tot el col·lectiu investigador, sovint sobrecarregat d’activitats.

La segona part de la jornada va posar el focus en el desenvolupament de plans d’acció institucionals. Es van presentar les estratègies de tres centres de recerca (ISGlobal, CREAF i IDIBAPS) i dues universitats (UPC i UB). Els ponents dels centres van destacar la necessitat d’un compromís institucional ferm, amb la implicació activa de les direccions, per tal que els principis de CoARA s’integrin transversalment a totes les polítiques internes. També van remarcar la conveniència de reconèixer formalment la feina dels avaluadors. Les universitats, per la seva banda, van assenyalar la complexitat d’aplicar criteris qualitatius en institucions amb gran diversitat disciplinària, la necessitat d’elaborar rúbriques específiques i l’exigència de disposar de temps per implementar els canvis de manera efectiva.

Finalment, la taula rodona de cloenda va oferir una visió més àmplia amb la participació d’agents clau del sistema català de recerca. AQU Catalunya va abordar la integració dels principis de CoARA en els processos d’acreditació. La Fundació “la Caixa” va expressar el seu interès per l’impacte social de la recerca que financen. La Institució CERCA, coordinadora dels 42 centres de recerca del sistema català, i l’Agència de Qualitat i Avaluació Sanitàries de Catalunya (AQuAS), amb responsabilitats d’avaluació en el sistema de salut, van aportar també la seva perspectiva sobre la implementació del nou model d’avaluació basat en evidències i orientat a la millora contínua.

Si hem de destacar trets comuns entre les diferents experiències exposades a la jornada en podríem indicar tres: en tots els casos les institucions adherides a CoARA creen comitès interdisciplinaris d’impuls i seguiment de les accions de reforma; també estableixen plans de treball que principalment cataloguen els moments en s’apliquen criteris d’avaluació en algun procés de la institució; i atorguen una gran importància a la difusió dels objectius de la reforma ja que no són compartits de forma automàtica per tot el personal investigador més enllà dels “conversos”;

La jornada va posar de manifest que la reforma de l’avaluació de la recerca és una transformació complexa però imprescindible per fomentar una ciència més responsable, inclusiva i orientada al bé comú. Tot i l’interès creixent i l’existència d’iniciatives inspiradores, la implementació dels principis de CoARA exigeix temps, recursos i, sobretot, un canvi cultural profund dins les institucions. El compromís dels equips directius, la formació d’avaluadors i la sensibilització del personal investigador emergeixen com a condicions clau per garantir l’èxit d’aquesta transformació.&

 

© Imatge inicial generada amb intel·ligència artificial (DALL·E, OpenAI).

Com podem fer que el sistema de comunicació científica estigui (acceptablement) al servei de la ciència?

Lluís Anglada 
Consorci de Serveis Universitaris de Catalunya (CSUC)
ORCID Id 0000-0002-6384-4927


Stern, Bodo; Ancion, Zoé; Björke, Andreas; Farley, Ashley; Qvenild, Marte; Rieck, Katharina; Sondervan, Jeroen; Rooryck, Johan; Kiley, Robert; Karatzia, Maria; Papp, Nora (2023). Towards responsible publishing: a proposal forn cOAlition S. Zenodo. A: <https://doi.org/10.5281/zenodo.8398480>. [Consulta: 14/09/2024].

Chiarelli, Andrea; Cox, Ellie; Johnson, Rob; Waltman, Ludo; Kaltenbrunner, Wolfgang; Brasil, André; Reyes Elizondo, Andrea; Pinfield, Stephen (2024). «Towards responsible publishing»: findings from a global stakeholder consultation. Zenodo. A: <https://doi.org/10.5281/zenodo.11243942>. [Consulta: 14/09/2024].


La pregunta que dona títol a aquesta ressenya està ocupant un considerable espai a blogs i xarxes socials,1 revistes científiques2 i, fins i tot, mitjans de comunicació generalistes.3 La pregunta sembla donar a entendre que ara no (però abans, sí) el sistema a través del qual es difonia la recerca funcionava bé. Situem-nos, però no massa lluny, trenta anys enrere; els resultats de la recerca es difonien en revistes impreses que eren subscrites sota cost per les poques institucions que, en l’àmbit mundial, podien pagar-ne una col·lecció àmplia i els articles es publicaven al cap d’un temps considerable respecte la seva redacció, per posar dos exemples. No era tampoc un sistema gaire «científic», però era un sistema acceptat.

Paradoxalment, avui hi ha descontentament amb el sistema actual, malgrat que la situació sigui clarament millor ja que l’accés a la informació científica és molt més fàcil de fer i la capacitat d’accedir a articles és molt més alta. La satisfacció queda distorsionada per la constatació que el sistema és una realitat més governada pel que han sabut fer les editorials científiques comercials (i pels seus guanys econòmics) que no pas pels qui fan recerca. Aquesta explicació ve a tomb per entendre els considerables esforços de diferents instàncies adreçats a reformar el sistema pel qual avui es difon la recerca, esforços dirigits a tenir-ne un d’equitatiu, amb una accessibilitat universal (és a dir, oberta) i, si pot ser, de menor cost. 

Alternatives no comercials per a la comunicació científica (revistes i repositoris). On som.

Lluís Anglada
Consorci de Serveis Universitaris de Catalunya (CSUC)
ORCID iD 0000-0002-6384-4927


Arasteh, Sona; Blake,Oliver (2024). The European landscape of institutional publishing: a synopsis of results from the DIAMAS survey. DIAMAS. 29 p. Disponible a: <https://zenodo.org/records/10551710>. [Consulta: 11/05/2024].

Shearer, Kathleen; Nakano Koga, Silvia Mirlene; Rodrigues, Eloy; Manola, Natalia; Pronk, Martine; Proudman, Vanessa (2023). Current state and future directions for open repositories in Europe. OpenAIRE, LIBER, SPARC Europe, COAR. 36 p. Disponible a: <https://doi.org/10.5281/zenodo.10255559>. [Consulta: 11/05/2024].


Segurament, d’aquí a uns anys, haurem trobat una solució i la informació científica serà oberta sota unes condicions d’ús i econòmiques acceptades per tothom. Avui, això és un objectiu perseguit, però encara no aconseguit, per la totalitat dels agents implicats en aquesta llarga cadena que forma la comunicació científica. Quan arribi aquell moment, serà interessant examinar (amb menys passió de la que hi posem avui) els diferents i, en la seva majoria, fallits intents per fer que els resultats científics siguin accessibles a tothom de forma equitativa, fàcil i reutilitzable.

Ciència Oberta: un concepte i moviment globals (i en transició)

Lluís Anglada 
Consorci de Serveis Universitaris de Catalunya (CSUC)


UNESCO Open Science Outlook 1: status and trends around the world (2023). Paris: UNESCO. 74 p. Disponible en: <https://doi.org/10.54677/GIIC6829>. [Consulta: 21/01/23].


Ara farà dos anys, aquest Blok ressenyava la Recomanació de la UNESCO sobre Ciència Oberta. Ho feia Ciro Llueca que afirmava que el document, aprovat per 193 països, «eleva l’actual rang de la cultura open a dret humà universal».i De tota manera, amb la Ciència Oberta, passa com amb molts altres drets humans, que ni són fàcils d’assolir ni el seu grau de compliment és uniforme al voltant del planeta. 

El que sí que ha fet la Recomanació ha estat impulsar el moviment i globalitzar-lo. La Ciència Oberta havia estat fins llavors un moviment més europeu que internacional, per bé que alguns dels seus components ­—molt específicament l’Accés Obert— hagin tingut desenvolupaments àmpliament estesos al nord i al sud del continent americà. S’està encara lluny dels objectius de les recomanacions, però és innegable que les fites que s’hi plantegen estan essent assumides cada vegada per més països, institucions de recerca i pels investigadors mateixos.

Una ullada a l’entorn per saber cap on tirar

Lluís Anglada
Director de l’Àrea de Ciència Oberta
Consorci de Serveis Universitaris de Catalunya (CSUC)


2021 Environmental Scan (2021). ACRL Research Planning and Review Committee. (Chicago, IL): Association of College & Research Libraries. [52 p.]. Disponible a: <https://www.ala.org/acrl/sites/ala.org.acrl/files/content/publications/whitepapers/EnvironmentalScan2021.pdf>. [Consulta: 20/06/2022].

«Top trends in academic libraries: a review of the trends and issues» (2022). College & research libraries news, vol. 83, no. 6 (June), p. 243-256. Disponible a: <https://doi.org/10.5860/crln.83.6.243>. [Consulta: 20/06/2022]. 
Hi ha traducció castellana al blog Universo abierto, «ACRL Principales tendencias en las bibliotecas universitarias 2022». Disponible a: <https://universoabierto.org/2022/06/06/acrl-principales-tendencias-en-las-bibliotecas-universitarias-2022/>. [Consulta: 20/06/2022]. 


Confesso sense massa vergonya l’enveja que he tingut dels bibliotecaris nord-americans que, davant qualsevol compromís per parlar d’algun tema professional, sempre poden tirar de veta d’algun dels molts informes que haurà fet algun comitè. Els coneixements professionals a Europa estan lògicament més fragmentats i ni abastem tant ni amb tanta profunditat.

Aquest és el cas de l’informe i l’article que ressenyem, una «anàlisi de l’entorn» en forma d’informe adaptat a article de «tendències dominants», que cada dos anys fa un comitè de l’ACRL. El Research Planning and Review Committee és «responsable de crear i actualitzar una anàlisi ambiental biennal per a l'associació que abasti les tendències en les biblioteques acadèmiques, l’educació superior i l'entorn més ampli, per exemple, econòmic, demogràfic o polític», per a la seva presentació a la conferència de l’ACRL. El Comitè identifica les «10 tendències principals» i les publica en forma d’article cada dos anys, és a dir, els anys en què no hi ha conferències de l’ACRL. En aquest Blok, Llarina González Solar va ressenyar l’anàlisi de l’entorn de l’any 2015 i jo mateix el de l’any 2019.

Pàgines

Subscriure a RSS - Lluís Anglada