DORA-julistus (San Francisco Declaration on Research Assessment)

Rahoittajien, akateemisten instituutioiden ja muiden osapuolten tapoihin arvioida tieteellisen tutkimustoiminnan tuotoksia kohdistuu pakottava kehittämistarve. Tähän tarttui joukko tiedelehtien toimittajia ja kustantajia, kun he tapasivat amerikkalaisen solubiologian yhdistyksen (The American Society for Cell Biology, ASCB) vuosikokouksessa San Franciscossa (Kalifornia) 16.12.2012. Ryhmä kehitti joukon suosituksia, joka nimettiin San Francisco Declaration on Research Assessment (DORA-julistukseksi). Kutsumme kaikkia kiinnostuneita osapuolia kaikilta tieteenaloilta ilmaisemaan tukensa allekirjoittamalla tämä julistus.

Tieteellisen tutkimuksen tuotokset ovat moninaisia ja erilaisia. Niitä ovat uutta tietoa raportoivat tutkimusartikkelit, data, reagenssit ja ohjelmistot; immateriaaliomaisuus; sekä korkeasti koulutetut nuoret tieteentekijät. Rahoittajilla, tutkijoita palkkaavilla instituutioilla ja tutkijoilla itsellään on halu ja tarve arvioida tieteellisten tuotosten laatua ja vaikuttavuutta. Onkin välttämätöntä, että tieteellisiä tuotoksia mitataan oikein ja arvioidaan viisaasti.

Lehtien vaikuttavuuskerrointa (Journal Impact Factor) käytetään säännöllisesti ensisijaisena parametrina vertailtaessa yksilöiden ja instituutioiden tieteellisiä tuotoksia. Vaikuttavuuskerroin, kuten Thomson Reuters* sen laski, kehitettiin alun perin kirjastonhoitajia varten lehtihankintojen valinnan apuvälineeksi, ei siis yksittäisten artikkeleiden tieteellisen laadun arviointiin. Tämä on hyvä pitää mielessä, ja tärkeää on ymmärtää, että lehden vaikuttavuuskertoimella on tutkimuksen arvioinnin välineenä lukuisia puutteita. Näihin rajoituksiin kuuluu: A) viittausten jakaumat lehden artikkelien kesken ovat erittäin vääristyneitä [1-3]; B): vaikuttavuuskertoimen ominaisuudet ovat tieteenalasidonnaisia: artikkelityypit ovat hyvin erilaisia ja moninaisia, ja niihin kuuluu alkuperäisiä tutkimusartikkeleita ja katsauksia [1, 4]; C) vaikuttavuuskertoimia voidaan manipuloida (tai vehkeillä) toimitusmenettelytavoilla [5]; ja D) vaikuttavuuskertoimien laskennassa käytetty data ei ole läpinäkyvää eikä avoimesti kaikkien saatavana [4, 6, 7].

Alla on esitetty joukko suosituksia, joiden avulla tieteellisten tuotosten arvioinnin laatua voidaan parantaa. Tulevaisuudessa tutkimuksen vaikuttavuuden arvioinnissa muiden tuotosten kuin tutkimusartikkeleiden merkitys kasvaa, mutta vertaisarvioidut tieteelliset artikkelit tulevat säilymään keskeisenä tutkimustuotoksena tutkimuksen arvioinnissa. Niinpä suosituksemme keskittyy pääasiassa niihin käytäntöihin, jotka liittyvät vertaisarvioiduissa lehdissä julkaistuihin tutkimusartikkeleihin, mutta niitä voidaan ja pitäisikin käyttää myös muiden tuotosten tunnistamisessa, kuten datasettien, jotka ovat tärkeitä tutkimuksen tuotoksia. Nämä suositukset on suunnattu rahoittajille, akateemisille instituutioille, lehdille, metriikkaa harjoittaville organisaatioille sekä yksittäisille tutkijoille.

Suosituksiin sisältyy useita yhteisiä teemoja:

  • tarve välttää rahoitus-, nimitys- ja ylennyspäätöksissä artikkeleiden julkaisukanavaan pohjautuvan metriikan, kuten vaikuttavuuskertoimen (Journal Impact Factor), käyttöä
  • tarve arvioida tutkimusta ennemmin sen omiin ansioihin perustuen kuin sen perusteella, missä lehdessä se on julkaistu; ja
  • tarve hyödyntää verkkojulkaisemisen tarjoamia mahdollisuuksia (kuten väljentää tarpeettomia artikkelien sana-, kuva- ja viittausmäärien rajoituksia, sekä tutkia uusia merkittävyyden ja vaikuttavuuden indikaattoreita).

Me tunnistamme, että monet rahoittajat, instituutiot, kustantajat ja tutkijat jo edistävät tutkimuksen arvioinnin parempia käytäntöjä. Nämä askeleet ovat tärkeä alku vauhdittamaan muutosta kohti kehittyneempiä ja tarkoituksenmukaisempia tutkimuksen arvioinnin menettelytapoja, joita kaikki sidosryhmät voivat nyt yhdessä kehittää ja omaksua.

DORA –julistuksen allekirjoittajat tukevat seuraavien tutkimuksen arvioinnin käytäntöjen omaksumista.

Yleinen suositus

  1. Älä käytä lehtiperustaista metriikkaa, kuten lehtien vaikuttavuuskertoimia, yksittäisen tutkimusartikkelin laadun mittaamisen korvikkeena arvioidaksesi yksittäisen tutkijan tieteellisiä ansioita, tai rekrytointi-, ylennys- ja rahoituspäätöksissä.

Rahoittajille

  1. Määrittele avoimesti ja selkeästi kriteerit, joiden perusteella rahoituksen hakijoiden tieteellistä tuottavuutta arvioidaan, ja korosta erityisesti aloitteleville arvioijille, että kirjoituksen tieteellinen sisältö on paljon tärkeämpi kuin julkaisumetriikka tai artikkelin julkaisseen lehden maine.
  2. Ota tutkimuksen arvioinnissa tutkimusjulkaisujen lisäksi huomioon kaikkien tutkimustuotosten (sisältäen datasetit ja ohjelmistot) arvo ja vaikuttavuus. Harkitse laajaa kirjoa vaikuttavuusmittareita, mukaan lukien laadulliset vaikuttavuusindikaattorit, kuten vaikutus politiikkaan ja käytäntöön.

Korkeakouluille ja tiedelaitoksille

  1. Määrittele rekrytointi-, urapolku- ja ylennyspäätöksissä käytetyt kriteerit avoimesti ja selkeästi, ja korosta erityisesti aloitteleville arvioijille, että artikkelin tieteellinen sisältö on paljon tärkeämpi kuin julkaisumetriikka tai kirjoituksen julkaisseen lehden maine.
  2. Ota tutkimuksen arvioinnissa tutkimusjulkaisujen lisäksi huomioon kaikkien tutkimustuotosten (sisältäen datasetit ja ohjelmistot) arvo ja vaikuttavuus. Harkitse laajaa kirjoa vaikuttavuusmittareita, mukaan lukien laadulliset vaikuttavuusindikaattorit, kuten vaikutus politiikkaan ja käytäntöön.

Kustantajille

  1. Supista merkittävästi lehden vaikuttavuuskertoimen merkitystä mainontavälineenä. Ihanteellinen ratkaisu on lakata käyttämästä vaikuttavuuskerrointa tai käyttää julkaisupohjaista metriikkaa monipuolisesti (esim. 5-vuoden vaikuttavuuskerroin, EigenFactor [8], SCImago [9], h-indeksi, toimitustyö- tai julkaisukerrat jne), mikä tarjoaa monipuolisemman käsityksen lehden saavutuksista.
  2. Tarjoa valikoima artikkelipohjaista metriikkaa ja rohkaise siten siirtymistä julkaisukanavaan perustuvasta metriikasta arviointiin, joka perustuu tieteellisen artikkelin sisältöön.
  3. Rohkaise vastuullista tekijyyskäytäntöä ja jokaisen tekijän osallisuuden määrittelyä ja julkituomista.
  4. Riippumatta siitä, ilmestyykö lehti avoimena vai tilauspohjaisena, poista kaikki lähdeluetteloiden uudelleen- ja jälleenkäyttörajoitukset ja tarjoa ne saataville Yleismaailmallisella Public Domain –lausumalla.
  5. Antaaksesi kunnian tutkimustuloksia ensin raportoineille poista tai vähennä tutkimusartikkeleiden viitemäärien rajoituksia, ja kun sopivaa, niin vaadi käyttämään alkuperäislähteistöä katsausten asemasta.

Metriikkaa tuottaville organisaatioille

  1. Toimi avoimesti ja läpinäkyvästi avaamalla kaikki metriikassa käytetty data ja menetelmät.
  2. Avaa data sellaisella lisenssillä, joka sallii rajoituksettoman uudelleen- ja jälleenkäytön, ja kun mahdollista, niin tarjoa dataan koneellinen pääsy.
  3. Tee selväksi, että metriikan epäasiallista manipulointia ei suvaita; ilmaise selkeästi mikä on epäasiallista manipulointia ja mitä menetelmiä sen estämiseksi otetaan käyttöön.
  4. Kun metriikkaa käytetään, kootaan tai vertaillaan, selvitä artikkelityyppien hajonta (esim. katsaukset versus tutkimusartikkelit) tieteenalakohtaisesti.

Tutkijoille

  1. Osallistuessasi rahoituksesta, rekrytoinnista, urapolusta tai ylentämisestä päättäviin elimiin, perusta arviointisi ennemmin tieteellisiin sisältöihin kuin julkaisumetriikkaan.
  2. Viittaa aina kun se on tarkoituksenmukaista alkuperäiskirjallisuuteen, jossa havainnot on ensimmäiseksi raportoitu, äläkä niihin, jotka ovat viitanneet alkuperäislähteisiin. Näin annat kunnian sille, kenelle se kuuluu
  3. Käytä lausunnoissasi ja suosituksissasi monipuolisesti artikkeliperustaista metriikkaa näyttönä yksittäisten julkaistujen artikkeleiden ja muiden tutkimustuotosten vaikuttavuudesta [11].
  4. Haasta tutkimuksen arvioinnin käytännöt, jotka pohjautuvat asiaankuulumattomasti lehtien vaikuttavuuskertoimiin, ja edistä ja opeta parhaita käytäntöjä, jotka keskittyvät tutkimustuotosten arvoon ja vaikuttavuuteen.

Lähteet

  1. Adler, R., Ewing, J., and Taylor, P. (2008) Citation statistics. A report from the International Mathematical Union.
  2. Seglen, P.O. (1997) Why the impact factor of journals should not be used for evaluating research. BMJ 314, 498–502.
  3. Editorial (2005). Not so deep impact. Nature 435, 1003–1004.
  4. Vanclay, J.K. (2012) Impact Factor: Outdated artefact or stepping-stone to journal certification. Scientometric 92, 211–238.
  5. The PLoS Medicine Editors (2006). The impact factor game. PLoS Med 3(6): e291 doi:10.1371/journal.pmed.0030291.
  6. Rossner, M., Van Epps, H., Hill, E. (2007). Show me the data. J. Cell Biol. 179, 1091–1092.
  7. Rossner M., Van Epps H., and Hill E. (2008). Irreproducible results: A response to Thomson Scientific. J. Cell Biol. 180, 254–255.
  8. http://www.eigenfactor.org/
  9. http://www.scimagojr.com/
  10. http://opencitations.wordpress.com/2013/01/03/open-letter-to-publishers
  11. http://altmetrics.org/tools/

* Journal Impact Factor on nykyään Clarivate Analyticsin julkaisema.


This is a translation of the DORA text at https://sfdora.org/read, contributed by Susanna Nykyri, Maria Forsman, and Anne Lehto. It is made available under the terms of the Creative Commons Attribution International License and will also be published in Informaatiotutkimus journal Vol 37 Nro 4 (2018). We are very grateful to the volunteers who have produced and checked the translations of the declaration. Errors might occasionally occur and if you do spot one, please contact info@sfdora.org.