Nezávislé informace o vědě a výzkumu

O čem vypovídá Nature Index

10. 10. 2018
O čem vypovídá Nature Index

Kvantitativně hodnotit výsledky výzkumu jednotlivých vědeckých institucí je umění a jako v umění existuje i v této oblasti řada různých metod, jak hodnocení provádět a na co se soustředit. V postkafemlejnkovské éře je kladen i u nás důraz na to, co se vágně nazývá "excelence", která je obvykle spojována s články v časopisech, jako jsou Nature či Science. Není proto divu, že velký zájem vyvolávají žebříčky sestavené vydavatelstvím Springer Nature.

To vzniklo v roce 2015 sloučením několika vydavatelství: Springer Science+Business Media, Holtzbrinck Publishing Group's Nature Publishing Group, Palgrave Macmillan a Macmillan Education. Toto vydavatelství zkonstruovalo v roce 2015 Nature Index, databázi článků, jejich autorů, afilací a mezinárodních kolaborací, které byly publikovány ve vybrané skupině 82 vědeckých časopisů, jejichž seznam je zde. Nature Index tvrdí, že časopisy vybrané dvěma nezávislými panely představují méně než 1 % všech přírodovědeckých časopisů zahrnutých ve Web of Science, ale téměř 30 % všech citací na tyto přírodovědecké časopisy.

Nature Index je dostupný ve dvou formách. Je doplňován měsíčně a vždy po měsíci je volně k dispozici kompletní databáze zahrnující cca 4400 institucí v klouzavém 12 měsíčním oknu (dále „současný index“). Do úterý 2. 10. to bylo období 1. 7. 2017 - 30. 6. 2018, od středy 3. 10. je k dispozici současný index za období 1. 8. 2017 - 31. 7. 2018. Čísla uvedená níže odpovídají prvnímu období. Nature Index umožňuje členit instituce do pěti sektorů:

  • akademický
  • vládní,
  • podnikový
  • péče a zdraví
  • neziskový-nevládní

ale toto členění nemá valnou logiku (např. ústavy AV ČR jsou ve vládním sektoru, byť jde o v. v. i., zatímco ústavy společnosti Maxe Plancka či společenství Helmholtze a Leibnize, s nimiž bychom se měli srovnávat, jsou v neziskovém sektoru) a jediný smysl má proto vzít všechny sektory dohromady. Lze si také vybrat konkrétní zemi nebo region a jednu ze čtyř vědních oblastí (chemie, fyzika, vědy o životě, vědy o Zemi), nebo se omezit jen na články v Nature a Science. Navíc, a to je velmi důležité, uživatel se může proklikat od instituce, třeba vysoké školy přes fakulty (a někde až katedry) na seznam všech prací dotyčné jednotky a nakonec se dostane až na DOI dané práce a tu si může i stáhnout. Na každém kroku má přitom informaci o příslušné hodnotě tzv. Fractional count (FC), podílu jednotky na práci podle počtu spoluautorů. Jako databáze je současný Nature Index skvělá pomůcka pro uživatele různého zaměření, která nemá podle mého názoru konkurenci.

Kromě současného indexu publikuje Nature Index každoročně tabulky zemí i prvních 500 institucí podle hodnoty FC, které ovšem neobsahují výše popsané podrobné informace dostupné v současném indexu. Nepodařilo se mi zjistit, zda podobně podrobné informace jako pro současný index existují i pro jednotlivé roky a zda je lze získat za úplatu. Uživatel při použití tabulek za jednotlivé roky může být zmaten, protože když si ve všech letech 2015-2018 rozklikne jakoukoliv instituci či zemi, dostane podrobné informace ovšem pro současný index, nikoliv pro zvolený rok. K interpretaci tabulek jednotlivých let je však třeba přistupovat velmi opatrně. Sám Nature Index uživatele varuje:

Je třeba, aby uživatel chápal, že tyto tabulky jsou založeny na relativně malé části všech vědeckých prací, že pokrývají jen přírodní vědy a že výstupy nejsou normalizovány, tj. neodrážejí velikost institucí nebo zemí ani jejich celkovou výzkumnou produkci. Doporučujeme uživatelům kombinovat data Nature Index s informací z jiných zdrojů.

Čeští skokani?

Například na tomto serveru se o výsledcích Nature Index za rok 2017 (označovaném jako Nature Index 2018) píše v textu Česká republika mezi skokany v žebříčku Nature Index. V úvodních odstavcích

Mezi lety 2015 a 2017 se Česká republika zařadila mezi 6 zemí, které si nejvýrazněji polepšily v žebříčku Nature Index. Ten sleduje vysoce kvalitní publikace ve vybraných časopisech. Na výsledku se výrazně podílela Akademie věd ČR, která se za rok 2017 umístila mezi vládními institucemi z celého světa na 19. místě.

V podobném duchu se nese také zpráva AV ČR stoupá na mezinárodním žebříčku Nature Index na webové stránce Akademie věd.

V aktuálním přehledu Nature Index, sledujícím počty kvalitních vědeckých výstupů ve vybraných vědeckých časopisech, dosáhla Akademie věd ČR vynikajícího výsledku. V kategorii vládních (neuniverzitních) institucí zaznamenala meziroční zlepšení o 18,2 %, díky němuž se celosvětově umístila na 19. místě.

Pěkného umístění dosáhla AV ČR v čerstvě zveřejněném žebříčku za rok 2017 také v celkovém srovnání všech výzkumných institucí, kde skončila na 160. příčce. Za pozornost stojí i výsledky českých vysokých škol: Univerzita Karlova obsadila v celkovém žebříčku 462. příčku, v kategorii univerzit 359. místo (při meziročním nárůstu 1,4 %), Masarykova univerzita pak v téže kategorii 418. místo (meziroční nárůst 24,8 %).

I článek Martina Rychlíka v LN 1. 10. 2018, který se rovněž omezuje na žebříček ve vládním sektoru. Takové srovnání nemá valný smysl a všechny naše instituce by se měly srovnávat globálně, tj. s institucemi všech sektorů. Pokud to uděláme, zjistíme, že je na místě zůstat při zemi. 

Globální srovnání

Následující tabulka (AC: počet článků, FC: podíl na článcích podle počtu autorů, Dom: jen čeští autoři, Int.: zahraniční spolupráce, v %) obsahuje výběr ze současného indexu za období 1. 7. 2017- 30. 6. 2018, kam jsem zařadil kromě našich institucí také vzorky nejlepších institucí i dalších institucí, jejichž výsledky nám ukážou, jak na tom ve skutečnosti jsme. K standardnímu obsahu jsem pro zajímavost přidal i údaj o podílu článků vzniklých v mezinárodní spolupráci. Světle žlutě je Akademie věd ČR (dále jen AV) celkem a několik jejích nejvýkonnějších ústavů, světle modře je Max Planck a několik jeho ústavů, světle zeleně jsou naše vysoké školy s FC>1 a do tabulky institucí jsem přidal i ČR jako celek.

Kliknutím na instituce se dostaneme na jejich současný index, proto jsou tamní čísla nepatrně jiná než čísla ve výše uvedené tabulce. Pro posouzení postavení našich hlavních institucí ve světovém kontextu slouží druhá tabulka, která postihuje u ČR, AV a Karlovy univerzity (UK) časový vývoj hodnot FC a AC (NFC: pořadí podle FC). Tyto veličiny jsou to, co je podstatné. 

Z těchto dvou tabulek plyne několik důležitých skutečností:

  1. Česká republika jako celek je na úrovni dvou amerických univerzit, které v rámci USA zaujímají 28. a 29. příčku a čtvrté nejlepší instituce Německa, Leibnizova společenství. Jen o málo menší skóre než celá ČR má skvělý Weizmanův institut a dvě dobré, ale ne špičkové britské univerzity. Max Planck i Helmholtz (skóre 459), jsou v nedohlednu.
  2. Síla Maxe Plancka ve srovnání s AV spočívá především v tom, že má velké množství silných ústavů.
  3. AV jako celek je až za Technickou univerzitou v Drážďanech (TUD), 14. nejlepší institucí v Německu a dvěma britskými univerzitami na 9. a 10. místě v Británii i technikou v Delft, čtvrtou nejlepší institucí v Holandsku a jen o málo před Univerzitou Vídeň.
  4. AV je nejlepší ze všech akademií V4 a je lepší i než rakouská akademie věd, což je příjemné překvapení v případě polské akademie věd a očekávané v případě rakouské akademie věd, která je ve srovnání s naší velmi malá. Ve srovnání se společenstvím Leibnize, které má ze všech zahraničních organizací k ní nejblíže, má ovšem AV ČR poloviční FC.
  5. Mezi ústavy AV, z nichž jsem do tabulky doplnil šest nejlepších, které dohromady dodáva-jí 62 % celkového skóre AV, dominuje Fyzikální ústav podstatně více, než odpovídá počtu jeho výzkumníků a institucionální podpoře, jež jsou na úrovni 10 % hodnot celé AV.
  6. Všechny naše vysoké školy jsou až za 40. nejlepší německou univerzitou v Halle-Wittenbergu a 30. nejlepší britskou univerzitou v Bath a univerzitou v Innsbucku, čtvrtou nejlepší institucí v Rakousku. Polovinu skóre UK přitom dodává Matematicko-fyzikální fakulta, což je podstatně více než v případě kafemlejnku, kde šlo zhruba o čtvrtinu.
  7. Skóre Akademie věd jako celku představuje 80 % skóre všech našich vysokých škol, což je více než dvakrát větší podíl než vycházel z celkového bodového hodnocení kafemlejnku. V posledním hodnoceni H2016 činil poměr AV/VŠ 0,37. Akademie věd má 2,5-3krát větší hodnotu FC než Univerzita Karlova, zatímco poměr bodů AV a UK v H2016 byl jen 1,5.
  8. Hodnoty FC i AC jsou jak pro ČR jako celek,  tak i AV a UK rozumně stabilní, fluktuace jsou do značné míry důsledkem poměrně úzkého, jednoročního okna.
  9. Velký nepoměr mezi FC a AC ukazuje na důležitost spoluprací s jinými institucemi. Ta je značně rozsáhlejší v případě UK a některých dalších vysokých škol. Zatímco UK, Univerzita Palackého v Olomouci i VUT v Brně mají poměr AC/FC okolo 10 a ČVUT v Praze dokonce 40, Masarykova univerzita, Vysoká škola chemicko-technologická v Praze i Slezská univerzita v Opavě mají tento poměr v intervalu 2-3. Tento rozdíl není v zásadě nic špatného, jen indikuje různost typů výstupů. Jakékoliv smysluplné srovnání jednotlivých institucí musí proto jít do hloubky a podívat se na to, jak se celkové FC institucí skládá z FC jednotlivých článků. Uvedu dva zajímavé případy.

Jednotlivec a kolektiv

Podívejme se nejdříve na skladbu článků Masarykovy univerzity (MU) a Univerzity Palackého v Olomouci (UP), které mají právě tak velmi rozdílný poměr AC/FC. Během několika kliknutí zjistíme, že 9 z 22,65 FC, tj. 40 %, skóre celé MU, což zároveň představuje 85 % skóre celé UP, pochází od pěti teoretiků z Ústavu teoretické fyziky a astrofyziky Přírodovědecké fakulty MU. A pět z těchto 9 bodů FC je dílem jediného teoretika, Josefa Klusoně, který v uvedeném ročním okně publikoval sám ve třech časopisech zařazených do seznamu Nature Index celkem 5 publikací z oblasti teorie strun. Vezmeme-li výsledky Nature Index bez bližšího zkoumání, mohli bychom tedy říci, že jeden Klusoň je více než pětina celé MU a téměř polovina celé UP. To by byl pro novináře lákavý titulek. Tak to jistě nelze chápat, ale na druhé straně je dobré vědět, od koho a jakého typu výzkumu pochází podstatná část výkonu MU. V případě UK taková výrazná dominance malé skupiny velmi úzce zaměřených osob na její celkové skóre není.

Na první pohled také překvapí velmi nízké FC u ČVUT a zvláště obrovský nepoměr mezi AC a FC. Důvod lze snadno odhalit. 78 z 88 článků ČVUT v Nature Index jsou práce obrovských mezinárodních kolaborací zkoumajících srážky protonů a jader na urychlovačích v CERN a Broohaven, čítající mezi 500 a 3000 spoluautory. Podíl ČVUT daný podílem spoluautorů z ČVUT je proto velmi malý, celkové FC ze všech těchto 78 prací je jen 0,5, ale velmi podobné skóre z těchto experimentů mají i MFF UK a FZÚ AV ČR, které se jich rovněž účastní. MFF UK i FZÚ AV ČR mají ovšem daleko širší spektrum aktivit pokrývaných Nature Index. Většinu skóre ČVUT pochází z deseti prací menších kolektivů.

Jak výsledky Nature Index (ne)interpretovat

Jak tedy výsledky Nature index interpretovat? Základní kritérium, tedy zahrnutí jen oněch 82 vybraných časopisů, je velmi přísné, ale pokud stále zdůrazňujeme excelenci, nezbývá než se podívat, jak v něm vypadáme. Výše uvedené tabulky ukazují, že nijak zvlášť dobře. Žádná z našich institucí není tam, kde bychom si přáli, aby byla, a rozdíly od skutečné světové špičky jsou značné.

Samozřejmě, uvedené srovnání nebere v úvahu velikost institucí ani počty jejich vědeckých pracovníků a výši finanční prostředků, které mají k dispozici. Rozdíly v těchto podmínkách leccos vysvětlují, přesto by bylo dobré pochopit, proč například ani celá AV nestačí na Technickou univerzitou v Drážďanech, proč je UK horší než Univerzita v Halle-Wittenbergu či proč je tak propastný rozdíl mezi TUD a našimi technickými vysokými školami ČVUT a VUT Brno. Je to všechno v penězích, nebo i třeba v organizaci a orientaci výzkumu? Informace na webové stránce o profilu výzkumu na TUD napovídá, že je to spíše v tom druhém. Generálové naší vědy by měli Nature Index využít jako podnět k tomu, aby na tyto otázky hledali odpověď.

 

Autor: Jiří Chýla