ESI:一場被中國高校追捧的荒誕劇_風聞
观察者网用户_561734-2019-08-06 10:07
來源||知識分子
撰文||邸利會
“ESI捷報,熱烈祝賀我校XX學科進入全球1%”
“實力師大|97!我校榮登最新 ESI 中國大學百強榜”
“我校8篇 ESI 高被引論文獲校內獎勵,最高獲10萬”
“週一暴擊|我校 ESI 全球排名繼續提升!”
這是最近筆者搜索 “ESI 我校” 後隨便摘出來的幾個標題。像這樣的節日狂歡,每兩個月就會集中爆發一次,可説是中國科研界的一大奇觀。
**ESI(Essential Science Indicators,基本科學指標)由科睿唯安推出,其中一項服務是在人為劃分的22個學科中,基於一些文獻數據庫統計出約10年間引用排前1% 的機構。**這個學科排名兩個月更新一次,下一次更新在9月,吃瓜羣眾可以繼續圍觀。
過去的這些年,不少學校像追星一樣追逐 ESI 排名,紛紛啓動內容豐富的 ESI 學科建設規劃,投入的經費動輒成百上千萬。
開 ESI 學科建設會,引導向ESI期刊投稿,獎勵本校互引、自引,引進高被引作者,獎勵高被引論文、熱點論文;圖書館也鼓足了幹勁,及時分析預測 ESI 潛力學科、編制投稿指南、制定學科提升策略等等,目標只有一個——
幫學校把 ESI 排名衝進全球 1%,或者 “百尺竿頭更進一步”。
像 ESI 這樣的數字指標正慢慢滲透進高校管理者的血液,同行評議似乎成了 “過去式”,不少科研人員感喟 “黃鐘譭棄,瓦釜雷鳴”。
可 ESI 就沒有問題麼,過分追捧值得麼?
1 錯得離譜的計算機學科排名
事實上,ESI 並非完美,在某些學科,甚至會產生嚴重的誤差,比如計算機。
ACM Fellow,南京大學教授周志華就不止一次吐槽過 ESI——
“對計算機學科,如果僅考慮會議不考慮期刊會有統計錯誤,僅考慮期刊不考慮會議就錯得沒邊了。”
原來,計算機最新的工作通常是先發在會議上,期刊主要是用來發表 “完整版” 或 “完善版”,也只有少數領域會把會議論文集改為期刊,大多數領域仍然是會議論文集。
“ESI 是基於 SCI 計算的,SCI 基本不包括會議文獻,而計算機前沿工作的主要發表渠道是會議。” 他説。
問題就出在選刊上。原來,想要學科排名,ESI會先選出一批認為是屬於該學科的期刊,然後再統計論文引用。比如,要對各個科研機構的計算機學科進行排名,就先選定一批 “屬於” 計算機的期刊,然後統計出該機構的文章引用。
除了不選會議論文這一大 “Bug”,ESI 收錄的計算機期刊羣與學界公認的主流期刊羣也有較大差異。
南京大學計算機科學與技術系副教授吳楠發現,與學界公認的中國計算機學會推薦期刊目錄對照,儘管兩者的刊物數差不多(約兩百多種),但 ESI 計算機學科中屬於A 類國際期刊範圍的僅有19種,屬於B類期刊範圍的僅有38種,屬於C類期刊範圍的僅有29種,兩者重合部分大概也就三成。
更甚者,一些明顯不屬於計算機的期刊也納入了 ESI 計算機學科,如 PLOS One、International Journal for Numerical Methods in Biomedical Engineering 等。
而 ESI 計算機學科引文貢獻最多的前6種期刊(《 BMC 生物信息學》、《信息科學》、《 IEEE 無線通信匯刊》、《神經計算》、《 IEEE 信息理論彙刊》、《應用力學與工程中的計算機方法》,截至2018年7月15日),吳楠説,“它們在的領域雖然與計算機科學相關,但無法涵蓋計算機科學與技術領域中公認的主流研究內容或主流期刊。”
2 粗放的學科領域劃分
ESI 學科劃分只有22個,如此選刊的 “驢唇不對馬嘴” 似乎不可避免。
只有一個大類的 “工程學科” 其實包括了信息工程、機電工程、自動化、建築工程、環境工程、化學工程等等,假設某個機構的 ESI 工程學科是全球的前1%,到底是哪個工程學科強呢?很難直接看清楚。人文學科的 “社科總論” 也沒有再細化,包含了千餘種期刊。
在如此粗放的學科劃分下,劃入同一學科的刊物,其性質、關注的方向有時差異很大,引用的多少不説明問題。比如,同樣是數學,偏應用的刊物引用一般會超過偏理論的,但能説明前者的質量一定更高嗎?
可某高校的圖書館員在分析了國內數學ESI排名靠前的大學後卻提出建議,“要集中論文的投稿,多向 APPLIED MATHEMATICS AND COMPUTATION(《應用數學和計算》)這類分區靠前影響因子高的期刊集中投稿”。
如此操作後的數學學科排名還能反映機構的真實研究實力嗎?
在看到一份全球數學學科 ESI 榜單後,美國西北大學數學系教授夏志宏告訴筆者,“這些都很無聊,毫無意義。” 他特地指出,某國內西部大學的 “數學研究幾乎沒有任何有意義的工作,但排名超出耶魯大學10名,而耶魯的數學在很多方面有深刻的貢獻,引導方向。”
其實,不僅是同一學科內的刊物,即使是同一本期刊,包含的文章有時分屬於不同的學科,可 ESI 只對《自然》、《科學》等少數幾本綜合性的期刊按照文章進行了統計。
洞悉到 ESI 這一漏洞的某校圖書館員建議,如果某個學科是潛勢學科(可以簡單理理解為排名快接近前1%的學科),那麼其他邊緣學科的科研人員 “可以在戰略上給予支援” ——也就是發文到屬於這個潛勢學科的 ESI 期刊,為另一個學科的排名作貢獻。
從學科劃分,到選刊,再到文章,在引用數面前,細緻豐富的異質性被一概抹平。所謂 ESI 的學科排名,不科學與不準確幾乎是註定的。
3 引用的水分
把論文投稿到 ESI 某個學科選定的期刊,只是為學校衝擊1%作出貢獻的第一步,接下來要保證文章得到引用,越多越好。
這看起來是一項 “不可完成的任務”,因為理論上別人到底是否引用,不是作者自己説了算。但問題是,ESI 還有一個引用的大 “Bug” 可以利用——對於引用,ESI 並不區分是自引還是他引。
於是,有些學校開始鼓勵本校師生引用本校的論文,默許甚至鼓勵作者自引。某校在公開的 “ESI學科建設” 文件中提出,“鑑於在此學科的發文數量過少,或單篇引用次數相對不高加大引用,在不違背學術道德的情況下,鼓勵大家主動引用,多引多獎,上不封頂。”




原來,引用還有如此的 “神操作”。
4 引用説明一切?
在 “數字化生存” 的今天,一位研究者的成績甚至是潛力,似乎看引用數就知道了,並不需要同行的評價。其背後的假定是,引用越多,説明影響力越大,科學價值就越高。
支持這個看法的人可以舉出很多證據。比如,從1989年建立的湯姆森路透引文桂冠看,除了少數年份,大部分年份都至少有一位最後獲得諾獎。從2002年到2017年,300名湯姆森路透引文桂冠獲得者,最後43名獲得諾獎。
但最高的引用就表示最有價值的研究麼?其實也不一定。
從1900到2014年間,引用率最高的前100論文(湯姆森路透 Web of Science 統計)中,第一名是一篇測定溶液中蛋白濃度的方法的文章(305000引用),很多諾獎的工作,如高温超導的發現、DNA 雙螺旋結構、第一次觀測到宇宙膨脹,其引用率距離前100名還差很遠。
該統計還發現,往往是一些實驗方法或者軟件引用率最高,而真正突破性的發現,如相對論等因為很快變成常識或者進入教科書反而沒有太多的引用。
無獨有偶,在計算機領域,吳楠發現,自2010年以來5位圖靈獎獲得者發表的論文均未被 ESI 收錄為高被引論文或熱點論文(統計最近2年的被引,取前0.1%);且一些熱點論文近兩年內的引用主要是自引或同研究機構內的引用。
正如很多學者指出的,引用其實很複雜——
既可能是肯定前人的工作,也可能是批評別人的錯誤,可能是引用了某個實驗方法,也可能僅僅是為了表達對導師的尊重,還有的甚至沒仔細看論文原文,僅僅看到某篇文章引用高就隨大流引用一下。
如果一味按高被引論文評價人才,則可能會造成偏差,因為通常來説,論文的引用量需要時間累積,年資較長的人比年輕人佔優勢;但如果按照熱點論文,也可能只是鼓勵了擅於做短平快研究、追逐流行的弄潮兒。
連參與 ESI 開發的 David A. Pendlebury 也在近期的一個採訪中指出——
“因為不能做什麼都得到資助,一般的邏輯是給已經發表了有影響的文章、證明了自己的人資助或鼓勵,但並不是説,只有這些人才有資格得到支持。正如很多人指出的,缺少證據並不是説就會永遠缺席,所以除了基於過往成功的定量指標外,在政策制定和資助決定方面,也要給基於知識和直覺的判斷留下空間。這在早期職業研究者的資助方面尤其要注意。”


可事實是,很多學校對高被引論文和熱點論文進行獎勵。有的學校甚至提出,“對創建學科按需引進的高端人才,優先安排博士生指標、科研或實驗室用房” , “專項指標招收的博士生,在學期間每人發表3-5篇 ESI 論文”。
“這種獎勵政策可以看做是國內第二,三梯隊大學的一個典型特徵,對這些學校的確是有促進作用的,但過了一定階段,這種政策就是進一步發展的障礙了;國外最頂級的學校當然不會看這種指標了,基本上是資深教授的品位決定以後的發展。” 香港科技大學講席教授戴希告訴筆者。
可以預見的是,ESI 的獎勵在一定程度上會影響到科研選題,導致科研人員更多考慮好發文章、傳統上引用較多的方向,追逐別人認為的所謂熱門,而沒有真正審視自己的內心,做自己認為重要的研究。
圖靈獎得主 Donald Knuth 曾勸誡年輕人——
“不要因為某個東西是流行的,就相信是好的。或許我會走向另一個極端,如果發現太多的人都採用了一種想法,我或許會認為不對勁,如果我的工作變的太過流行,我或許該考慮改變。這當然很荒謬,但我經常看到,人們經常做一些違揹他們內心的事,因為覺得大家要他們這麼做,所以就去做一些他們不那麼感興趣的課題,覺得這麼做可以得到更多尊重。我想,你應該是通過做好的科學而不是做流行的科學來得到更多尊重,因為如果做你真的覺得重要的事,長期來看有更大的可能此事是重要的。長期來看重要,才是對世界最有益處的。”
5 智囊團加持
在這場衝擊 ESI 1% 的戰役中,不少學校召開了各類 “ESI學科提升報告”、“ESI學科表現專題講座”,學校的圖書館員、來自科睿唯安(科睿唯安以前是湯姆森路透的知識產權和科學部門,2016年被出售後成立新公司)的工作人員被奉為座上賓,扮演了 “智囊” 的角色,為學校的管理層出謀劃策。
可這一做法已經招致了科研人員的不滿。
當筆者將一篇名為《基於 ESI 數學學科的數據對比分析及對學科建設的思考——以武漢大學數學學科為例》的文章發給北京大學數學科學學院教授安金鵬查看時,他難掩心中的憤懣——
“我本來不知道 ESI 是什麼,現在也沒完全清楚,但是覺得用這個來評價任何學科都不合理,不光是數學。”
上述文章還提出,“應引導科學工作者向這類影響因子高的期刊或者偏向應用數學領域的期刊投稿。”;“科研工作者要多研究關注最近發表期刊中的高頻詞,因為它們大多揭示了當前的研究熱點,通過關注這些高頻詞,能幫助科研人員更好地把握當前的研究的熱門方向,站在時代的前沿,做出具有前瞻性的研究成果,將極大地促進我校學術地位的提高。”
“看作者在圖書館或者經管學院工作,還輪不到他們指點科研人員應該做什麼。如果作者是為了湊文章評職稱,我不做評價。如果科研管理者把他們的觀點當真,就太悲哀了。我不相信有任何一個真正重要的科研工作是這樣做出來的。” 安金鵬説。
一些學校的圖書館員還建議,利用 “ESI 統計忽略作者排名,合作者與第一作者具有同樣的 ESI 貢獻度” 的特點,學校應該在對外合作方面作出有針對性的安排,比如——
“要求出訪者至少完成一定數量的ESI論文”,讓研修人員全部帶 “命” 出訪;建議開展互助合作,“形成校際間互助的雙贏局面”;合作研究要 “借船下海”,與本學科排名世界前20位的海外知名學者開展合作研究。
文獻分析人員提供的這些 “睿智” 捷徑,正慢慢地滲透進管理者的腦中。
6取代同行評議?
如今,伴隨着 ESI 在內的各項指標的大行其道,傳統上的同行評議正遭受瓦解。
人們似乎不再關心,研究者或者科研機構究竟做出了怎樣的科學發現和技術突破;解決了什麼樣的問題;為社會,經濟發展作出了怎樣的貢獻。好在,一些 “老古董” 還在堅持和呼籲。 “
説實在的,我現在根本都不太去注意這些東西,什麼 ESI,千分之一引用,我都不知道怎麼查,也不知道怎麼統計的。**作為一個科研人,你首先要考慮的是自己的研究是不是能夠產生一個持續的、長遠的影響,特別是能夠對相關產業、社會做出更大的貢獻。**單單考慮發表些文章,不是説不重要,但這僅是顯示成果的一個機會。發表之後需要回頭來反思,自己的研究還有哪些地方可以改進,可以深入,能不能更好地融入社會,融入產業。一味追求這些論文指標的話,顯然有點浪費時間和機會。”
在一次專訪中,中國科學院上海有機化學研究所馬大為告訴筆者。 在他看來,一味去追求論文排名,並不是一個長久的方法,最終檢驗大學和中國的科研水平,還要看科研成果能不能對社會發展產生持續的、重大的影響。
他所在的有機所也早已跳出了唯論文的評價體系,比如所裏有博士一篇文章沒有發表也可以畢業;另一方面,如果畢業論文工作量和深度不夠,即使發了幾篇文章,也照樣不讓畢業。這一切都是基於小同行評價。
不過,在中國這麼做有壓力麼?有,但重要的是領導的擔當。
“我們也有壓力。現在全國每天都有這樣那樣的排名。我覺得最關鍵還是一個單位要有點自信,不能説今天排名到第10就多好了,排名到第15了就多差了。每個大學還是要有自信,你要去盤算我有多少比較厲害的人才,是否花了很多時間以後能夠創造出一些比較重要的成果,而不是單單去為了數字而奔波。現在的攀比現象,長期來講對中國的科研是很不利的。要是發文章,跟着熱潮最容易發,但是最後你就變成替人家去包裝了。很多人喜歡哪個課題熱鬧就去蹭一下熱度,可能發表了很多文章,但過了多少年以後回想一下,發現能夠在歷史上留下的痕跡很有限。這對科研工作者來講也是一個失敗。” 馬大為説。
即使是作為 ESI 的開發者,當 David A.Pendlebury 看到文獻計量被濫用時,他也承認這是個令人痛心的事情——
“用某個簡單、單一的指標體系(比如h指數或平均影響因子)來評價或決定資助,很不幸我是見多了這種事,這瓦解了人們對文獻計量分析的用處和價值的信心,改變了科研人的行為,讓他們追逐分數指標而不再專注於其科研。這腐蝕了科學。防止此類濫用的一種方法是確保引文分析是同行評審的補充,而不是代替它。人來決定重要性以及質量,而文獻計量作為表徵提供建議,但不是重要性或價值的證明。”
ESI 的中國信徒們,是不是該醒醒了?
參考文獻
1. 關於印發《統籌推進世界一流大學和一流學科建設實施辦法(暫行)》的通知,http://www.gov.cn/xinwen/2017-01/27/content_5163903.htm#1
2. 劉兵紅等,基於ESI數學學科的數據對比分析分析及對學科建設的思考——以武漢大學數學學科為例,《知識、學習與管理》,2017年第1期。
3. 徐仲,吳曼,ESI在中國高校一流學科建設中的誤區及對策分析,青島科技大學學報(社會科學版),第35卷第2期,2019年6月。
4. 羅宏,周杰,ESI學科分類與評價缺陷及其風險探討,《高教管理》,2018年第11期。
5. 劉鳳俠,潘香岑,董新玲,“雙一流”背景下高校圖書館ESI學科服務研究,《大學圖書情報學刊》,2018,36(05),3-6
6. 顏惠,黃創,ESI評價工具及其改進漫談,《情報理論與實踐》,2016年第5期。
7. Richard Van Noorden, Brendan Maher& Regina Nuzzo, The top 100 papers, https://www.nature.com/news/the-top-100-papers-1.16224?WT.mc_id=FBK_Nature_1410_Top100papers_PORTFOLIO
8. Christopher W. Belter, Bibliometric indicators: opportunities and limits, J Med Libr Assoc. 2015Oct; 103(4): 219–221. doi:10.3163/1536-5050.103.4.014
9. Sneha Kulkarni, Misuse of bibliometric analysis shifts scientists’ focus from the irresearch to pursuing scores, https://www.editage.com/insights/misuse-of-bibliometric-analysis-shifts-scientists-focus-from-their-research-to-pursuing-scores
10.科技部教育部人力資源社會保障部中科院工程院關於開展清理“唯論文、唯職稱、唯學歷、唯獎項”專項行動的通知,http://www.most.gov.cn/tztg/201810/t20181023_142389.htm
11.https://en.wikipedia.org/wiki/Clarivate_Citation_Laureates
12. https://clarivate.com/products/essential-science-indicators/