近日，谷歌大腦高級(jí)研究科學(xué)家 Maithra Raghu 發(fā)布了自己的博士生涯總結(jié)，包括期望值管理、讀博的常見挑戰(zhàn)，以及論文那些事兒，等等。

讀博期望值管理

在這里，我將讀博稱為一段「旅程」，這是一個(gè)經(jīng)常被低估的方面。讀完機(jī)器學(xué)習(xí)博士學(xué)位大概需要 5 到 6 年的時(shí)間。在此期間，你不僅要學(xué)習(xí)關(guān)于該領(lǐng)域的研究技能和知識(shí)，而且還將培養(yǎng)自己對(duì)特定問題的個(gè)人偏好、對(duì)不同子領(lǐng)域的認(rèn)知，甚至對(duì)跨學(xué)術(shù)界、業(yè)界、政策、非盈利組織等的工作類型有自己的見解。

這些不斷變化的個(gè)人偏好，將影響你決定從事的研究類型，甚至影響你所選擇的博士后職業(yè)道路。但在博士生涯的初始階段，我們往往很難預(yù)測(cè)個(gè)人偏好會(huì)如何演變。就我而言，我是完全假設(shè)自己會(huì)投身業(yè)界，過程中我也認(rèn)真思考了搞學(xué)術(shù)這件事，不過最后我做出了一個(gè)非常艱難的決定：放棄學(xué)界的 Offer，繼續(xù)留在業(yè)界。

所以，在開始博士學(xué)位課程后，循序漸進(jìn)地進(jìn)行學(xué)習(xí)，并充分利用已有經(jīng)驗(yàn)通常會(huì)很有幫助，但不必設(shè)定非常具體的預(yù)期結(jié)果（正所謂計(jì)劃趕不上變化，且這會(huì)增加不必要的壓力）。

讀博旅程中的常見挑戰(zhàn)

攻讀博士學(xué)位可能會(huì)帶來巨大的收獲，特別是在機(jī)器學(xué)習(xí)領(lǐng)域，它提供了理解基礎(chǔ)科學(xué)和技術(shù)部署的機(jī)會(huì)。我很感激自己在博士生涯中有很多機(jī)會(huì)來體驗(yàn)這兩個(gè)方面。

但博士學(xué)位的攻讀時(shí)長(zhǎng)和自由的特性，也是一種挑戰(zhàn)。我的博士生涯起起伏伏，有些時(shí)候我感到孤獨(dú)，陷入困境以致于不知所措?，F(xiàn)在再回想過去，加上與同行討論之后，我理解了這些低谷是很常見的。不過，根據(jù)很多人分享過的經(jīng)驗(yàn)，我知道也有一些策略可以幫助解決問題。

陷入困境

一個(gè)非常常見的挑戰(zhàn)是：卡住，有時(shí)候是卡在某個(gè)特定項(xiàng)目中，有時(shí)候整個(gè)研究都卡住了。

如果是某個(gè)項(xiàng)目卡住了，而且你一直努力推進(jìn)卻未奏效，那么你可以參考以下策略：

• 整理成文字形式：收集部分實(shí)驗(yàn)結(jié)果、數(shù)學(xué)見解，總結(jié)出有條理的筆記，花時(shí)間梳理這篇內(nèi)容會(huì)讓你理解事情到了哪一步，重要差距出現(xiàn)在哪里。
• 核心點(diǎn)：如果項(xiàng)目的某個(gè)特定部分無法正常工作，可以考慮是否需要重構(gòu)該問題，使其更容易處理。
• 建立聯(lián)系：當(dāng)前項(xiàng)目關(guān)注的領(lǐng)域和其他研究領(lǐng)域是否存在聯(lián)系？在該項(xiàng)目中能否探索這種聯(lián)系？這既有利于進(jìn)步，也可以使項(xiàng)目與更廣泛的社區(qū)建立聯(lián)系。
• 獲取反饋：從研究社區(qū)的同行、合作者和朋友那里獲得反饋也可能有所幫助，你還能收獲一些新觀點(diǎn)和改進(jìn)建議。
• 提交 Workshop：參與一些 Workshop 也能收集到一些有用的反饋。
• 完結(jié)，然后繼續(xù)：有時(shí)候一個(gè)項(xiàng)目在起初看起來很有希望，但很難推進(jìn)，并且重構(gòu)、與其他領(lǐng)域建立聯(lián)系也具備挑戰(zhàn)性。在這種情況下，快速結(jié)束項(xiàng)目是是非常有必要的。如果獲得了一部分結(jié)果，那你有必要生成最終文章并共享出來，從合作者那里獲得確認(rèn)和最終反饋，并將其保存為 arXiv 預(yù)印本或 workshop 論文。

如果這種卡住的感覺來源于研究過程，我意識(shí)到的很重要的一點(diǎn)是，研究的完備程度通常很難衡量，尤其是在評(píng)估自己的時(shí)候。在讀博士的過程中，我一開始做了一些醫(yī)療應(yīng)用方面的研究，但學(xué)習(xí)這一領(lǐng)域知識(shí)、撰寫論文的速度較慢。緩慢的進(jìn)展讓我感到沮喪，但在努力一段時(shí)間之后，我重新閱讀了一些我在博士早期看過的論文，感覺大有不同，現(xiàn)在我可以更深刻地理解它們了。

研究成熟度的關(guān)鍵方面——了解結(jié)果的更廣泛意義，與不同領(lǐng)域構(gòu)建聯(lián)系，迅速縮小與子領(lǐng)域新關(guān)鍵貢獻(xiàn)的距離——你不需要迅速將其轉(zhuǎn)化為有形的產(chǎn)出（更多論文）。但它們對(duì)于成為具有豐富研究視野的獨(dú)立研究人員至關(guān)重要，可以說是博士的主要研究目標(biāo)。而且如果你通過閱讀論文了解一個(gè)領(lǐng)域，自行工作開始某個(gè)方向的探索（甚至開始教課），就意味著你在這些重要方面都有了進(jìn)步！

跟上機(jī)器學(xué)習(xí)的進(jìn)度

機(jī)器學(xué)習(xí)是一個(gè)日新月異的熱門研究領(lǐng)域，與之相對(duì)的是很多東西都會(huì)淹沒在海量論文、預(yù)印版論文、博客文章、應(yīng)用、框架等之下。一個(gè)有趣的統(tǒng)計(jì)結(jié)果是：去年的 NeurIPS 會(huì)議有超過 1 萬篇論文投稿，最終有 2000 多篇論文被收錄——看不完吧，感到不知所措了吧！

對(duì)此我的策略是：

1. 準(zhǔn)備一個(gè)相關(guān)論文的鏈接列表。對(duì)我來說，這需要結(jié)合 arXiv 的機(jī)器學(xué)習(xí)子目錄、arXiv-sanity、推特、reddit 的 MachineLearning 板塊（有時(shí)）、paperwithcode、Semantic Scholar 和 Google Scholar。
2. 記錄并更新論文閱讀列表。如果看到了有趣的論文但沒時(shí)間讀，先記錄下來之后再來看。
3. 尋找一種閱讀論文的節(jié)奏。如果論文和自己的研究方向強(qiáng)相關(guān)就仔細(xì)看，否則就快速看摘要和論文中的重要圖片。
4. 偶爾閱讀不同領(lǐng)域的研究。有些時(shí)候（也許一年一次），我會(huì)嘗試看一些不是自己研究領(lǐng)域里的論文，以便對(duì)前沿研究進(jìn)展有大致了解。

這里請(qǐng)記?。好總€(gè)人對(duì)于論文的發(fā)表速度都感到有壓力，同時(shí)很多論文可能源自相同的思路，經(jīng)常了解一下業(yè)界進(jìn)展就足以跟上主流了。

孤獨(dú)無助

博士期間的另一個(gè)挑戰(zhàn)在于和孤獨(dú)感作斗爭(zhēng)。在讀博的頭幾年，一些項(xiàng)目要求我把目光放在非常狹窄特定的問題上，這些問題也非常費(fèi)時(shí)費(fèi)力，永無止境。在這段時(shí)間里，你很難不感受到自己被其他研究者和更大的研究圈子拋棄，我非常感謝在此期間幫助我渡過難關(guān)的人們。

從更廣泛的意義來講，這種情況很常見，特別是在博士早期：你可能在學(xué)習(xí)如何將一個(gè)項(xiàng)目從頭到尾過一遍，而與此同時(shí)與研究領(lǐng)域和社區(qū)本身的聯(lián)系并不多。保持與研究領(lǐng)域和社區(qū)的聯(lián)系對(duì)于減少孤獨(dú)感非常有好處。有時(shí)你可以：1）與高年級(jí)學(xué)生或博士后建立合作；2）從導(dǎo)師、實(shí)驗(yàn)室負(fù)責(zé)人、研究合作者那里獲取有關(guān)自己工作進(jìn)展的反饋；3）積極參與更廣泛的社區(qū)，無論是簡(jiǎn)單地參會(huì)，還是組織和指導(dǎo) workshop。

你需要具備的三大能力

在討論了攻讀博士學(xué)位期間會(huì)遇到的一些共同挑戰(zhàn)及解決方法之后，本文的其余部分將概述有利于研究推進(jìn)的一些有用能力。

首先我們要對(duì)于讀博最有用的三項(xiàng)能力說起：主動(dòng)、專注和毅力。當(dāng)然這是根據(jù)我的個(gè)人經(jīng)驗(yàn)得出的結(jié)論，每個(gè)人對(duì)于有用品質(zhì)可能會(huì)有不同看法。但對(duì)我而言，自本科畢業(yè)開始到進(jìn)入博士培養(yǎng)計(jì)劃最主要的區(qū)別就在于要主動(dòng)——這包括但不限于閱讀重要的相關(guān)論文、對(duì)不同方法的可行性進(jìn)行快速的初步研究、與進(jìn)行相關(guān)研究的同行不斷交流、參加學(xué)術(shù)會(huì)議并成為大會(huì)的積極參與者。

由于博士生活大部分是由非結(jié)構(gòu)化的時(shí)間構(gòu)成的，因此提高生產(chǎn)力很大程度上取決于你學(xué)習(xí)和做研究的主動(dòng)性。

另外非常有用的品質(zhì)是專注和毅力。在開始新的研究方向時(shí)，仔細(xì)閱讀相關(guān)工作，提取關(guān)鍵點(diǎn)，快速從初始探索中學(xué)習(xí)并確定主要項(xiàng)目方向是很重要的。另一方面，堅(jiān)持對(duì)于把一項(xiàng)研究順利做完非常有用：你總是需要做大量編輯、添加工作才能讓論文最終呈現(xiàn)可提交的狀態(tài)，而在提交之后，你還要回應(yīng)同行評(píng)審的觀點(diǎn)，做進(jìn)一步的編輯工作，甚至面對(duì)拒稿。有時(shí)你很難打起精神應(yīng)付這些工作，特別是你一邊為重新提交論文做準(zhǔn)備，另一邊還要研究新課題時(shí)。但同行評(píng)審過程帶來的機(jī)會(huì)通常意味著堅(jiān)持是值得的。

關(guān)注論文和新思想

在博士的第一年和第三年，我分別開了兩份文檔，并一直在更新：第一個(gè)記錄我閱讀過的論文，每當(dāng)我看完一篇新論文，就會(huì)在文檔中添加一筆，附帶自己的簡(jiǎn)短總結(jié)。這個(gè)文檔現(xiàn)在已經(jīng)有 50 頁了（我可能得轉(zhuǎn)投 Mendeley 或 Paperpile 了），在我需要快速尋找論文研究和要點(diǎn)時(shí)它非常有用。

另一個(gè)文檔持續(xù)關(guān)注研究方向，每當(dāng)我找到一個(gè)有趣的想法就會(huì)在其中記錄下來。隨著時(shí)間流逝，這份努力在我選擇研究方向和突出主題時(shí)提供了不少幫助。

社區(qū)的重要性

我花了挺長(zhǎng)時(shí)間才意識(shí)到機(jī)器學(xué)習(xí)研究的一個(gè)重要特點(diǎn)：從根本上說機(jī)器學(xué)習(xí)研究是社區(qū)行為。我們需要解決的問題非常困難，進(jìn)展取決于所有同行接受新觀點(diǎn)的速度。這是你探索研究方向時(shí)要牢記的關(guān)鍵因素。讓社區(qū)感到興奮的是什么，為什么？有缺點(diǎn)或空白嗎？有明顯的下一步嗎？花時(shí)間與社區(qū)中的同僚討論這些問題，對(duì)于尋找恰當(dāng)?shù)难芯糠较蛑陵P(guān)重要。

而且如果你對(duì)一個(gè)新研究方向感到興奮，圍繞它來建立討論社區(qū)是很有意義的——這可以通過發(fā)起協(xié)作、散布關(guān)鍵的開放性問題并組織研討會(huì)來實(shí)現(xiàn)。從博士生涯早期開始，我就對(duì)了解現(xiàn)代深度學(xué)習(xí)系統(tǒng)所展示出的重要實(shí)驗(yàn)現(xiàn)象非常感興趣。但這一領(lǐng)域很有挑戰(zhàn)性，它的發(fā)展很快，任何分析的重點(diǎn)都在不斷變化，這就使得圍繞它建立社區(qū)變得困難起來。因此我在發(fā)表第一篇深度學(xué)習(xí)分析論文時(shí)經(jīng)歷了很大挑戰(zhàn)，但這也絕對(duì)是一種堅(jiān)持的體現(xiàn)。自此以來，能夠見證并為這個(gè)令人興奮的研究領(lǐng)域的發(fā)展做出貢獻(xiàn)真是太好了！

發(fā)展研究的視角

前面提到過，當(dāng)開始博士生涯時(shí)最好走一步看一步，專注于積累經(jīng)驗(yàn)，而非追尋特定的目標(biāo)，但從研究成熟度的角度來說，PhD 是有特定的任務(wù)的：成為一名獨(dú)立的研究者，擁有豐富且清晰的研究視野。

在最近的機(jī)器學(xué)習(xí)研究中，隨著大量論文的出現(xiàn)，人們自然想到需要發(fā)更多文章。但盡管論文寫作是一項(xiàng)重要技能，但我認(rèn)為研究成熟度的關(guān)鍵標(biāo)準(zhǔn)是能夠?qū)ψ约旱念I(lǐng)域有深度觀點(diǎn)，這些觀點(diǎn)有助于通過與主題相關(guān)的總體觀點(diǎn)（研究視野）來決定關(guān)鍵的研究問題。

擁有完善的研究視野會(huì)極大地激發(fā)人們的積極性。打個(gè)比方，這就有點(diǎn)像完成一個(gè)「按照數(shù)字填色」的任務(wù)：你不僅在給每個(gè)空格填上顏色，在圖畫完成時(shí)還會(huì)突然看到整張圖片的效果。

所以問題來了，如何建立起研究視野呢？

首先從我的 PhD 經(jīng)歷來看，要想在沒有幾年研究經(jīng)驗(yàn)的情況下建立起完整的研究視野是很難的。在博士的頭幾年里，我記得自己一直在閱讀論文，觀看資深研究者的演講，并為無法識(shí)別、闡述有趣的研究問題而感到苦惱。在隨后的幾年里，所有我讀過的論文、參與的項(xiàng)目和研討會(huì)都對(duì)自己的能力提升有很大幫助。當(dāng)然還是有改進(jìn)的空間！「向前看」這種能力會(huì)隨著閱歷和對(duì)自身方向的深入理解不斷發(fā)展。

現(xiàn)在，我們來更具體地說明如何更好地發(fā)展研究視野：它始于探索，我初期參與的一些項(xiàng)目給我提供了一些不同的機(jī)會(huì)，讓我開始理解自己真正感興趣的主題。從這個(gè)基礎(chǔ)開始，自然就會(huì)有一些相關(guān)的研究需要跟進(jìn)，最終把你引向相關(guān)的應(yīng)用、部署問題。所有這些都是在機(jī)器學(xué)習(xí)設(shè)計(jì)和人機(jī)交互這一大主題的基礎(chǔ)上開始的，而且隨著研究視野的拓展，已有的工作激發(fā)出了新的問題。在這里，我要非常感謝導(dǎo)師的見解、指導(dǎo)和鼓勵(lì)！

最后需要強(qiáng)調(diào)的是，多年的經(jīng)驗(yàn)確實(shí)產(chǎn)生了質(zhì)變的效應(yīng)。當(dāng)我在從事研究項(xiàng)目時(shí)，分辨論文中的重要觀點(diǎn)已變得更加輕松，這讓你可以更好地提出自己的看法、下一個(gè)問題和對(duì)未來的展望，在新的項(xiàng)目中可以更快地吸收知識(shí)、提出看法，隨后回歸本源——幫助自己找到有趣的研究方向，并形成更廣闊的的視野。

總結(jié)

總而言之，讀 PhD 是一件很有意義的事。不過它就像是一段旅程，有起有落，伴隨著新的發(fā)現(xiàn)和人生觀的改變。我對(duì)自己在讀博生涯中獲得的豐富經(jīng)驗(yàn)時(shí)常心存感恩，希望這篇文章能夠?qū)ι碓诼猛局械哪惝a(chǎn)生幫助。