還未入職,這位將來(lái)的博導(dǎo)為學(xué)生規(guī)劃了一條高效學(xué)習(xí)之路
考博不易,順利且高效地讀下來(lái)更不易。在這段求學(xué)生涯中,找到一條屬于自己的高效學(xué)習(xí)之路顯得尤為重要。
如何做呢?2023 年秋季將在紐約大學(xué)工學(xué)院(NYU Tandon)擔(dān)任助理教授的 Eugene Vinitsky 暢想了他將如何為自己的博士生規(guī)劃高效的學(xué)習(xí)之路。
本文雖然面向多智能體強(qiáng)化學(xué)習(xí)(MARL)領(lǐng)域的研究者,但除了一些期望獲得的特殊技能,提到的這些做法基本是通用的。
來(lái)源:https://twitter.com/EugeneVinitsky/status/1579248319280254977
成功的研究生涯第一年或第二年是什么樣的?這很難說(shuō)。本文可以幫大家制定一個(gè)學(xué)習(xí)標(biāo)準(zhǔn),這樣你就不至于苛求自己,也不必為實(shí)現(xiàn)一些不切實(shí)際的期望而倍感壓力。同時(shí)能意識(shí)到,學(xué)習(xí)這些內(nèi)容確實(shí)需要付出相當(dāng)?shù)臅r(shí)間和精力,不要對(duì)自己太過(guò)放松。
如果你在努力達(dá)成這些目標(biāo),我們正好可以探討一下,看看你理解掌握的程度如何,存在什么問(wèn)題,以便找到幫助你的辦法!作者希望這些期待對(duì)你有所助益,能幫你實(shí)現(xiàn)目標(biāo),而非給你帶來(lái)壓力。
第一年
一年級(jí)學(xué)生的主要任務(wù)是上課,可以設(shè)定以下基本目標(biāo)。如果你能輕松達(dá)成甚至超越這些目標(biāo),你應(yīng)該高興自豪,但假如沒(méi)能超出預(yù)期,也不要有太大壓力。
時(shí)間規(guī)劃
每周要有 15-20 小時(shí)用于研究。然而,你未必能一直保持緊張高效的學(xué)習(xí)狀態(tài),所以如果你多花費(fèi)了一些時(shí)間,例如瀏覽代碼庫(kù)或者搞清楚如何在集群上運(yùn)行代碼,也不要苛責(zé)自己。這同樣是一種收獲!這是我們的內(nèi)在期望。我并不是在給你上緊發(fā)條,而是希望你在研究生期間能學(xué)會(huì)自我激勵(lì)、自主學(xué)習(xí)。
學(xué)習(xí)
學(xué)習(xí)以課業(yè)為主,但要明白,課業(yè)只能讓你基本理解所學(xué)內(nèi)容。開(kāi)始對(duì)課程內(nèi)容只是粗淺理解,但隨著不斷探索掌握其中要義,你會(huì)有更深刻明晰的見(jiàn)解,學(xué)會(huì)區(qū)分這兩者很重要;知識(shí)的隨需隨查和內(nèi)化可用,二者之間也有很大區(qū)別。就實(shí)際成果來(lái)說(shuō),我認(rèn)為一年級(jí)結(jié)束時(shí)你如果能達(dá)到以下幾點(diǎn),就是很不錯(cuò)的狀態(tài):
- 充分熟悉你選擇的機(jī)器學(xué)習(xí)庫(kù)(最好是 PyTorch 或 JAX)。如果你熟悉如何編寫 PyTorch 代碼,其它的掌握起來(lái)也不難,這些庫(kù)基本大同小異;
- 順利適應(yīng)與你研究相關(guān)的模擬環(huán)境;
- 熟練進(jìn)行集群實(shí)驗(yàn);
- 深入理解 Richard S. Sutton 和 Andrew G. Barto 的相關(guān)課題,前期學(xué)習(xí)優(yōu)化課程和控制課程;
- 大量閱讀我推薦閱讀清單上的論文,它們可以說(shuō)是根據(jù)你的興趣定制的。
最后,找到你喜歡的系列研討會(huì)并認(rèn)真參加,會(huì)給你帶來(lái)以下益處:
- 結(jié)識(shí)新朋友,了解他們的研究動(dòng)向;
- 從對(duì)某個(gè)課題一無(wú)所知到對(duì)其結(jié)構(gòu)有所了解直到完全掌握,這個(gè)過(guò)程會(huì)帶給你極大的成就感。注意:如果像大多數(shù)人一樣,你不清楚研討會(huì)前幾個(gè)月的內(nèi)容(研討會(huì)通常面向熟悉特定研究領(lǐng)域的學(xué)生,因而會(huì)跳過(guò)一些入門信息),也不必氣餒。但如果你上了三個(gè)月左右的研討會(huì)還一無(wú)所獲,告訴我,我們一起分析原因是什么;
能從中獲取一些研究信息,或許對(duì)你將來(lái)的研究方向有所啟發(fā)。
論文發(fā)表
一年級(jí)學(xué)生需要寫一篇論文,一起列出大綱共同構(gòu)思設(shè)計(jì);主題可能和你興趣或?qū)嶒?yàn)研究?jī)?nèi)容相關(guān)。論文第一作者可能是其他人,你初步涉足,只是提供一些幫助。我很樂(lè)意帶領(lǐng)你設(shè)計(jì)這篇論文,但更期待你的思路,希望你能通過(guò)自己的努力和洞察拿出令人滿意的成果。
注意:研究生容易陷入一個(gè)誤區(qū),認(rèn)為前期只要專注于自己的課業(yè)就行了,只有達(dá)到某種預(yù)期水平才能投身研究。但并非如此,研究本身就是一種技能,只有在實(shí)踐中積極探索,才能不斷提高。
獎(jiǎng)學(xué)金
一年級(jí)應(yīng)該可以申請(qǐng)兩到三項(xiàng)獎(jiǎng)學(xué)金,我們可以具體討論申請(qǐng)哪些。拿到一項(xiàng)獎(jiǎng)學(xué)金,你就可以相對(duì)自由地追求自己的興趣,不必?fù)?dān)憂資金狀況。這些獎(jiǎng)學(xué)金能讓你的博士研究生生活更加輕松愉快。
研究筆記
要有一個(gè)全面細(xì)致的研究筆記,可以參考一下我在《實(shí)現(xiàn)高成效研究的個(gè)人準(zhǔn)則》(Personal Rules of Productive Research )中的建議。建議不一定都對(duì)你有幫助,但我希望你試試看!我從心底認(rèn)為不書寫記錄就無(wú)法深入思考;你也許不同意我的觀點(diǎn),但真的可以試一下。還望你們告知我哪些對(duì)你有所幫助,哪些可能沒(méi)什么用。
鏈接:??http://eugenevinitsky.github.io/posts/personal_rules_of_productive_research.html??
會(huì)議
我們一般情況每周開(kāi)會(huì),忙的時(shí)候可能每?jī)芍荛_(kāi)一次。同時(shí)我沒(méi)法憑空知曉你的想法,那么我坐著和你一起閱讀你的研究筆記也就不會(huì)特別高效。所以,如果你能針對(duì)研究做一個(gè)內(nèi)容提要就很好,可以是會(huì)議前一天給我分享 LaTex 文檔,也可以是一個(gè)非正式的演示文稿,談?wù)勀隳壳暗难芯窟M(jìn)展。這樣我們就可以逐步改進(jìn)繼而得出完善的研究概要。
第二年
問(wèn)題清單
你可以規(guī)劃一下,列出你愿意用兩到三年時(shí)間著力解決的問(wèn)題,而且要時(shí)常改進(jìn)。
獎(jiǎng)學(xué)金
如果你此時(shí)已經(jīng)拿到獎(jiǎng)學(xué)金,那就太棒了。如果沒(méi)有,就再次申請(qǐng)!
學(xué)習(xí)
此時(shí)你應(yīng)該對(duì)所選語(yǔ)言(可能是 Python)駕輕就熟了。如果同時(shí)在研究硬件方面的內(nèi)容,那么也應(yīng)熟悉 C++ 或其他能實(shí)時(shí)運(yùn)行的軟件。
你應(yīng)該在具體的學(xué)科領(lǐng)域?qū)W習(xí)一些高級(jí)課程,鞏固你可能缺漏的知識(shí)點(diǎn)。這個(gè)階段我就不應(yīng)該繼續(xù)提一般性看法了,而要提供一些有針對(duì)性的具體建議。不過(guò)我們還應(yīng)就此探討一下!
論文
正常情況下我們?cè)诘谝荒昃蜁?huì)完成一篇論文。所以在此階段,你對(duì)項(xiàng)目可能會(huì)有很多想法,這時(shí)我們需要共同打造一個(gè)項(xiàng)目,融合你我興趣,但以你為主。合理的預(yù)期是今后一年至少寫一篇論文,或者根據(jù)你的具體情況完成兩篇。
第三年
這一階段就輪到你確定自己的研究方向了!目前你應(yīng)該清楚接下來(lái)要專注于什么課題。你應(yīng)該有完善的工具箱可以充分利用!此刻要確定研究方向的是你,而不是我。此時(shí)唯一的期望就是:
- 設(shè)定一個(gè)清晰的階段目標(biāo),明確兩三年內(nèi)要解決什么問(wèn)題?,F(xiàn)階段你對(duì)此應(yīng)該已有深入思考,因?yàn)橹型靖淖兡繕?biāo)會(huì)很難辦。但這種情況也不無(wú)可能,所以如果發(fā)現(xiàn)陷于困局或者你不愿意繼續(xù)研究當(dāng)前的問(wèn)題或課題了,也不要過(guò)分緊張;如果你已經(jīng)全面深入地考慮過(guò)此類情況,那就會(huì)好很多;
- 此時(shí)(或更早)是參與組織研討會(huì)的大好時(shí)機(jī),可以借此機(jī)會(huì)把自己介紹給所在領(lǐng)域的大咖和志同道合的同學(xué)等。這也是我在博士期間做的最有用的事情之一;
- 學(xué)習(xí):這里可能又有一個(gè)誤區(qū),就是一心沉迷于論文寫作,置學(xué)習(xí)于不顧,如果是這樣,你將永遠(yuǎn)困于僅掌握的單一技能?!蛾P(guān)于機(jī)器學(xué)習(xí)研究的個(gè)人指南》(An Opinionated Guide on ML Research) 和《高效研究原則》(Principles of Effective Research) 中有一些很好的建議。