本文經(jīng)AI新媒體量子位（公眾號(hào)ID:QbitAI）授權(quán)轉(zhuǎn)載，轉(zhuǎn)載請(qǐng)聯(lián)系出處。

新冠疫情的出現(xiàn)，讓許多AI醫(yī)療技術(shù)浮出水面。

但是AI一直黑箱問(wèn)題存在，如果AI對(duì)過(guò)程都不能做到可解釋?zhuān)衷趺茨芊判淖屗鼇?lái)診斷病患呢。而關(guān)于機(jī)器學(xué)習(xí)可解釋問(wèn)題的書(shū)籍少之又少。

最近，一位來(lái)自復(fù)旦大學(xué)的研究生朱明超，將一本少有的書(shū)《Interpretable Machine Learning》（可解釋機(jī)器學(xué)習(xí)）翻譯成了中文。

這本書(shū)最初是由德國(guó)慕尼黑大學(xué)博士Christoph Molnar耗時(shí)兩年完成的，長(zhǎng)達(dá)250頁(yè)，是僅有的一本系統(tǒng)介紹可解釋性機(jī)器學(xué)習(xí)的書(shū)籍。

朱明超近期完成了這本書(shū)的翻譯和校對(duì)工作，目前已經(jīng)開(kāi)源放到GitHub網(wǎng)頁(yè)上。朱同學(xué)在翻譯過(guò)程中還和原作者進(jìn)行了多次討論，中文版還得到了Christoph Molnar本人在Twiter上的推薦。

“可解釋”是這本書(shū)的核心論題。作者認(rèn)為，可解釋性在機(jī)器學(xué)習(xí)甚至日常生活中都是相當(dāng)重要的一個(gè)問(wèn)題。建議機(jī)器學(xué)習(xí)從業(yè)者、數(shù)據(jù)科學(xué)家、統(tǒng)計(jì)學(xué)家和任何對(duì)使機(jī)器學(xué)習(xí)模型可解釋的人閱讀本書(shū)。

《可解釋的機(jī)器學(xué)習(xí)》該書(shū)總共包含 7 章內(nèi)容：

• 第一章：前言
• 第二章：可解釋性
• 第三章：數(shù)據(jù)集
• 第四章：可解釋的模型
• 第五章：模型無(wú)關(guān)方法
• 第六章：基于樣本的解釋
• 第七章：水晶球

Molnar表示，雖然數(shù)據(jù)集與黑盒機(jī)器學(xué)習(xí)解決了很多問(wèn)題，但這不是最好的使用姿勢(shì)，現(xiàn)在模型本身代替了數(shù)據(jù)成為了信息的來(lái)源，但可解釋性可以提取模型捕捉到的額外信息。

當(dāng)我們的日常生活中全都是機(jī)器和算法時(shí)，也需要可解釋性來(lái)增加社會(huì)的接受度。畢竟要是連科學(xué)家都研究不透“黑盒”，怎樣讓普通人完全信任模型做出的決策呢？

這本書(shū)的重點(diǎn)是機(jī)器學(xué)習(xí)的可解釋性。你可以從這本書(shū)中學(xué)習(xí)簡(jiǎn)單的、可解釋的模型，如線(xiàn)性回歸、決策樹(shù)和決策規(guī)則等。

后面幾章重點(diǎn)介紹了解釋黑盒模型的模型無(wú)關(guān)的一般方法，如特征重要性和累積局部效應(yīng)，以及用 Shapley 值和 LIME 解釋單個(gè)實(shí)例預(yù)測(cè)。

對(duì)各種解釋方法進(jìn)行了深入的解釋和批判性的討論。它們是如何工作的？?jī)?yōu)點(diǎn)和缺點(diǎn)是什么？如何解釋它們的輸出？本書(shū)使你能夠選擇并正確應(yīng)用最適合你的機(jī)器學(xué)習(xí)項(xiàng)目的解釋方法。

這本書(shū)結(jié)合了各類(lèi)現(xiàn)實(shí)生活中的例子來(lái)介紹相關(guān)的概念，同時(shí)搭配參考鏈接幫助讀者進(jìn)一步學(xué)習(xí)了解。

另外朱同學(xué)的GitHub上還一直在堅(jiān)持翻譯Goodfellow的《機(jī)器學(xué)習(xí)》，還在翻譯中配上了自己編寫(xiě)的Python代碼供參考。有興趣的同學(xué)也可以順帶去參考學(xué)習(xí)。

最后附上《可解釋機(jī)器學(xué)習(xí)》一書(shū)的項(xiàng)目地址：https://github.com/MingchaoZhu/InterpretableMLBook