“過(guò)去這些年，我們?cè)谛畔⒓夹g(shù)領(lǐng)域最大的一個(gè)經(jīng)驗(yàn)教訓(xùn)，就是關(guān)鍵核心技術(shù)必須靠自己自主創(chuàng)新來(lái)解決，不能靠買、靠換。”計(jì)算機(jī)專家倪光南院士近日在2019世界人工智能大會(huì)上接受澎湃新聞專訪時(shí)表示。

盡管在應(yīng)用、芯片等角度上發(fā)力，也會(huì)令A(yù)I產(chǎn)生更多價(jià)值，但他認(rèn)為，國(guó)內(nèi)必須在算法突破上投入更多的力氣。

這位1939年出生的中國(guó)工程院院士曾參與研制中國(guó)自行設(shè)計(jì)的第一臺(tái)電子管計(jì)算機(jī)(119機(jī))，在上世紀(jì)六、七十年代開展?jié)h字處理和字符識(shí)別研究，首創(chuàng)在漢字輸入中應(yīng)用聯(lián)想功能。

從1995年至今，倪光南就不遺余力地呼吁中國(guó)發(fā)展IT核心技術(shù)，特別是自主操作系統(tǒng)和國(guó)產(chǎn)CPU。如今，“技工貿(mào)”和“貿(mào)工技”之爭(zhēng)，歷史似乎已經(jīng)給出了答案。他相信，中國(guó)如今會(huì)在人工智能領(lǐng)域吸取歷史教訓(xùn)，下更大的決心實(shí)現(xiàn)突破。

人工智能安全超越軟硬件問(wèn)題

在此次大會(huì)上，倪光南參與了世界人工智能安全高端對(duì)話。在他看來(lái)，自主可控是網(wǎng)絡(luò)安全的關(guān)鍵，必須在質(zhì)量測(cè)評(píng)、安全測(cè)評(píng)的基礎(chǔ)上增加自主可控測(cè)評(píng)。

這一套標(biāo)準(zhǔn)，可能也同樣適用于人工智能時(shí)代的安全問(wèn)題，即通過(guò)建立一些要素準(zhǔn)則，評(píng)估人工智能相關(guān)產(chǎn)品、服務(wù)、技術(shù)、系統(tǒng)的安全可控。

“這樣有個(gè)好處，是在網(wǎng)絡(luò)安全的基礎(chǔ)上再上一個(gè)臺(tái)階，不是另起爐灶，從零開始。”他說(shuō)道。

那么，在繼承網(wǎng)絡(luò)安全的基礎(chǔ)上，AI時(shí)代的安全問(wèn)題表現(xiàn)出哪些新的特征?倪光南從演化的角度看待這個(gè)話題。

傳統(tǒng)安全考慮的是人和物之間的關(guān)系，網(wǎng)絡(luò)安全則涉及到人和人之間的攻防關(guān)系。“所以我們?cè)诰W(wǎng)絡(luò)安全上要強(qiáng)調(diào)自主可控，假如你無(wú)法自主可控，對(duì)方就可以利用漏洞從后門攻擊，這是在傳統(tǒng)安全上更進(jìn)了一步。”

進(jìn)入到人工智能時(shí)代，我們還需要面對(duì)人和人工智能的關(guān)系。AI的安全可控由此也超越了單純的技術(shù)問(wèn)題。例如，用交互過(guò)程訓(xùn)練聊天機(jī)器人時(shí)，一些機(jī)器人會(huì)出現(xiàn)“學(xué)壞”、“罵人”的情況，甚至變成一個(gè)“種族主義者”。

“這些機(jī)器人在軟件和硬件上都不應(yīng)該有問(wèn)題，但在學(xué)習(xí)過(guò)程之中出現(xiàn)了更復(fù)雜的情況。”倪光南說(shuō)道。這是過(guò)去從未考慮過(guò)的問(wèn)題，需要各方面的深入研究。

此外，深度學(xué)習(xí)還有透明性問(wèn)題。“人工智能識(shí)別圖片可能比人更準(zhǔn)確，但我們不知道為什么這么好;人類棋手下每步棋都有解釋，但AI就做不出解釋。”無(wú)法解釋為什么好，就無(wú)法避免不好的情況。針對(duì)一些人臉識(shí)別系統(tǒng)，黑客畫上一條簡(jiǎn)單的線就能迷惑AI，利用很小的干擾造成AI的失誤。

倪光南總結(jié)道，人工智能帶來(lái)了一種全新的安全類型，可能在制度設(shè)計(jì)和方法論上都需要有個(gè)說(shuō)法。

關(guān)于AI安全，另一個(gè)廣為關(guān)注的話題是AI是否會(huì)造成大規(guī)模失業(yè)。倪光南認(rèn)為，機(jī)器相對(duì)于人類有兩個(gè)最大的優(yōu)勢(shì)。其一是在某些特定領(lǐng)域上打敗人類會(huì)成為常態(tài)。其二就是機(jī)器的智能很容易疊加和擴(kuò)大，而100個(gè)人的智慧加起來(lái)就未必比一個(gè)人更強(qiáng)。

但他相信，在大量簡(jiǎn)單勞動(dòng)被人工智能取代之后，依然需要一大批工程師去使用和維護(hù)這些機(jī)器，人類從而能在新增的工作崗位上發(fā)揮更高價(jià)值的作用。

歷史教訓(xùn)賦予更大的決心

那么，中國(guó)的人工智能研究與產(chǎn)業(yè)未來(lái)要實(shí)現(xiàn)安全、健康的發(fā)展，最重要的發(fā)力點(diǎn)在哪里?倪光南認(rèn)為算法仍是一個(gè)核心問(wèn)題。

眼下這一波人工智能的新熱潮，有三個(gè)公認(rèn)的因素發(fā)揮了主要作用：數(shù)據(jù)、算力和算法。倪光南認(rèn)為，其中最關(guān)鍵的是深度學(xué)習(xí)的出現(xiàn)在算法上實(shí)現(xiàn)了突破，將人工智能一下子提升到新的階段。

在短期內(nèi)，可以預(yù)見(jiàn)很多公司會(huì)首先從應(yīng)用著手。“應(yīng)用門檻低，容易做，這也是很正常的。中國(guó)市場(chǎng)很大，在這方面具有優(yōu)勢(shì)，傳統(tǒng)產(chǎn)業(yè)引入人工智能能夠加速升級(jí)改造，”倪光南說(shuō)道，“但我們還需要投入更大的力氣，從關(guān)鍵核心技術(shù)方面進(jìn)行突破，爭(zhēng)取更大的前途。”

“包括現(xiàn)在很熱的人工智能芯片，很多家都能做，當(dāng)然也有好壞差別。但這個(gè)差別在都是用硬件去加速算法，沒(méi)有在根本上突破算法本身。”倪光南評(píng)價(jià)道。

“過(guò)去這些年，我們?cè)谛畔⒓夹g(shù)領(lǐng)域最大的一個(gè)經(jīng)驗(yàn)教訓(xùn)，就是關(guān)鍵核心技術(shù)必須靠自己自主創(chuàng)新來(lái)解決，不能靠買、靠換。”他總結(jié)道。

不過(guò)，比起當(dāng)年薄弱的基礎(chǔ)和分歧的思想，倪光南相信中國(guó)現(xiàn)在國(guó)力更強(qiáng)，突破關(guān)鍵核心技術(shù)的認(rèn)識(shí)也更為深刻。“大家在人工智能領(lǐng)域會(huì)借鑒過(guò)去的經(jīng)驗(yàn)，下更大決心，縮短追趕的過(guò)程。”