當(dāng)前，以大模型為代表的人工智能技術(shù)正加速重塑人類社會(huì)。據(jù)工業(yè)和信息化部公布的數(shù)據(jù)顯示，截至2024年9月底，我國(guó)人工智能核心產(chǎn)業(yè)規(guī)模接近6000億元，相關(guān)企業(yè)超過(guò)4500家。但與此同時(shí)，伴隨著技術(shù)的突破，AI生成內(nèi)容的真實(shí)性、倫理風(fēng)險(xiǎn)等問(wèn)題日漸凸顯。

日前，科技領(lǐng)域的代表們圍繞AI治理、技術(shù)規(guī)范與倫理風(fēng)險(xiǎn)防范提出了一系列針對(duì)性的建議。

包容創(chuàng)新與安全監(jiān)管并重

360集團(tuán)創(chuàng)始人周鴻祎關(guān)注大模型安全和幻覺(jué)，他指出，大模型存在“幻覺(jué)”，偶爾會(huì)生成看似不合理、與事實(shí)不符的情況?！盎糜X(jué)”是一把雙刃劍，是大模型與生俱來(lái)的特點(diǎn)，不可消除，也決定其創(chuàng)造力和想象力，對(duì)于實(shí)現(xiàn)AGI(通用人工智能)極其重要。如果大模型沒(méi)有“幻覺(jué)”，就失去了想象力和創(chuàng)造力。并且越是能力強(qiáng)的模型，一般幻覺(jué)也越多。

他建議，借鑒“避風(fēng)港原則”成功經(jīng)驗(yàn)，對(duì)大模型以及相關(guān)的產(chǎn)品和服務(wù)實(shí)施柔性監(jiān)管，適度包容大模型的“幻覺(jué)”，對(duì)于“幻覺(jué)”導(dǎo)致的一般性失誤，避免直接關(guān)停下架，給予企業(yè)自我糾正的機(jī)會(huì)，促進(jìn)企業(yè)大膽創(chuàng)新、放手競(jìng)爭(zhēng)，爭(zhēng)取讓更多企業(yè)“復(fù)制”DeepSeek的成功。

破解大模型“幻覺(jué)”難題

科大訊飛董事長(zhǎng)劉慶峰也針對(duì)大模型幻覺(jué)提出了建議。他指出，應(yīng)預(yù)防大模型生成“幻覺(jué)數(shù)據(jù)”充斥互聯(lián)網(wǎng)帶來(lái)的危害，從技術(shù)研發(fā)和管理機(jī)制上構(gòu)建可信的信息環(huán)境。為此，他提出兩點(diǎn)建議：一是構(gòu)建安全可信數(shù)據(jù)標(biāo)簽體系，提升內(nèi)容可靠性;二是研發(fā)AIGC幻覺(jué)治理技術(shù)和平臺(tái)，定期清理幻覺(jué)數(shù)據(jù)。

加強(qiáng)AI深度偽造欺詐管理

TCL創(chuàng)始人兼董事長(zhǎng)李東生建議從四個(gè)方面采取措施，加強(qiáng)AI深度偽造欺詐管理：一是加快人工智能深度合成內(nèi)容標(biāo)識(shí)管理規(guī)章制度的出臺(tái)，確保所有AI生成內(nèi)容能被清晰識(shí)別;二是明確人工智能深度合成服務(wù)商的責(zé)任，若未履行標(biāo)識(shí)義務(wù)，應(yīng)承擔(dān)相應(yīng)處罰;三是推動(dòng)AI深度合成標(biāo)識(shí)技術(shù)標(biāo)準(zhǔn)的制定，從源頭管理風(fēng)險(xiǎn);四是加強(qiáng)國(guó)際合作，共同建立AI治理框架，形成全球有效監(jiān)管體系。

整治AI換臉侵權(quán)

小米集團(tuán)創(chuàng)始人、董事長(zhǎng)兼CEO雷軍建議，加強(qiáng)“AI換臉擬聲”違法侵權(quán)重災(zāi)區(qū)治理：一是針對(duì)“AI換臉擬聲”等某一代表性問(wèn)題，探索推出人工智能單行法，提高立法位階及其效力，分級(jí)分類的基礎(chǔ)上進(jìn)行務(wù)實(shí)治理，明確“AI換臉擬聲”應(yīng)用邊界紅線，完善侵權(quán)證據(jù)規(guī)則，加大對(duì)利用人工智能技術(shù)實(shí)施犯罪行為的刑事處罰力度。二是強(qiáng)化行業(yè)自律共治，壓實(shí)平臺(tái)等各方的責(zé)任。支持平臺(tái)企業(yè)開(kāi)發(fā)可精準(zhǔn)識(shí)別人工智能深度合成內(nèi)容的技術(shù)能力，優(yōu)化升級(jí)通信軟件和內(nèi)容平臺(tái)巡查審核機(jī)制、投訴舉報(bào)機(jī)制、應(yīng)急處理機(jī)制，確保及時(shí)阻斷問(wèn)題內(nèi)容傳播。三是建議加強(qiáng)人工智能方面的法制宣傳教育，增強(qiáng)民眾的警惕性和鑒別力，聚焦重點(diǎn)人群，在中小學(xué)人工智能教材中加入倫理規(guī)范內(nèi)容，深入老年人聚居的社區(qū)開(kāi)展相關(guān)知識(shí)普及活動(dòng)，在全社會(huì)夯實(shí)“以人為本、智能向善”的人工智能發(fā)展生態(tài)。

寫在最后：

從包容審慎到動(dòng)態(tài)治理，從技術(shù)防控到倫理建構(gòu)，科技大佬們的建言共同勾勒出AI治理的新范式。隨著《人工智能法》立法進(jìn)程的加快，將構(gòu)建起更加完善的法律法規(guī)體系，以適應(yīng)快速發(fā)展的AI技術(shù)，并為AI產(chǎn)業(yè)提供明確的行為準(zhǔn)則和發(fā)展方向。