10 月 12 日消息，據(jù)全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)官網(wǎng)，該會(huì)組織制定的技術(shù)文件《生成式人工智能服務(wù)安全基本要求》（下稱《要求》）已于 10 月 11 日形成征求意見(jiàn)稿，現(xiàn)將技術(shù)文件面向社會(huì)公開(kāi)征求意見(jiàn)，如有意見(jiàn)或建議，需在 10 月 25 日 24:00 前反饋。

《要求》給出了生成式人工智能服務(wù)在安全方面的基本要求，包括語(yǔ)料安全、模型安全、安全措施、安全評(píng)估等，適用于面向我國(guó)境內(nèi)公眾提供生成式人工智能服務(wù)的提供者提高服務(wù)安全水平，或是提供者自行或委托第三方開(kāi)展安全評(píng)估，也可為相關(guān)主管部門(mén)評(píng)判生成式人工智能服務(wù)的安全水平提供參考。

IT之家整理部分要求如下：

• 建立語(yǔ)料來(lái)源黑名單，不得使用黑名單來(lái)源的數(shù)據(jù)進(jìn)行訓(xùn)練。
• 應(yīng)對(duì)各來(lái)源語(yǔ)料進(jìn)行安全評(píng)估，單一來(lái)源語(yǔ)料內(nèi)容含違法不良信息超 5% 應(yīng)將其加入黑名單。
• 應(yīng)使用包含個(gè)人信息的語(yǔ)料時(shí)，獲得對(duì)應(yīng)個(gè)人信息主體的授權(quán)同意，或滿足其他合法使用該個(gè)人信息的條件。
• 應(yīng)使用包含人臉等生物特征信息的語(yǔ)料時(shí)，獲得對(duì)應(yīng)個(gè)人信息主體的書(shū)面授權(quán)同意，或滿足其他合法使用該生物特征信息的條件。
• 應(yīng)自行對(duì)標(biāo)注人員進(jìn)行考核，給予合格者標(biāo)注資質(zhì)，并有定期重新培訓(xùn)考核以及必要時(shí)暫?；蛉∠麡?biāo)注資質(zhì)的機(jī)制。
• 在訓(xùn)練過(guò)程中，應(yīng)將生成內(nèi)容安全性作為評(píng)價(jià)生成結(jié)果優(yōu)劣的主要考慮指標(biāo)之一。
• 以交互界面提供服務(wù)的，應(yīng)在網(wǎng)站首頁(yè)等顯著位置向社會(huì)公開(kāi)以下信息：

-服務(wù)適用的人群、場(chǎng)合、用途等信息

-第三方基礎(chǔ)模型使用情況。

• 應(yīng)充分論證在服務(wù)范圍內(nèi)各領(lǐng)域應(yīng)用生成式人工智能的必要性、適用性以及安全性。

另?yè)?jù)IT之家此前報(bào)道，網(wǎng)信辦、發(fā)改委、教育部、科技部、工信部、公安部、國(guó)家廣播電視總局七部門(mén)于 7 月 10 日印發(fā)了《生成式人工智能服務(wù)管理暫行辦法》，自 8 月 15 日起施行。

《辦法》規(guī)定不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì)，實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為；不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益；應(yīng)采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。

參考

• 關(guān)于征求信安標(biāo)委技術(shù)文件《生成式人工智能服務(wù) 安全基本要求》（征求意見(jiàn)稿）意見(jiàn)的通知