隨著以ChatGPT為代表的大型語言模型的流行，人們對其安全性的焦慮越發(fā)顯著。在意大利于3月31日因隱私和安全問題宣布暫時(shí)禁用ChatGPT之后，加拿大也于4月4日宣布就數(shù)據(jù)安全問題調(diào)查ChatGPT母公司OpenAI。4月5日，OpenAI官方博客更新了一篇文章，重點(diǎn)談到自身如何保障AI安全性，算是從側(cè)面對人們的擔(dān)憂進(jìn)行回應(yīng)。

為測試 GPT-4花了6個(gè)月時(shí)間

文章提到，在對最新的GPT-4模型完全所有訓(xùn)練后，團(tuán)隊(duì)花了 6 個(gè)多月的時(shí)間進(jìn)行內(nèi)部測試，以在公開發(fā)布時(shí)能夠更加安全，并認(rèn)為強(qiáng)大的人工智能系統(tǒng)應(yīng)該接受嚴(yán)格的安全評估，需要在確保被監(jiān)管的基礎(chǔ)上與政府積極合作，制定最佳的監(jiān)管方式。

文章也提到，雖然在實(shí)驗(yàn)測試過程中無法預(yù)測所有風(fēng)險(xiǎn)，但AI正是需要在實(shí)際使用中不斷汲取經(jīng)驗(yàn)、不斷完善，以迭代出更加安全的版本，并認(rèn)為社會確實(shí)需要一定時(shí)間來適應(yīng)越發(fā)強(qiáng)大的AI。

重視兒童保護(hù)

文章稱安全工作的重點(diǎn)之一是保護(hù)兒童，要求使用AI工具的用戶年齡必須已年滿18周歲，或者是在有父母監(jiān)護(hù)條件下已年滿13周歲。

OpenAI強(qiáng)調(diào)，不允許自身技術(shù)被用于生成仇恨、騷擾、暴力或成人內(nèi)容等類型，與 GPT-3.5 相比， GPT-4 對拒絕響應(yīng)禁止內(nèi)容的能力提升了82%，并通過監(jiān)控系統(tǒng)來監(jiān)測可能存在的各類濫用情形，比如當(dāng)用戶試圖將兒童性虐待材料上傳到圖像工具時(shí)，系統(tǒng)會阻止并將其報(bào)告給國家失蹤與受虐待兒童中心。

尊重隱私，提高事實(shí)準(zhǔn)確性

文章稱，OpenAI的大型語言模型在廣泛的文本語料庫上進(jìn)行訓(xùn)練，其中包括公開可用的內(nèi)容、許可內(nèi)容和人工審核人員生成的內(nèi)容，不會使用數(shù)據(jù)對服務(wù)進(jìn)行銷售、打廣告、對用戶歸檔。OpenAI承認(rèn)在訓(xùn)練過程中會從公共互聯(lián)網(wǎng)上獲得個(gè)人信息，但會盡力在可行的情況下從訓(xùn)練數(shù)據(jù)集中刪除個(gè)人信息，并微調(diào)模型以拒絕獲取個(gè)人信息的請求，積極響應(yīng)要求刪除系統(tǒng)中涉及個(gè)人信息內(nèi)容的請求。

在提供的內(nèi)容準(zhǔn)確性上，文章稱，通過用戶對不實(shí)內(nèi)容的標(biāo)記反饋，GPT-4所生成內(nèi)容的準(zhǔn)確性比 GPT-3.5 提高了 40%。

文章認(rèn)為，解決 AI 安全問題的實(shí)際方法不僅是投入更多時(shí)間和資源來研究有效的緩解技術(shù)，并在實(shí)驗(yàn)環(huán)境中測試在實(shí)際使用場景中的濫用情況，更重要的是，要把提高安全性和提升AI的能力齊頭并進(jìn)，OpenAI有能力用最好的安全防護(hù)措施來匹配最強(qiáng)大的AI模型，以越來越謹(jǐn)慎的態(tài)度創(chuàng)建和部署功能更強(qiáng)大的模型，并將隨著AI系統(tǒng)的發(fā)展繼續(xù)加強(qiáng)安全措施。