OpenAI公司日前宣布將在其人工智能工具中構(gòu)建安全措施。該公司是功能強(qiáng)大的GPT-4大型語言人工智能模型的開發(fā)者，該模型是其ChatGPT聊天機(jī)器人和其他人工智能系統(tǒng)的核心。隨著越來越多的人要求對生成式人工智能系統(tǒng)的開發(fā)采取更多控制措施，該公司為此不得不披露了這一信息。

OpenAI公司在一篇博客文章中詳細(xì)介紹正在采取的措施，以阻止其人工智能系統(tǒng)生成有害內(nèi)容，避免違反數(shù)據(jù)隱私法規(guī)。雖然該公司開發(fā)的人工智能工具在全球范圍內(nèi)引領(lǐng)了一場生成式人工智能熱潮，但在最近幾周，監(jiān)管機(jī)構(gòu)開始對這種人工智能系統(tǒng)的安全性產(chǎn)生興趣，意大利以潛在違反GDPR法規(guī)為由禁止使用ChatGPT。

包括馬斯克和蘋果聯(lián)合創(chuàng)始人沃茲尼亞克在內(nèi)的人工智能專家近日在一封公開信上呼吁，暫時(shí)停止大型語言模型(LLM)的開發(fā)，美國總統(tǒng)拜登也加入了這一討論，他告訴媒體記者，人工智能公司必須把安全放在首位。

OpenAI公司如何在考慮安全的情況下構(gòu)建GPT-4

OpenAI公司表示，在上個(gè)月發(fā)布其迄今為止最先進(jìn)的GPT-4之前，該公司花了六個(gè)月的時(shí)間來完善該系統(tǒng)，使其盡可能難以被用于邪惡目的。

安全研究人員此前曾證明，通過“欺騙”聊天機(jī)器人，使其模仿糟糕的人工智能系統(tǒng)生成仇恨言論或惡意軟件代碼，從而繞過ChatGPT的安全控制是可能的。OpenAI公司表示，與GPT-3.5模型相比，GPT-4不太可能出現(xiàn)這種情況。

該公司的工程師表示：“與GPT-3.5相比，GPT-4對不允許內(nèi)容的請求做出回應(yīng)的可能性降低了82%，我們已經(jīng)建立了一個(gè)強(qiáng)大的系統(tǒng)來監(jiān)控人工智能系統(tǒng)的濫用。我們還在開發(fā)一些功能，能夠使開發(fā)人員為模型輸出設(shè)置更嚴(yán)格的標(biāo)準(zhǔn)，以更好地支持需要此類功能的開發(fā)人員和用戶?！?/p>

OpenAI公司的人工智能系統(tǒng)會泄露互聯(lián)網(wǎng)用戶的個(gè)人數(shù)據(jù)嗎?

該公司還借此機(jī)會回應(yīng)了數(shù)據(jù)監(jiān)管機(jī)構(gòu)對其模型從互聯(lián)網(wǎng)上收集數(shù)據(jù)用于培訓(xùn)目的的方式的擔(dān)憂。在意大利禁止ChatGPT之后，加拿大對這種聊天機(jī)器人的安全性展開了調(diào)查，歐洲其他國家正在考慮是否效仿意大利的做法。

OpenAI公司表示：“我們的大型語言模型是在廣泛的文本語料庫上進(jìn)行訓(xùn)練的，其中包括公開可用的內(nèi)容、授權(quán)內(nèi)容以及人工審稿人生成的內(nèi)容。我們不會將數(shù)據(jù)用于銷售服務(wù)、發(fā)布廣告或建立用戶檔案。”

該公司還對如何確保個(gè)人數(shù)據(jù)在培訓(xùn)期間不被泄露進(jìn)行了詳細(xì)說明。該公司表示：“雖然我們的一些訓(xùn)練數(shù)據(jù)包括在公共互聯(lián)網(wǎng)上可以獲得的個(gè)人信息，但我們希望我們的大型語言模型了解世界，而不是個(gè)人。

因此，我們努力在可行的情況下從訓(xùn)練數(shù)據(jù)集中刪除個(gè)人信息，微調(diào)模型以拒絕對個(gè)人信息的請求，并響應(yīng)個(gè)人從人工智能系統(tǒng)中刪除個(gè)人信息的請求。這些步驟最大限度地降低了我們的模型產(chǎn)生包含個(gè)人信息的響應(yīng)的可能性?！?/p>

美國總統(tǒng)拜登加入了人工智能反對者的行列

在OpenAI公司發(fā)表這一聲明之前，美國總統(tǒng)拜登對媒體記者表示，人工智能開發(fā)者有責(zé)任確保他們的產(chǎn)品在公開之前是安全的。

拜登在與他的科學(xué)技術(shù)顧問委員會討論人工智能的發(fā)展后發(fā)表了講話。他表示，美國政府致力于推進(jìn)去年10月推出的《人工智能權(quán)利法案》，以保護(hù)個(gè)人免受先進(jìn)自動化系統(tǒng)的負(fù)面影響。

拜登說：“我們在去年10月提議了一項(xiàng)權(quán)利法案，以確保重要的保護(hù)措施從一開始就內(nèi)置在人工智能系統(tǒng)中，這樣我們就不必回頭去做了。我期待我們的討論能夠以確保負(fù)責(zé)任的創(chuàng)新和適當(dāng)?shù)淖o(hù)欄，以保護(hù)美國民眾的權(quán)利和安全，保護(hù)他們的隱私，并解決可能存在的偏見和虛假信息等問題?！?/p>