意大利成首個封禁ChatGPT的國家！OpenAI CEO：我覺得沒違規(guī)
就在昨天，意大利政府突然下令，封禁ChatGPT！
很快，OpenAI首席執(zhí)行官Sam Altman做出回應(yīng)稱，公司已經(jīng)關(guān)停了當(dāng)?shù)氐腃hatGPT服務(wù)（但自認(rèn)為并沒有違反任何規(guī)定）。
自此，意大利成為了世界上第一個宣布禁用ChatGPT的國家。
（其他國家和地區(qū)無法使用ChatGPT，是因為OpenAI一開始就沒給開通。）
意大利封禁ChatGPT，全面調(diào)查隱私問題
3月31日，意大利國家隱私監(jiān)管機構(gòu)正式下令封禁ChatGPT，并指控OpenAI「非法收集個人數(shù)據(jù)」。
值得注意的是，該「臨時禁令」將一直生效，直到OpenAI能夠尊重歐盟具有里程碑意義的隱私法——通用數(shù)據(jù)保護(hù)條例（GDPR）。
文件地址：https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9870847#english
根據(jù)意大利國家數(shù)據(jù)保護(hù)機構(gòu)GPDP發(fā)布新聞稿，OpenAI收集用戶數(shù)據(jù)并用于算法「訓(xùn)練」的行為，缺乏法律依據(jù)。
同時，3月20日涉及用戶對話和支付信息的泄露事件，也明確地暴露出了OpenAI在個人信息的處理上存在著問題。
除此之外，OpenAI雖然聲稱ChatGPT面向的是13歲以上的用戶，但由于缺乏相應(yīng)的年齡驗證機制，因此未成年人很可能會看到超出其自身發(fā)展和自我認(rèn)知水平的信息。
監(jiān)管機構(gòu)表示，OpenAI有20天的時間，如不給出可行的補救措施，則會面臨最高2000萬歐元，或全球總年營業(yè)額4%的罰款。
對此，OpenAI表示，現(xiàn)在已經(jīng)為意大利用戶關(guān)閉了服務(wù)，并承諾會保護(hù)用戶的隱私：
「我們在訓(xùn)練ChatGPT這樣的系統(tǒng)時，一直在努力減少個人數(shù)據(jù)，因為我們想要這個AI了解世界，而不是了解個人。當(dāng)然我們也相信，AI監(jiān)管是必要的?！?/span>
這么看來，ChatGPT未來在意大利的命運，可能就取決于這20天了。
不過，對于意大利來說，這已經(jīng)不是第一次對AI聊天機器人采取此類行動了。
在2月份，監(jiān)管機構(gòu)就禁止了聊天機器人應(yīng)用程序Replika.ai。Replika曾因一些用戶與機器人建立的親密關(guān)系而「臭名昭著」，后來Replika取消了色情角色扮演的選項，有用戶甚至需要自殺熱線的援助。
是否應(yīng)該限制AI工具？
ChatGPT發(fā)布后，雖然寫論文、寫代碼的能力讓人眼花繚亂，但它對錯誤信息的傳播、對就業(yè)的影響，以及對整個人類社會更廣泛的風(fēng)險，都讓很多人憂心忡忡，發(fā)出預(yù)警。
最近，封禁GPT技術(shù)的浪潮，更是一波接一波。
不僅圖靈獎得主Yoshua Bengio、馬斯克、馬庫斯等千名大佬聯(lián)名簽署公開信，呼吁全球所有AI實驗室暫停訓(xùn)練比GPT-4更強大的AI模型。
而且消費者權(quán)益保護(hù)組織BEUC，也在近日呼吁歐盟和國家當(dāng)局調(diào)查ChatGPT。
此外，很多專家也表示，由于AI對國家安全、就業(yè)和教育的潛在影響，需要制定新的法規(guī)來管理AI。
歐盟委員會發(fā)言人稱：「我們希望所有在歐盟活躍的公司都尊重歐盟的數(shù)據(jù)保護(hù)規(guī)則。執(zhí)行通用數(shù)據(jù)保護(hù)條例是歐盟數(shù)據(jù)保護(hù)當(dāng)局的責(zé)任?！?/span>
歐盟委員會執(zhí)行副主席Margrethe Vestager在推特上表示，正在討論歐盟人工智能法案的委員會可能不傾向于禁止人工智能。
「無論我們使用哪種技術(shù)，都必須保護(hù)自身的權(quán)利。這就是為什么我們不規(guī)范AI技術(shù)，而是規(guī)范AI的使用?！?/span>
在美國，非營利組織人工智能與數(shù)字政策中心（CAIDP）也要求聯(lián)邦貿(mào)易委員會（FTC）調(diào)查OpenAI是否違反了消費者保護(hù)規(guī)則，并禁止其進(jìn)一步發(fā)布GPT-4。
畢竟，有了千名大佬的聯(lián)名信這個先例，CAIDP的申訴看起來也似乎更加順理成章。而且，CAIDP主席Marc Rotenberg好不意外地也簽署了那封信。
文件地址：https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf
整體來說，CAIDP申訴的內(nèi)容與那封信一致，都是呼吁放慢生成式AI模型的發(fā)展，并實施更嚴(yán)格的政府監(jiān)督。
不過，CAIDP更進(jìn)一步地認(rèn)為，ChatGPT「存在偏見、具有欺騙性，并且對公共安全構(gòu)成風(fēng)險」。
雖然OpenAI已經(jīng)公開指出AI生成文本的潛在威脅，但CAIDP認(rèn)為，GPT-4已經(jīng)遠(yuǎn)遠(yuǎn)越線了，為了保護(hù)消費者，應(yīng)該采取監(jiān)管行動。
CAIDP表示，GPT-4模型具有許多重大的潛在威脅，比如GPT-4可以產(chǎn)生惡意代碼，和高度定制宣傳的方式，而它有偏見的訓(xùn)練數(shù)據(jù)，可能導(dǎo)致在招聘等方面形成刻板印象，或不公平的種族和性別偏好。
CAIDP認(rèn)為，OpenAI的行為違反了FTC法案第5條，這一條令禁止不公平和欺騙性的貿(mào)易行為。
其中，AI模型的幻覺，信口開河胡說八道的問題，在CAIDP看來都是欺騙。它警告ChatGPT「宣傳具有欺騙性的商業(yè)聲明和廣告」，這些都可能納入FTC的權(quán)限范圍。
在申訴中，CAIDP要求FTC停止GPT模型所有進(jìn)一步的商業(yè)部署，并要求在未來推出任何模型之前，都要對模型進(jìn)行獨立評估。它還要求提供一種可公開訪問的舉報工具，類似于允許消費者提出欺詐投訴的那種。
CAIDP主席Lina Khan表示，CAIDP在尋找大型科技公司試圖壟斷競爭的跡象，而對AI軍備競賽的主要參與者之一OpenAI的調(diào)查，標(biāo)志著調(diào)查的重大升級。
有分析認(rèn)為，雖然CAIDP的申訴在短時間內(nèi)不會讓FTC有所行動，但未來很有可能會出現(xiàn)相關(guān)的監(jiān)管，并可能讓GPT-5的發(fā)布推遲。
最后，只能說，谷歌一直擔(dān)心的「聲譽風(fēng)險」，終于來了。
參考資料：?
