如今，像ChatGPT這樣的生成型AI已經(jīng)徹底改變了我們與AI互動(dòng)的方式。寫作、編碼和求職等活動(dòng)變得更容易、更快。然而，有了所有的積極因素，也存在一些相當(dāng)嚴(yán)重的風(fēng)險(xiǎn)。

人工智能的一個(gè)主要問題是信任和安全，這甚至導(dǎo)致一些國(guó)家全面禁止ChatGPT，或重新考慮圍繞人工智能的政策，以保護(hù)用戶免受傷害。

Gartner分析師Avivah?Litan表示，生成人工智能的一些最大風(fēng)險(xiǎn)涉及信任和安全，包括幻覺、深度偽造、數(shù)據(jù)隱私、版權(quán)問題和網(wǎng)絡(luò)安全問題。

1、幻覺

幻覺是指AI模型容易犯的錯(cuò)誤，因?yàn)楸M管它們是先進(jìn)的，但它們?nèi)匀徊皇侨祟惖?，并且依賴?xùn)練和數(shù)據(jù)來回復(fù)答案。

Litan表示，訓(xùn)練數(shù)據(jù)可能會(huì)導(dǎo)致有偏見或事實(shí)上不正確的反應(yīng)，當(dāng)人們依賴這些機(jī)器人獲取信息時(shí)，這可能是一個(gè)嚴(yán)重的問題?！坝?xùn)練數(shù)據(jù)可能會(huì)導(dǎo)致有偏見、偏離基礎(chǔ)或錯(cuò)誤的反應(yīng)，但這些反應(yīng)可能很難發(fā)現(xiàn)，尤其是在解決方案越來越可信和可靠的情況下?！?/p>

2、深度偽造(Deepfake)

使用生成式AI來創(chuàng)建偽造的視頻、照片和錄音，但會(huì)拍攝另一個(gè)人的圖像和肖像。

Litan指出，這些虛假的圖像、視頻和錄音被用來制造和傳播誤導(dǎo)性信息，甚至制造虛假賬戶，或者接管和侵入現(xiàn)有的合法賬戶。

3、數(shù)據(jù)隱私

隱私也是生成式AI的一個(gè)主要風(fēng)險(xiǎn)，因?yàn)橛脩魯?shù)據(jù)通常被存儲(chǔ)用于模型訓(xùn)練。

“員工在與生成式AI聊天機(jī)器人解決方案交互時(shí)，可以很容易地暴露敏感和專有的企業(yè)數(shù)據(jù)，”Litan表示，“這些應(yīng)用程序可能會(huì)無(wú)限期地存儲(chǔ)通過用戶輸入捕獲的信息，甚至使用信息來訓(xùn)練其他模型，這進(jìn)一步損害了機(jī)密性?！?/p>

4、網(wǎng)絡(luò)安全

生成式AI模型的高級(jí)功能，如編碼，也可能落入壞人之手，引發(fā)網(wǎng)絡(luò)安全問題。

Litan認(rèn)為，除了更先進(jìn)的社會(huì)工程和網(wǎng)絡(luò)釣魚威脅外，攻擊者還可以使用這些工具來更容易地生成惡意代碼。

5、版權(quán)問題

版權(quán)是一個(gè)很大的問題，因?yàn)樯扇斯ぶ悄苣Ｐ褪窃谟糜谏奢敵龅拇罅炕ヂ?lián)網(wǎng)數(shù)據(jù)上訓(xùn)練的。這種訓(xùn)練過程意味著，原始源未明確共享的作品可以用于生成新內(nèi)容。為了根據(jù)提示創(chuàng)建圖像，DALL-E等人工智能生成工具將參考他們訓(xùn)練過的大型照片數(shù)據(jù)庫(kù)。這一過程的結(jié)果是，最終產(chǎn)品可能包括藝術(shù)家作品或風(fēng)格中不屬于他們的方面。