雖然 GPT 和 PaLM 等專有軟件占據(jù)了市場主導(dǎo)地位，但是仍舊有很多開發(fā)人員看到了開源語言模型的價值。由于開源語言模型有很多優(yōu)點和缺點，并且會對人工智能行業(yè)產(chǎn)生積極和消極的影響，因此我們總結(jié)了您應(yīng)該了解和理解的要點。

開源語言模型的 5 個積極影響

開源語言模型集合了來自世界各地的開發(fā)人員的意見、評論和用例，通過多方協(xié)作，能夠更快地推進項目落地。

1、人工智能開發(fā)人員使用開源模型節(jié)省資源

采用專有語言模型需要花費數(shù)百萬甚至數(shù)十億的資源。以O(shè)penAI為例。Business Insider報道稱，該公司必須籌集約 300 億美元才能有效運營 ChatGPT。對于大多數(shù)公司來說，獲得這么多資金是不可能的。處于早期階段的科技初創(chuàng)公司即使能達到七位數(shù)就已經(jīng)很幸運了。

考慮到高昂的開銷，許多開發(fā)人員轉(zhuǎn)而使用開源語言模型。他們通過利用這些系統(tǒng)的架構(gòu)、神經(jīng)結(jié)構(gòu)、訓(xùn)練數(shù)據(jù)、算法、代碼實現(xiàn)和訓(xùn)練數(shù)據(jù)集節(jié)省了數(shù)百萬美元。

2、開源模型可以讓進步更快

許多技術(shù)領(lǐng)導(dǎo)者比較重視社區(qū)貢獻和協(xié)作，因此他們認為開源語言模型比專有語言模型進步得更快。數(shù)以百萬計的熟練開發(fā)人員正在開發(fā)開放項目——理論上，他們可以更快地實現(xiàn)無錯誤、復(fù)雜的迭代。

使用開源人工智能也可以更快地彌補知識空白。公司可以分析和利用社區(qū)貢獻，而不是培訓(xùn)團隊尋找錯誤、測試更新和探索實施。為此，知識共享使用戶能夠更有效地工作。

3、開發(fā)人員將更快地發(fā)現(xiàn)漏洞

開源語言模型鼓勵同行評審和協(xié)作社區(qū)的積極參與，開發(fā)人員可以自由訪問代碼庫更改。由于有如此多的用戶分析開放項目，他們可能會更快地發(fā)現(xiàn)安全問題、漏洞和系統(tǒng)錯誤。

同樣，錯誤解決也得到簡化。開發(fā)人員無需手動解決系統(tǒng)問題，而是可以檢查項目的版本控制系統(tǒng)是否有以前的修復(fù)。雖然有些條目可能已經(jīng)過時，然而他們?nèi)匀粫檠芯咳藛T和人工智能培訓(xùn)師提供一個有用的起點。

4、人工智能技術(shù)領(lǐng)導(dǎo)者向開源模型學(xué)習(xí)

開源語言模型受益于反饋循環(huán)。正反饋循環(huán)共享有效的算法、數(shù)據(jù)集和函數(shù)，鼓勵開發(fā)人員模仿。這個過程為他們節(jié)省了大量時間。另請注意，用戶隨意復(fù)制的積極反饋可能會出現(xiàn)錯誤——錯誤往往會被忽視。

5、開源人工智能平臺在新系統(tǒng)上獲得優(yōu)先權(quán)

科技公司共享價值數(shù)十億美元的語言系統(tǒng)并不是出于善意。雖然開源許可證授予第三方用戶修改和銷售系統(tǒng)的自由，但它們也有局限性。經(jīng)銷商經(jīng)常創(chuàng)造條件來確保他們保留一些權(quán)威。所以，你會在開源程序的許可協(xié)議中找到這些規(guī)則 - 最終用戶很少獲得 100% 的權(quán)限。

假設(shè) Meta 希望控制 LLaMA 支持的產(chǎn)品。其法律團隊可以指定 Meta 保留投資任何基于其語言模型構(gòu)建的新系統(tǒng)的權(quán)利。但請不要誤解——第三方開發(fā)商和發(fā)行商仍然會達成互惠互利的協(xié)議。后者提供價值數(shù)十億美元的技術(shù)和系統(tǒng)。與此同時，初創(chuàng)公司和獨立開發(fā)人員正在探索將它們實現(xiàn)到不同應(yīng)用程序中的方法。

開源語言模型的 5 個負面影響

開源語言模型本質(zhì)上是公正的，但人類卻不然。具有惡意的消費者、開發(fā)者和公司可能會利用這些系統(tǒng)的開放性來謀取個人利益。

1、企業(yè)隨意加入人工智能競賽帶來的負面影響

目前，企業(yè)面臨著加入人工智能競賽的巨大壓力。隨著人工智能系統(tǒng)的普及，許多公司擔(dān)心如果不采用人工智能，它們就會被淘汰。結(jié)果，企業(yè)隨意地加入了這股潮流，他們將開源語言模型集成到他們的產(chǎn)品中，以便銷售產(chǎn)品并跟上競爭，即使它們沒有提供任何有價值的東西。

雖然人工智能是一個快速新興的市場，但是不小心發(fā)布復(fù)雜但不安全的系統(tǒng)會損害整個行業(yè)并損害消費者的安全。開發(fā)者應(yīng)該用人工智能來解決問題，而不是搞營銷噱頭。

2.、消費者能夠接觸到他們幾乎不了解的技術(shù)

各種技術(shù)工具基于人工智能的變體，從在線圖像編輯器到健康監(jiān)測應(yīng)用程序。隨著人工智能的發(fā)展，品牌將不斷引入新系統(tǒng)。人工智能模型幫助他們提供更加定制化、以用戶為中心的現(xiàn)有平臺迭代。

雖然科技行業(yè)歡迎創(chuàng)新，但人工智能的快速發(fā)展超過了用戶教育。消費者正在獲得他們幾乎不了解的技術(shù)。教育的缺乏造成了巨大的知識差距，使公眾容易受到網(wǎng)絡(luò)安全威脅和掠奪性行為的影響。

為此，企業(yè)應(yīng)該像產(chǎn)品開發(fā)一樣優(yōu)先考慮培訓(xùn)。他們必須幫助用戶了解如何安全、負責(zé)任地使用強大的基于人工智能的工具。

3、并非所有開發(fā)者都有良好的意圖

并非每個人都將人工智能工具用于其預(yù)期目的。例如，OpenAI 開發(fā)了 ChatGPT 來回答工作安全的常識問題并復(fù)制自然語言輸出，但犯罪分子利用它進行非法活動。自 2022 年 11 月 AI 聊天機器人推出以來，已發(fā)生多起ChatGPT 詐騙事件。

因此，即使人工智能實驗室實施嚴格的限制，騙子仍然會找到繞過它們的方法。再次以 ChatGPT 為例。用戶通過使用ChatGPT 越獄提示來繞過限制并執(zhí)行禁止的任務(wù)。

4、機構(gòu)可能難以監(jiān)管開源人工智能

監(jiān)管機構(gòu)正在努力跟上人工智能的發(fā)展步伐，而開源模型的激增只會讓監(jiān)控變得更加困難。人工智能的進步已經(jīng)超過了監(jiān)管框架。甚至埃隆·馬斯克、比爾·蓋茨和薩姆·奧爾特曼等全球科技領(lǐng)袖也呼吁加強人工智能監(jiān)管。

私營部門和政府部門都必須控制這些系統(tǒng)。否則，惡意者將繼續(xù)利用它們來違反數(shù)據(jù)隱私法、實施身份盜竊、詐騙受害者以及其他非法活動。

5. 降低進入壁壘會影響質(zhì)量

由于能夠在網(wǎng)上找到數(shù)千種基于人工智能的工具，因此開源語言模型的激增降低了加入人工智能競賽的準入門檻。

看到公司采用機器和深度學(xué)習(xí)可能看起來令人印象深刻，但很少有公司提供任何實際價值。大多數(shù)人只是復(fù)制競爭對手。隨著時間的推移，復(fù)雜的語言模型和訓(xùn)練數(shù)據(jù)集的可訪問性可能會使毫無意義的人工智能平臺商品化。

開源語言模型對人工智能行業(yè)的整體影響

雖然開源語言模型使人工智能技術(shù)更容易使用，但它們也帶來了一些安全風(fēng)險。開發(fā)商應(yīng)制定更嚴格的限制。否則，騙子將繼續(xù)利用這些系統(tǒng)的透明架構(gòu)。

也就是說，消費者對于人工智能騙局并非完全毫無防御能力。熟悉騙子利用生成式人工智能工具的常見方式并研究警告信號。當(dāng)然，我們可以通過保持警惕來打擊大多數(shù)網(wǎng)絡(luò)犯罪。

原文標題：10 Positive and Negative Impacts of Open-Source AI Language Models

原文作者：JOSE LUANSING JR.