譯者 | 晶顏
審校 | 重樓
ChatGPT的問世打開了“潘多拉魔盒”，人工智能內(nèi)容檢測器也由此流行起來。
隨著ChatGPT的問世，基于人工智能(AI)的寫作工具永久地改變了內(nèi)容創(chuàng)作的格局，在實現(xiàn)效率和創(chuàng)新的同時，也打開了“潘多拉魔盒”。在此背景下，人工智能內(nèi)容檢測器日漸興起。
人工智能內(nèi)容檢測器是用于處理和檢查文本以確定其是否為人工智能生成的工具。該軟件將文本與現(xiàn)有的人工智能和人類編寫的內(nèi)容數(shù)據(jù)集進行比較，通過分析文本的結(jié)構(gòu)和語言特征來區(qū)分它們。
事實上，這項技術(shù)已有多年歷史，但自本世紀20年代初以來，才真正迎來人工智能內(nèi)容檢測器的興起。
下文揭示了人工智能檢測器受歡迎背后的原因，以及人工智能內(nèi)容檢測器為各領(lǐng)域文本使用者帶來的好處。
人工智能內(nèi)容存在的問題
讓我們面對現(xiàn)實吧：像ChatGPT這樣的人工智能內(nèi)容創(chuàng)建工具是非常棒的。引用Marc Andreessen和Bill Gates的話說，它們是“計算機領(lǐng)域有史以來最偉大的東西”。它們是“純粹的魔法”。
這種“特殊的魔法”只有一些小問題：
- 它可以把來自網(wǎng)絡(luò)的虛假信息當作真實的信息來呈現(xiàn)。人工智能內(nèi)容生成器根據(jù)提示構(gòu)建答案，“預(yù)測”統(tǒng)計上可能的單詞序列。他們不能區(qū)分正確和錯誤的陳述。
- 它有時會對有爭議的問題(性別、政治、少數(shù)群體、宗教等)提供有偏見、不準確甚至歧視性的答案。
- 雖然人工智能作家足夠聰明，可以生成可以“欺騙”抄襲檢查工具的原創(chuàng)內(nèi)容，但這些內(nèi)容太過籠統(tǒng)，沒有深度或獨特的見解。
簡而言之，人工智能內(nèi)容缺乏個性或真實性，為讀者區(qū)分真?zhèn)螏砹藰O大的考驗。而這正是人工智能內(nèi)容檢測器可以發(fā)揮作用的地方。
如今，這項技術(shù)的可靠性為70-80%，可以幫助用戶揭示內(nèi)容創(chuàng)作中是否有人工智能參與。誤報或漏報的情況時有發(fā)生，因此不能100%依賴該工具反饋的結(jié)果。為了獲得更高的準確性，仍然需要人工審查。
但是，與人工智能寫作軟件一樣，人工智能內(nèi)容檢測器也在不斷發(fā)展。以下是它們在與文本內(nèi)容的創(chuàng)作和傳播直接相關(guān)的三個領(lǐng)域受歡迎的原因和影響。
教育領(lǐng)域
教育領(lǐng)域是最早對人工智能作家發(fā)出警告的領(lǐng)域之一。
這一點是可以理解的：ChatGPT問世后，“人工智能論文寫作”的搜索量激增了2041%，提交的大學(xué)論文中有五分之一是人工智能生成的。雖然違反學(xué)術(shù)誠信在教育領(lǐng)域并不新鮮，但它已經(jīng)達到了一個新的水平。
在人工智能出現(xiàn)之前的時代，為了獲得高分，學(xué)生們會積極使用寫作服務(wù)來幫助他們撰寫一流的學(xué)術(shù)論文。而在人工智能時代，他們開始使用人工智能技術(shù)。許多人認為這是對教育系統(tǒng)的威脅。
問題不僅在于學(xué)術(shù)上的不誠實，過度使用人工智能工具還會損害學(xué)生的寫作和溝通能力。學(xué)生在寫論文時能夠獲得批判性思維、創(chuàng)造力、論證能力和分析能力。他們能學(xué)會有邏輯、連貫地表達思想和觀點。而過度依賴人工智能工具，他們會失去這些技能，包括獨立思考和解決問題的能力。
此外，人工智能文本生成器會破壞學(xué)生的寫作心聲。他們不再使用自己的風格，而是更多地依賴于工具的建議(即預(yù)測性文本)，而不是創(chuàng)造力或獨特的聲音。這就是哲學(xué)家埃文·塞林格(Evan Selinger)九年前所討論的：“預(yù)測性文本影響著人們的互動方式?！?/p>
她說，這項技術(shù)可能會“阻止我們思考”，因為它“削弱了寫作作為一種精神活動的力量”。對話已經(jīng)變得“比我們自己更像算法”，缺乏個人表達。這就是學(xué)生在寫作任務(wù)中濫用人工智能的情況：他們專注于任務(wù)的技術(shù)要求，放棄了深度，從而削弱了寫作作為一種心理過程的力量。這讓一些教育工作者擔心，學(xué)員們可能會犧牲自己的學(xué)術(shù)成長，把舒適置于學(xué)習(xí)之上。
人工智能內(nèi)容檢測器在遏制這一趨勢方面起到了重要作用。
如今，教育機構(gòu)會使用帶有抄襲檢查器的檢測器來確保學(xué)生作品的原創(chuàng)性。這為學(xué)生帶來的好處也很明顯：
- 維護學(xué)術(shù)誠信，防止濫用人工智能：人工智能內(nèi)容檢測器阻止學(xué)生依賴文本生成器來撰寫論文，從而培養(yǎng)一種動腦實踐的文化。
- 提高寫作技能：人工智能探測器通過突出問題區(qū)域并鼓勵學(xué)生對其進行潤色以提高真實性和可讀性來幫助校對和編輯論文。
搜索引擎優(yōu)化和營銷領(lǐng)域
人工智能寫作工具是大型語言模型(LLM)，可以生成連貫的文本，看起來像是對人類寫作的令人信服的模仿。
一開始，它便在營銷人員和搜索引擎優(yōu)化專家間引起了轟動。他們將人工智能作家視為節(jié)省內(nèi)容創(chuàng)作時間和預(yù)算的機會，十分積極地為他們的博客、社交媒體賬戶、新聞稿、產(chǎn)品描述、廣告等生成文本。
但問題很快就出現(xiàn)了：
- 人工智能文本是通用的，沒有獨特的見解、人類視角和情感。
- 文本內(nèi)容讀起來就像出自五年級學(xué)生之手。
- 人工智能欺騙了抄襲檢查器，但無法滿足谷歌的E-E-A-T。
結(jié)果，大量千篇一律的文本出現(xiàn)了：這些文本不僅無法吸引用戶、帶來品牌效益，也不能讓品牌脫穎而出。誰愿意只有在谷歌上搜索深度信息時才能看到它呢?
說到谷歌，順便說一下：他們的政策認為人工智能生成的內(nèi)容是垃圾郵件，后來轉(zhuǎn)變?yōu)椤爸灰３仲|(zhì)量和原創(chuàng)性就可以”，與目標受眾相關(guān)，并且不用于操縱搜索排名。
這些政策也是人工智能內(nèi)容檢測器受歡迎的原因之一：谷歌會對違反其人工智能生成內(nèi)容規(guī)則的人進行處罰，這讓網(wǎng)絡(luò)管理員對其在網(wǎng)站上放置的內(nèi)容感到煩惱。現(xiàn)在，他們會積極使用人工智能檢測器來防止低質(zhì)量的人工智能文本入侵他們的在線平臺。
內(nèi)容寫作
人工智能文本生成器還改變了專業(yè)人類作家在內(nèi)容創(chuàng)作領(lǐng)域的角色。
創(chuàng)造力、獨特的見解、個人觀點、講故事和情感——人工智能缺失的一切現(xiàn)在都是吸引觀眾并讓他們記住其在線閱讀的文本的基礎(chǔ)。換句話說，人工智能作家賦予了人類作家更多的工作，而不是把他們踢出利基市場。
人工智能文本是無聲且單調(diào)的：
- 冗長的短語
- 太過復(fù)雜的句子
- 用詞不當
- 陳詞濫調(diào)
- 多余的-ly副詞
- 原始文本結(jié)構(gòu)
- 每個高中生都能掌握的常識
人工智能內(nèi)容檢測器可以幫助作者提高他們的技能，而不會讓他們的文章聽起來像機器人或業(yè)余愛好者。
這些工具鼓勵內(nèi)容創(chuàng)作者更多地關(guān)注獨特的見解，引人入勝的敘述和附加價值，而不是字數(shù)統(tǒng)計和文本中的語法錯誤。高質(zhì)量的寫作可以通過情感寫作策略和個性化與觀眾交流愿景和建立聯(lián)系。
結(jié)語
“適度是寶”(Measure is a treasure)。人工智能內(nèi)容檢測器幫助用戶在與人工智能作家和人工智能生成的內(nèi)容合作時保持這種適度和平衡。
原文標題：Why Are AI Content Detectors So Popular in 2024?，作者：Zohaib
