現(xiàn)在，AI可以使用任何語(yǔ)言進(jìn)行編碼，而無(wú)需額外的訓(xùn)練。

2017年，研究人員問(wèn)：人工智能能否在2040年之前編寫(xiě)出大多數(shù)代碼? Beta測(cè)試人員現(xiàn)在正在使用OpenAI的GPT-3，它已經(jīng)可以使用任何語(yǔ)言進(jìn)行編碼。 機(jī)器主導(dǎo)的編碼幾乎就在我們家門(mén)口。

GPT-3接受了數(shù)千億個(gè)單詞或基本上整個(gè)互聯(lián)網(wǎng)的訓(xùn)練，這就是為什么它可以使用CSS，JSX，Python進(jìn)行編碼的原因-隨便您如何命名。

此外，GPT-3無(wú)需針對(duì)各種語(yǔ)言任務(wù)進(jìn)行"訓(xùn)練"，因?yàn)槠溆?xùn)練數(shù)據(jù)無(wú)所不包。 相反，當(dāng)給出瑣碎的指令時(shí)，網(wǎng)絡(luò)會(huì)將自己限制在手頭的任務(wù)上。

GPT-n的演變

GPT通過(guò)將有監(jiān)督的學(xué)習(xí)與無(wú)監(jiān)督的預(yù)培訓(xùn)配對(duì)(或?qū)o(wú)監(jiān)督步驟的參數(shù)用作有監(jiān)督步驟的起點(diǎn))，實(shí)現(xiàn)了語(yǔ)言任務(wù)的最新水平。 與后續(xù)產(chǎn)品相比，GPT很小。 它僅在幾千本書(shū)和一臺(tái)8 GPU機(jī)器上進(jìn)行了培訓(xùn)。

GPT-2極大地?cái)U(kuò)展了內(nèi)容，包含10倍的參數(shù)，并提供了10倍以上的訓(xùn)練數(shù)據(jù)。 盡管如此，該數(shù)據(jù)集還是相對(duì)有限的，并且專(zhuān)門(mén)針對(duì)"來(lái)自Reddit的出站鏈接進(jìn)行了至少3業(yè)力"的訓(xùn)練。 GPT-2被描述為"類(lèi)似變色龍"的合成文本生成器，但在諸如回答問(wèn)題，總結(jié)或翻譯之類(lèi)的下游任務(wù)中并不是最先進(jìn)的。

GPT-3是AI世界中最新，最強(qiáng)大的工具，它在一系列任務(wù)中達(dá)到了最先進(jìn)的水平。 它的主要突破是消除了針對(duì)特定任務(wù)的微調(diào)的需要。 在規(guī)模方面，該模型再次大幅擴(kuò)展，達(dá)到了1,750億個(gè)參數(shù)，是其前身規(guī)模的116倍。

盡管完全不需要訓(xùn)練GPT-3(零鏡頭學(xué)習(xí)的一個(gè)例子)，但單次學(xué)習(xí)或幾次鏡頭學(xué)習(xí)都已經(jīng)使GPT-3令人印象深刻的表現(xiàn)黯然失色。

進(jìn)化還是死亡

情況就是這樣：Beta測(cè)試人員正在使用GPT-3生成有效的代碼，并且需要掌握一些瑣碎的知識(shí)。 從按鈕到數(shù)據(jù)表，甚至可以重新創(chuàng)建Google主頁(yè)。 這些示例都是通過(guò)零鏡頭學(xué)習(xí)完成的。

除了AI的飛速發(fā)展外，另外兩個(gè)主要的技術(shù)趨勢(shì)正使現(xiàn)實(shí)成為現(xiàn)實(shí)，那就是編程工作將來(lái)將變得不安全：無(wú)代碼和AutoML。

無(wú)代碼是指可視化工具，使任何人都可以輕松構(gòu)建新產(chǎn)品，無(wú)論是網(wǎng)站，設(shè)計(jì)，數(shù)據(jù)分析還是模型。 WordPress，Wix和Shopify都是無(wú)代碼工具的典范，它使數(shù)以百萬(wàn)計(jì)的人可以自己做事，而不必雇用開(kāi)發(fā)人員或設(shè)計(jì)師。

第二個(gè)趨勢(shì)是AutoML，即自動(dòng)機(jī)器學(xué)習(xí)，它大大縮短了將AI投入生產(chǎn)的時(shí)間。

像Apteo這樣的工具結(jié)合了這些趨勢(shì)，使任何人都可以部署AI模型而無(wú)需任何編碼技能。

GPT-3將引發(fā)另一波無(wú)代碼和AutoML工具的浪潮。 許多可能的雇主會(huì)選擇這些工具，而不是雇用昂貴的程序員。

自然，技能最差的程序員將是最先進(jìn)入的領(lǐng)域，而專(zhuān)家將享有更長(zhǎng)的工作安全性-與任何領(lǐng)域一樣。

不僅僅是代碼— GPT-3應(yīng)用于任何語(yǔ)言任務(wù)

要將GPT-3定向到特定的語(yǔ)言任務(wù)，只需向其提供一個(gè)示例，說(shuō)明您希望實(shí)現(xiàn)的目標(biāo)。 因此，雖然您可以指導(dǎo)GPT-3編寫(xiě)代碼，但也可以指導(dǎo)它編寫(xiě)詩(shī)歌，音樂(lè)，社交媒體評(píng)論或任何其他文本。

例如，如果您要生成新聞文章，則可以輸入諸如"聯(lián)合衛(wèi)理公會(huì)同意歷史性分裂"之類(lèi)的標(biāo)題，以及諸如"反對(duì)同性婚姻的人將構(gòu)成自己的宗派"之類(lèi)的副標(biāo)題。

使用此輸入，GPT-3產(chǎn)生以下結(jié)果：

"經(jīng)過(guò)兩天的激烈辯論，衛(wèi)理公會(huì)聯(lián)合會(huì)達(dá)成了歷史性的分裂-預(yù)期這種分裂將以新教派的建立而告終，根據(jù)《華盛頓郵報(bào)》的說(shuō)法，該教派將是"神學(xué)和社會(huì)保守派"。 參加5月教堂年度大會(huì)的大多數(shù)代表投票表決，加強(qiáng)了對(duì)LGBTQ神職人員的戒律的禁令，并制定了新規(guī)則，將"紀(jì)律"主持同性婚禮的神職人員。 但是那些反對(duì)這些措施的人有一個(gè)新計(jì)劃：他們說(shuō)到2020年他們將組成一個(gè)單獨(dú)的教派，稱(chēng)他們的教會(huì)為基督教衛(wèi)理公會(huì)教派……"

只有12%的人正確地指出這是由AI編寫(xiě)的。 88%被騙了。

就像人類(lèi)一樣，僅舉一個(gè)例子，就可以教GPT-3新單詞。 例如，給定上下文：

" Burringo"是具有非?？斓募铀俣鹊钠?chē)。 一個(gè)使用Burringo單詞的句子的示例是：____________

GPT-3輸出：

在我們的車(chē)庫(kù)里，有一個(gè)父親每天開(kāi)車(chē)去工作的Burringo。

這些結(jié)果令人印象深刻。 請(qǐng)記住，人工智能的必然發(fā)展，因此對(duì)當(dāng)前性能的任何批評(píng)都將化為烏有。

語(yǔ)言以外的知識(shí)— GPT應(yīng)用于圖像

GPT可以編寫(xiě)代碼，或者可以編寫(xiě)任何東西，但是它也可以生成圖像。

這怎么可能?

可以在像素序列而不是文本編碼上訓(xùn)練相同的模型體系結(jié)構(gòu)，從而生成新穎的圖像而不是新穎的文本。 實(shí)際上，這樣做是如此出色，以至于與頂級(jí)CNN競(jìng)爭(zhēng)。

我之所以提及這一點(diǎn)，是因?yàn)樗砻鱃OT(及其繼任者)不僅具有一日更換編碼器的潛力，而且鑒于其多功能性，還可以取代整個(gè)行業(yè)。

結(jié)論

GPT-3令人難以置信的性能已經(jīng)使許多人相信，超級(jí)智能比我們想象的要近，或者至少，人工智能生成的代碼比我們想像的要近。 它產(chǎn)生富有創(chuàng)造力，有見(jiàn)地，深刻甚至美麗的內(nèi)容。 有關(guān)GPT-3的更多創(chuàng)意示例。