國(guó)外一美女程序員，在Github上通過(guò)檢索gpt, llm, 和generative ai等關(guān)鍵字，從數(shù)十萬(wàn)檢索結(jié)果中得到900個(gè)500+ star大模型開(kāi)源項(xiàng)目。

她將統(tǒng)計(jì)結(jié)果放到了網(wǎng)站上，并定期更新star數(shù)等信息，同時(shí)提供了排序，分組，過(guò)濾等工具，我們也可以拿她的統(tǒng)計(jì)結(jié)果來(lái)進(jìn)行分析。

??https://huyenchip.com/llama-police??

接下來(lái)讓我們看看她通過(guò)分析這些開(kāi)源項(xiàng)目學(xué)到了什么。

新的AI堆棧

基礎(chǔ)設(shè)施包括訓(xùn)練大模型的硬件資源，訓(xùn)練大模型需要大量的顯卡，一些企業(yè)考慮到數(shù)據(jù)安全，以及從長(zhǎng)遠(yuǎn)成本考慮，選擇搭建自己的計(jì)算中心。NVIDIA這幾年靠著賣(mài)顯卡可謂賺的盆滿缽滿，顯卡價(jià)格一路飆升，即使這樣仍是一卡難求。

模型開(kāi)發(fā)工具包括像TensorFlow、PyTorch等AI框架，框架本身是開(kāi)源免費(fèi)的，但可以通過(guò)附加的云服務(wù)和硬件資源來(lái)賺錢(qián)。

應(yīng)用軟件指的是基于大模型的工具，一般通過(guò)閉源大模型有償向用戶提供訪問(wèn)接口，例如，openAI每個(gè)月都會(huì)向Plus用戶收取會(huì)員費(fèi)以及API調(diào)用費(fèi)用。

隨時(shí)間變化

圖表顯示，當(dāng)chatGPT發(fā)布后，大模型的相關(guān)項(xiàng)目數(shù)量開(kāi)始呈指數(shù)級(jí)增長(zhǎng)。

這說(shuō)明當(dāng)一項(xiàng)顛覆性技術(shù)出現(xiàn)后，圍繞此技術(shù)的各項(xiàng)發(fā)明會(huì)迅速增加。

就像當(dāng)年的電力。

但大家會(huì)有疑問(wèn)，大模型也就能畫(huà)個(gè)圖，寫(xiě)寫(xiě)小作文，說(shuō)它是顛覆性技術(shù)，有點(diǎn)過(guò)了吧？

當(dāng)年電力取代蒸汽機(jī)時(shí)，一開(kāi)始人們對(duì)于電機(jī)也是持懷疑態(tài)度，因?yàn)樗](méi)有提高生產(chǎn)效率。

后來(lái)人們才發(fā)現(xiàn)，是使用方法不當(dāng)。

在傳統(tǒng)工廠的中間會(huì)有一個(gè)蒸汽機(jī)，然后通過(guò)傳動(dòng)裝置驅(qū)動(dòng)各個(gè)模塊，有了電機(jī)后只是簡(jiǎn)單的將蒸汽機(jī)替換成了電機(jī)。

本質(zhì)上還是個(gè)集中式系統(tǒng)，依據(jù)木桶原理，整體效率仍然受限于最差的那個(gè)。

后來(lái)，工廠將電機(jī)應(yīng)用于各個(gè)模塊，這就是現(xiàn)代工廠流水線的雛形，這樣的分布式系統(tǒng)大大提升了效率

電開(kāi)始普及開(kāi)來(lái)。

在應(yīng)用層領(lǐng)域，項(xiàng)目最多的是code和bots。

code：當(dāng)大模型在自然語(yǔ)言上取得成效后，人們開(kāi)始將大模型應(yīng)用于人造語(yǔ)言上，代碼就是其中之一。

bots：相對(duì)被動(dòng)式的一問(wèn)一答，人們希望大模型能夠自主思考，會(huì)使用工具，并且嫩進(jìn)行決策。

information aggregation：科技的進(jìn)步只是將人類(lèi)從繁重的體力勞動(dòng)中解放出來(lái)，人們要學(xué)的東西日益增多，大模型的概括能力讓人具有一目十行的超能力。

專(zhuān)注Prompt工程的人，我認(rèn)為是最聰明的人，因?yàn)樗切詢r(jià)比最高的提升大模型性能的方法。

前面我也通過(guò)兩個(gè)例子證明了Prompt工程的超能力，僅僅通過(guò)在Prompt前面加個(gè)think step by step，就讓大模型答對(duì)了9.11和9.3哪個(gè)大的問(wèn)題，以及strawberry有多少個(gè)r的問(wèn)題。

本文轉(zhuǎn)載自公眾號(hào)人工智能大講堂 

原文鏈接：??https://mp.weixin.qq.com/s/QWGyhYHonybE2F6iomJb8w??