吳恩達開源大模型套件:11個模型平臺一種方式調(diào)用,已獲星標超1.2K
吳恩達發(fā)布的開源大模型套件aisuite,不到半天就斬獲了1200+星標。
它把11家知名大模型平臺集中到了一起,統(tǒng)一了接口,可以用相同的方式調(diào)用不同模型。
切換模型時,只需要改動一個字符串,不用在不同的API之間摸不著頭腦了。
對需要在應(yīng)用當中集成多個不同模型的開發(fā)者來說,這套工具可以提高不少的開發(fā)效率。
有網(wǎng)友評論說,aisuite可以幫他在處理多個大模型時節(jié)省超過500行的代碼。
十余家模型平臺,一種方式調(diào)用
不同模型的API不盡相同,缺乏統(tǒng)一的調(diào)用方式,是讓許多應(yīng)用開發(fā)者感到頭疼的一大難題。
特別是當同一個應(yīng)用需要調(diào)用不同模型時,模型間的切換會耗費開發(fā)者的不少精力。
所以,aisuite設(shè)計了一個統(tǒng)一的調(diào)用接口,不管原模型的API是什么樣,都可以用相同的方式來調(diào)用。
使用時,只需要改一個字符串,把模型平臺和具體名稱填入,就可以調(diào)用aisuite支持的模型。
目前,aisuite一共支持OpenAI、Anthropic等11家模型平臺,具體如下:
而且其中包括了擁有海量模型的Hugging Face這樣的模型平臺,所以aisuite實際上支持的模型更多。
搭配Streamlit等工具,還能用aisuite構(gòu)建的簡單聊天UI界面。
據(jù)介紹,目前aisuite套件主要關(guān)注于聊天功能,其他用例將在未來逐步擴展。
另外從GitHub的issue當中也可以得知,aisuite套件目前比較基礎(chǔ),像函數(shù)調(diào)用等功能正在開發(fā)之中,將很快上線。
除了模型切換方便,aisuite的安裝配置過程也比較簡單。
需要準備的內(nèi)容包括Python環(huán)境,以及對應(yīng)模型的API密鑰和支持庫。
首先需要通過pip安裝aisuite框架,模型支持庫可以在這一步進行選裝。
pip install aisuite
pip install ‘a(chǎn)isuite[★]’
其中★處填入想安裝的支持庫名稱,或者填all安裝所有庫(外側(cè)方括號和單引號不可省略)。
此外還需要有對應(yīng)模型的API密鑰,可以設(shè)置為環(huán)境變量,也可以作為配置傳遞給aisuite中的構(gòu)造函數(shù)。
One More Thing
除了吳恩達之外,開源社區(qū)對aisuite也擁有不可磨滅的貢獻。
算上吳恩達本人,aisuite的貢獻者一共有六人,其余五人分別是(按姓氏字母排序):
- 在線繼續(xù)教育平臺CLE Hero聯(lián)合創(chuàng)始人Ryan Prinz;
- 前谷歌Chronicle Security工程主管Rohit Prsad;
- DeepLearning.AI(吳恩達創(chuàng)辦的在線學習平臺)特殊項目負責人John Santerre;
- 在線酒水銷售平臺Provi高級工程師Kevin Solorio;
- Meta生成式AI工程師、原高通高級工程師Jeff Tang。
同時,這一項目也發(fā)布了貢獻指南(Contributing Guide),歡迎整個開源社區(qū)幫助推動后續(xù)的工作。