OpenAI停服,國產(chǎn)大模型免費用!開發(fā)者Token自由實現(xiàn)了
今天凌晨,OpenAI 突然宣布終止對中國提供 API 服務(wù),進一步收緊國內(nèi)開發(fā)者訪問 GPT 等高水平大模型。國內(nèi)開發(fā)者真是太難了。
好在,隨著開源大模型水平越來越高,開發(fā)者已經(jīng)有很多不錯的 “平替”,比如 Qwen2、DeepSeek V2 等模型。為了給開發(fā)者提供更快、更便宜、更全面、體驗更絲滑的開源大模型 API,AI Infra 領(lǐng)域的專業(yè)選手硅基流動(SiliconFlow)上場,推出了一站式大模型 API 平臺 SiliconCloud。
剛剛,硅基流動為國內(nèi)開發(fā)者獻上一份前所未有的大禮:Qwen2 (7B)、GLM4 (9B)、Yi1.5(9B)等頂尖開源大模型永久免費。
從此,開發(fā)者 “Token 自由” 不再是夢,可以甩開膀子開發(fā)超級應(yīng)用了。
“Token 自由” 傳送門,一鍵直達:
cloud.siliconflow.cn/s/free
正如在工業(yè)化時代,機械化工廠推動了大規(guī)模生產(chǎn)商品的效率。在大模型時代,生成式 AI 應(yīng)用的繁榮亟需高性價比的 Token 生產(chǎn)工廠。
通過云服務(wù)接入大模型 API 已成為開發(fā)者的最優(yōu)選擇。不過,很多平臺只提供自家大模型 API,不包含其他頂尖大模型,同時,在模型響應(yīng)速度、用戶體驗以及成本方面,遠不能滿足開發(fā)者的需求。
現(xiàn)在,硅基流動的超級 Token 工廠 SiliconCloud,讓開發(fā)者不用再花費精力部署大模型,大規(guī)模降低 AI-Native 應(yīng)用開發(fā)門檻與成本。
大模型 Token 工廠
即時上新、極速輸出、價格親民
既然叫 Token 工廠,那用戶喜歡的模型就都能直接在 SiliconCloud 上找到。
最近,大模型社區(qū)相當(dāng)熱鬧,開源模型不斷刷新著 SOTA,輪流霸榜。
硅基流動第一時間將這些大模型快速上架到 SiliconCloud,包括最強開源代碼生成模型 DeepSeek-Coder-V2,超越 Llama3 的大語言模型 Qwen2、GLM-4-9B-Chat、DeepSeek V2 系列模型。還支持 Stable Diffusion 3 Medium、InstantID 等文生圖模型。
值得一提的是,對 DeepSeek V2 等部署難度極高的模型,SiliconCloud 是除官方之外唯一支持這些開源大模型的云服務(wù)平臺。
考慮到在不同應(yīng)用場景下需要選擇適合的大模型,開發(fā)者可在 SiliconCloud 自由切換。
這樣的開源大模型聚合平臺,已經(jīng)為開發(fā)者提供了不少便利,但還遠遠不夠,作為世界頂級的 AI Infra 團隊,硅基流動致力于將大模型部署成本降低 10000 倍。
要實現(xiàn)這一目標,核心挑戰(zhàn)是如何大幅提升大模型推理速度。對此,SiliconCloud 做到了什么程度?
直觀上圖,感受一下 Qwen2-72B-Instruct 在 SiliconCloud 上的響應(yīng)速度。
剛開源不久的 SD3 Medium 的生圖時間在 1s 左右。
這些開源大模型的響應(yīng)速度變快,相同的算力的產(chǎn)出更高,價格自然就打下來了。
SiliconCloud 上的大模型 API 價格也(很卷)更為親民。即使是 Qwen2-72B,官網(wǎng)顯示只要 4.13 元 / 1M Token。新用戶還可免費暢享 2000 萬 Token。
開發(fā)者評價:“速度快得再也回不去了”
SiliconCloud 一經(jīng)發(fā)布,不少開發(fā)者就在各大社交平臺分享了使用體驗。部分 “自來水” 用戶是這樣評價的:
知乎上,機器學(xué)習(xí)系統(tǒng)專家 @方佳瑞稱贊了 SiliconCloud 的輸出速度,“用久了就受不了其他大模型廠商 web 端的響應(yīng)速度”。
微博用戶 @祝威廉二世稱,其他幾家平臺都不敢放 Qwen2 大規(guī)模參數(shù)的模型,SiliconCloud 都放了,速度很快,還很便宜,一定會付費。
他還提到,大模型的最終產(chǎn)物是 Token,未來會由硅基流動這樣的 Token 工廠,或 OpenAI、阿里云這樣的大模型企業(yè)或云廠商完成 Token 的生產(chǎn)。
還有 X 用戶強烈推薦 SiliconCloud,體驗太過絲滑,尤其還有體貼周到的一流售后服務(wù)團隊。
微信公眾號博主評價:SiliconCloud 是國內(nèi)同類產(chǎn)品中體驗最好的一家。
這些評價有一個明顯的共性,他們不約而同地提到了 SiliconCloud 平臺的速度。為什么它的響應(yīng)這么快?
答案很簡單:硅基流動團隊做了大量性能優(yōu)化工作。
早在 2016 年,硅基流動的前身 OneFlow 團隊就投身大模型基礎(chǔ)設(shè)施,是世界上做通用深度學(xué)習(xí)框架的唯一創(chuàng)業(yè)團隊。再次創(chuàng)業(yè),他們基于豐富的 AI 基礎(chǔ)設(shè)施及加速優(yōu)化經(jīng)驗,率先研發(fā)了高性能大模型推理引擎,在某些場景中,讓大模型吞吐實現(xiàn)最高 10 倍加速,該引擎也集成到了 SiliconCloud 平臺。
換句話說,讓開發(fā)者用上輸出速度更快、價格實在的大模型服務(wù),是硅基流動團隊的拿手絕活。
Token 自由后,現(xiàn)象級應(yīng)用還遠嗎?
此前,阻礙國內(nèi)開發(fā)者開發(fā) AI 應(yīng)用的一大因素是不方便訪問高水平大模型,即便做出了優(yōu)質(zhì)應(yīng)用也不敢大規(guī)模推廣,因為燒錢太快,他們無力承受。
隨著國產(chǎn)開源大模型不斷迭代,以 Qwen2、DeepSeek V2 為代表的模型已足夠支持超級應(yīng)用,更重要的是,Token 工廠 SiliconCloud 的出現(xiàn)能解決超級個體的后顧之憂,他們不用再擔(dān)心應(yīng)用研發(fā)與大規(guī)模推廣帶來的算力成本,只需專注實現(xiàn)產(chǎn)品想法,做出用戶需要的生成式 AI 應(yīng)用。
可以說,現(xiàn)在是超級個體開發(fā)者與產(chǎn)品經(jīng)理的最佳 “掘金” 時刻,而 SiliconCloud 這個好用的掘金工具已經(jīng)為你準備好了。
再提醒一下:Qwen2 (7B)、GLM4 (9B) 等頂尖開源大模型永久免費。