大模型應(yīng)用開發(fā)過程中主流架構(gòu)模式——大模型+多個(gè)小模型 原創(chuàng)
“ 架構(gòu)是靈活多變的,切勿鉆牛角尖 ”
在上一篇文章中講到大模型的能力問題,雖然說經(jīng)過這一兩年時(shí)間的發(fā)展,大模型的能力已經(jīng)得到巨大的提升,甚至有些模型已經(jīng)超出了意料。
但大模型在工程化落地中依然面臨著很多問題,比如說成本問題,技術(shù)問題,以及能力問題,畢竟大模型并不是萬能的,某些模型雖然在某些方面表現(xiàn)較強(qiáng),但并不是無所不能的。
因此,該怎么解決這個(gè)問題呢?
這時(shí) 通用大模型+多個(gè)垂直小模型的解決方案就出現(xiàn)了。
大模型+多個(gè)小模型
大家看到大模型+多個(gè)小模型,會(huì)不會(huì)就認(rèn)為大模型就是參數(shù)量龐大的模型,多個(gè)小模型就是參數(shù)量較小的模型?
其實(shí)這里說的大模型+多個(gè)小模型并不是從我們傳統(tǒng)意義從技術(shù)角度理解的模型,而是從業(yè)務(wù)角度上的模型。
這里的大模型指的是你們公司主要業(yè)務(wù)依賴的模型,比如一家做AIGC業(yè)務(wù)的企業(yè),它的大模型肯定是以生成業(yè)務(wù)為主;但生成式范圍那么大,不可能有一家公司能維護(hù)如此多的模型,肯定是以一兩個(gè)業(yè)務(wù)方向?yàn)橹鳎渌臑檩o。
比如說一家公司做AI音樂生成業(yè)務(wù),但如果它還想做視頻處理和文字處理的業(yè)務(wù),這時(shí)它可能就沒有那么多資金,技術(shù)和時(shí)間來維護(hù)如此多的模型。
而多個(gè)垂直小模型也并不是說一定是體量小的模型,而是那種非主要業(yè)務(wù)的模型;可能是自己維護(hù)的小模型,也可能是調(diào)用第三方的大模型服務(wù)。
大模型+小模型的配置方式細(xì)分來說還有很多適用場(chǎng)景,比如上面說的主業(yè)務(wù)模型+邊緣業(yè)務(wù)模型;再比如,一個(gè)功能強(qiáng)大的視頻生成模型+多個(gè)不同風(fēng)格的垂下小模型,通過大+小的方式來解決不同場(chǎng)景的問題,以及節(jié)約企業(yè)成本。
不論是學(xué)習(xí)還是實(shí)際的企業(yè)應(yīng)用,千萬要明白沒有人能做解決所有的問題,也沒有人能完成所有的任務(wù),因此合作才是最好的選擇,而大模型+垂直小模型的方式就是最好的合作體現(xiàn)——合作共贏。
個(gè)人或企業(yè)只需要關(guān)注于自身的核心業(yè)務(wù),而不用把時(shí)間和精力浪費(fèi)在一些自己根本無力完成的任務(wù)上,這就是要做回報(bào)率最高,最有性價(jià)比的事情。
很多人都喜歡做一條龍,集研發(fā),生產(chǎn),銷售為一體,但對(duì)大部分中小企業(yè)來說成為產(chǎn)業(yè)鏈條上的一環(huán)或許是更好的選擇。
而在今年上半年,360CEO周鴻祎也不止一次的提過,不要過分追求大模型的能力和性能,使用多個(gè)功能強(qiáng)大的垂直小模型可能會(huì)比一個(gè)大模型做的更好,更強(qiáng)。
前面可以說是使用大模型+多個(gè)小模型的好處,那么使用這種方案有沒有什么壞處呢?
凡事都有兩面性,使用大模型+小模型雖然能帶來很多好處但同樣也面臨著很多問題。
雖然很多時(shí)候由于業(yè)務(wù)的多元性導(dǎo)致我們不得不使用多個(gè)模型,但使用多個(gè)模型最大的問題就是要適配不同的模型,每個(gè)模型都有其不同的輸入和輸出,而且不同模型的能力不一而足。
我們要在兼容不同模型的基礎(chǔ)之上,還要同時(shí)兼顧多種模型的復(fù)雜性和穩(wěn)定性。
就類似于傳統(tǒng)業(yè)務(wù)系統(tǒng)架構(gòu)中,由于業(yè)務(wù)需要或其它原因?qū)е挛覀儾坏貌灰胍恍┲虚g件,但有過項(xiàng)目經(jīng)驗(yàn)的人應(yīng)該都知道,每引入一個(gè)中間件都會(huì)給項(xiàng)目帶來一些不確定的潛在風(fēng)險(xiǎn)。
萬一中間件不穩(wěn)定怎么辦,萬一中間件宕機(jī)了怎么辦等等,怎么做容錯(cuò)處理等。
總之,沒有一成不變的架構(gòu),也沒有完美無缺的系統(tǒng),我們需要根據(jù)實(shí)際情況根本不同的業(yè)務(wù)場(chǎng)景,選擇合適的解決方案,而不是想著靠一個(gè)架構(gòu)解決所有問題。
最后,最最最重要的事就是,面對(duì)問題一定要靈活多變,切記不可鉆牛角尖。
本文轉(zhuǎn)載自公眾號(hào)AI探索時(shí)代 作者:DFires
