最高支持千億向量規(guī)模,騰訊云向量數(shù)據(jù)庫全面升級
11月15日,在騰訊云向量數(shù)據(jù)庫技術(shù)及產(chǎn)業(yè)峰會上,騰訊云全面升級向量數(shù)據(jù)庫多項(xiàng)核心性能,最高支持千億級向量規(guī)模和500萬QPS峰值能力,同時和信通院一起聯(lián)合50多家企業(yè)共同發(fā)布了國內(nèi)首個向量數(shù)據(jù)庫標(biāo)準(zhǔn),推進(jìn)向量數(shù)據(jù)庫及大模型相關(guān)產(chǎn)業(yè)走向大規(guī)模應(yīng)用。
騰訊集團(tuán)高級執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生表示:“向量數(shù)據(jù)庫不僅是支撐大模型的重要基礎(chǔ)設(shè)施,也正在成為企業(yè)以數(shù)據(jù)驅(qū)動打造未來競爭力的重要一環(huán)。”
自7月份正式發(fā)布以來,騰訊云向量數(shù)據(jù)庫經(jīng)過多次迭代升級,在企業(yè)級能力上持續(xù)突破,在優(yōu)化版的IVF索引支持下,從最初支持的十億向量規(guī)模到現(xiàn)在的千億規(guī)模。同時不斷優(yōu)化索引的壓縮算法,讓相同的內(nèi)存可以存儲5-10倍的數(shù)據(jù).
同時,在智能化升級方面,騰訊云向量數(shù)據(jù)庫集成Embedding功能,讓用戶無需關(guān)注向量生成過程,就可以實(shí)現(xiàn)快速處理數(shù)據(jù),實(shí)現(xiàn)了用自然語言和數(shù)據(jù)對話,助力企業(yè)加速擁抱AGI生態(tài)。
騰訊云數(shù)據(jù)庫副總經(jīng)理羅云表示:“從編程語言到自然語言,大模型重塑了算力調(diào)度方式。而AGI時代,也需要智能化的數(shù)據(jù)調(diào)度范式,AGI時代的數(shù)據(jù)平臺,向量數(shù)據(jù)庫是數(shù)據(jù)的中樞,騰訊云向量數(shù)據(jù)庫希望成為這個數(shù)據(jù)中樞,通過企業(yè)級和智能化的能力助力各行各業(yè)一起走向AGI。”
為了加速向量數(shù)據(jù)庫在企業(yè)的大規(guī)模應(yīng)用,騰訊云還推出了國內(nèi)“首個”端到端的向量數(shù)據(jù)庫解決方案,通過文本智能化分割、選擇向量化模型、幫助客戶建立索引,再經(jīng)智能化排序?qū)崿F(xiàn)端到端的數(shù)據(jù)接入體驗(yàn)。將端到端召回率提高30%,縮短數(shù)據(jù)接入AI的時間。
據(jù)羅云介紹,目前騰訊云向量數(shù)據(jù)庫已經(jīng)累積服務(wù)了騰訊內(nèi)部40多個業(yè)務(wù),日請求量達(dá)1600億次,服務(wù)了包括博世、銷售易、搜狐、好未來、鏈家等在內(nèi)的超過1000家外部客戶。
例如,在SaaS領(lǐng)域,幫助企業(yè)客戶快速構(gòu)建私域知識庫、智能客服系統(tǒng);在電商行業(yè),使用向量數(shù)據(jù)庫來提升推薦、搜索、廣告業(yè)務(wù)的推薦效果;在出行行業(yè),使用向量數(shù)據(jù)庫來加速自動駕駛模型訓(xùn)練,此外,在教育行業(yè)以及文創(chuàng)等行業(yè)也有廣泛應(yīng)用。
大會現(xiàn)場,國內(nèi)首個向量數(shù)據(jù)庫技術(shù)標(biāo)準(zhǔn)《向量數(shù)據(jù)庫技術(shù)要求》也正式亮相,這份由騰訊云聯(lián)和信通院等超50家企業(yè)聯(lián)合編制的標(biāo)準(zhǔn),將為向量數(shù)據(jù)庫技術(shù)和產(chǎn)業(yè)的有序發(fā)展提供專業(yè)規(guī)范。為推動大模型產(chǎn)業(yè)更快創(chuàng)新發(fā)展,騰訊云還與硬件廠商、大模型廠商、行業(yè)代表等聯(lián)合成立了“AGI技術(shù)生態(tài)聯(lián)盟”。此外,騰訊云向量數(shù)據(jù)庫和百川智能聯(lián)合發(fā)布的“AGI啟航計(jì)劃”也正式啟動,向量數(shù)據(jù)庫免費(fèi)實(shí)例 及 Baichuan2 400萬免費(fèi)Tokens將限量開放領(lǐng)取(https://cloud.tencent.com/act/pro/agi),助力用戶快速搭建RAG應(yīng)用。
騰訊云副總裁陳平表示:“騰訊云積極參與向量數(shù)據(jù)庫相關(guān)標(biāo)準(zhǔn)制定,并通過搭建AGI技術(shù)生態(tài)聯(lián)盟,與上下游伙伴一道,加強(qiáng)產(chǎn)業(yè)合作,打造更多的行業(yè)解決方案,加速大模型落地?!?/span>