第一線DYXnet張先國(guó):以 AI原生超互聯(lián)架構(gòu)破局,為企業(yè)數(shù)智化轉(zhuǎn)型保駕護(hù)航
原創(chuàng)在數(shù)智化時(shí)代的今天, AI與大模型應(yīng)用已經(jīng)成為推動(dòng)企業(yè)創(chuàng)新和持續(xù)發(fā)展的關(guān)鍵技術(shù)。隨著技術(shù)的不斷發(fā)展,大模型私有化部署呈現(xiàn)出愈發(fā)明顯的趨勢(shì)。一方面,針對(duì)特定業(yè)務(wù)場(chǎng)景的模型定制能夠更加貼合企業(yè)實(shí)際需求,推動(dòng)業(yè)務(wù)發(fā)展;另一方面,部署私有化大模型能夠確保數(shù)據(jù)的安全性與隱私保護(hù),數(shù)據(jù)無(wú)需外流,降低了數(shù)據(jù)泄露風(fēng)險(xiǎn)。
然而,企業(yè)在兼顧傳統(tǒng)業(yè)務(wù)和部署私有化大模型業(yè)務(wù)時(shí),面臨著來(lái)自算力、網(wǎng)絡(luò)、數(shù)據(jù)安全等多個(gè)方面的挑戰(zhàn),迫使企業(yè)必須尋求新的技術(shù)與解決方案來(lái)應(yīng)對(duì)這些難題。作為“AI+云網(wǎng)安服務(wù)”提供商,第一線敏銳地察覺(jué)到了這一趨勢(shì),并致力于構(gòu)建AI原生超互聯(lián)架構(gòu),以滿足企業(yè)在數(shù)智化轉(zhuǎn)型過(guò)程中的需求。
第一線DYXnet智算網(wǎng)絡(luò)技術(shù)部總監(jiān)張先國(guó)在近期接受51CTO采訪時(shí)表示,以前數(shù)據(jù)只是存放在業(yè)務(wù)數(shù)據(jù)庫(kù)中,企業(yè)僅是對(duì)其進(jìn)行簡(jiǎn)單檢索,很多非結(jié)構(gòu)化數(shù)據(jù)難以發(fā)揮價(jià)值。但現(xiàn)在,借助AI的能力可以更好地釋放數(shù)據(jù)價(jià)值。對(duì)于企業(yè)來(lái)說(shuō),關(guān)鍵在于如何發(fā)揮私有數(shù)據(jù)價(jià)值的同時(shí)保護(hù)自身數(shù)據(jù),避免讓自己的數(shù)據(jù)僅僅成為大型平臺(tái)的一部分,這才是企業(yè)未來(lái)轉(zhuǎn)型的真正價(jià)值所在。
隨著大模型時(shí)代的全面開(kāi)啟,第一線緊跟企業(yè)對(duì)安全、AI、算力等方面的更高要求,通過(guò)技術(shù)創(chuàng)新、生態(tài)合作,構(gòu)建了AI原生超互聯(lián)架構(gòu)基礎(chǔ)設(shè)施,實(shí)現(xiàn)了算力與網(wǎng)絡(luò)的深度融合,為企業(yè)提供了一個(gè)集AI算力、私域數(shù)據(jù)、模型、隱私計(jì)算于一體的企業(yè)可信計(jì)算空間,能夠支持企業(yè)在AI原生領(lǐng)域的創(chuàng)新。
應(yīng)勢(shì)而變,從網(wǎng)絡(luò)賦能向AI+云網(wǎng)安服務(wù)商演進(jìn)
在復(fù)雜且激烈的市場(chǎng)環(huán)境下,創(chuàng)新已經(jīng)成為企業(yè)贏得競(jìng)爭(zhēng)優(yōu)勢(shì),獲得持續(xù)發(fā)展的根本。熟悉第一線的朋友都知道,這家成立于1999年的企業(yè),始終以高速成長(zhǎng)的軌跡,適配每一個(gè)趨勢(shì)變革。從最初的電信中立網(wǎng)絡(luò)服務(wù)提供商,到如今全球領(lǐng)先的“AI+云網(wǎng)安”服務(wù)商,第一線持續(xù)走在創(chuàng)新的前沿,不斷突破自我,引領(lǐng)行業(yè)發(fā)展。
張先國(guó)告訴51CTO,在25年的發(fā)展歷程中,第一線始終秉持“以服務(wù)創(chuàng)新 賦能企業(yè)增長(zhǎng)”的理念,從提供MPLS VPN服務(wù)起步,到在業(yè)內(nèi)首推SD-WAN網(wǎng)絡(luò),持續(xù)升級(jí)服務(wù)品質(zhì),支撐企業(yè)的全球化數(shù)字應(yīng)用場(chǎng)景緊密協(xié)同,構(gòu)筑了覆蓋全球700+城市的核心網(wǎng)絡(luò)服務(wù)能力。
進(jìn)入AI和大模型時(shí)代,越來(lái)越多的企業(yè)開(kāi)始探索大模型在企業(yè)業(yè)務(wù)場(chǎng)景中的應(yīng)用,部署私有化大模型應(yīng)用已經(jīng)成為推動(dòng)企業(yè)高速發(fā)展的核心技術(shù)。
張先國(guó)表示,隨著大模型深化發(fā)展,越來(lái)越多的企業(yè)開(kāi)啟數(shù)智化升級(jí)。大模型私有化呈現(xiàn)出愈發(fā)明顯的趨勢(shì)。企業(yè)只有將私有數(shù)據(jù)、專業(yè)知識(shí)和行業(yè)經(jīng)驗(yàn)融入大模型之中,進(jìn)而打造出 AI 原生化的業(yè)務(wù)形態(tài),讓模型生成更符合企業(yè)實(shí)際和專業(yè)需求的內(nèi)容,才能夠?yàn)槠髽I(yè)提供更加具有針對(duì)性的決策支持和解決方案,進(jìn)而更好地幫助企業(yè)獲得競(jìng)爭(zhēng)優(yōu)勢(shì)。
采訪過(guò)程中,張先國(guó)以金融行業(yè)為例,詳細(xì)介紹了大模型在推動(dòng)企業(yè)創(chuàng)新過(guò)程中所扮演的重要角色。他表示,金融機(jī)構(gòu)可以針對(duì)風(fēng)險(xiǎn)評(píng)估、投資決策等業(yè)務(wù)場(chǎng)景訓(xùn)練專屬金融大模型,使其更精準(zhǔn)地處理復(fù)雜業(yè)務(wù)問(wèn)題。不過(guò),在企業(yè)訓(xùn)練專屬大模型的過(guò)程中,對(duì)數(shù)據(jù)安全、網(wǎng)絡(luò)與算力等方面提出了更高的要求。這需要融合算力、大模型和私有數(shù)據(jù)等多種要素,并保證新架構(gòu)形態(tài)能夠給予隱私安全方面的支撐。
在接下來(lái)的時(shí)間里,張先國(guó)詳細(xì)分享了企業(yè)在部署私有化大模型應(yīng)用過(guò)程中面臨的諸多挑戰(zhàn)。
首先,算力需求井噴帶來(lái)的挑戰(zhàn)。在大模型訓(xùn)練階段,由于參數(shù)量和訓(xùn)練數(shù)據(jù)集巨大,對(duì)算力有著極高的要求。以金融行業(yè)為例,在訓(xùn)練專屬金融大模型時(shí)需要處理的數(shù)據(jù)量動(dòng)輒幾十T甚至達(dá)到PB級(jí)別。然而,當(dāng)前市場(chǎng)上GPU資源緊張,算力成本高昂,如何有效利用算力資源成為企業(yè)面臨的一大難題。
其次,網(wǎng)絡(luò)帶寬與網(wǎng)絡(luò)安全的雙重壓力。AI原生化業(yè)務(wù)智慧體是基于企業(yè)私有數(shù)據(jù)和應(yīng)用構(gòu)建的,數(shù)據(jù)傳輸量巨大。企業(yè)內(nèi)部網(wǎng)絡(luò)需要支撐從數(shù)據(jù)端到算力端的高速互聯(lián)互通,網(wǎng)絡(luò)帶寬需求激增。同時(shí),隨著網(wǎng)絡(luò)攻擊手段的不斷升級(jí),企業(yè)面臨著前所未有的網(wǎng)絡(luò)安全壓力。如何在保障數(shù)據(jù)傳輸效率的同時(shí),確保數(shù)據(jù)安全不泄露,成為企業(yè)亟需解決的問(wèn)題。
最后,數(shù)據(jù)隱私保護(hù)難題。作為企業(yè)的核心資產(chǎn),近年來(lái)數(shù)據(jù)泄露和隱私侵犯事件頻發(fā),讓企業(yè)對(duì)于數(shù)據(jù)隱私保護(hù)的擔(dān)憂日益加劇。如何保障大模型訓(xùn)練過(guò)程中的數(shù)據(jù)隱私安全,成為企業(yè)必須面對(duì)的重要課題。
張先國(guó)強(qiáng)調(diào),在新的趨勢(shì)驅(qū)動(dòng)下,第一線正致力于匯聚創(chuàng)新技術(shù)與AI算力資源,構(gòu)建AI原生超互聯(lián)架構(gòu),承載企業(yè)AI原生化的全面升級(jí)。
順勢(shì)而生,用AI原生超互聯(lián)架構(gòu)賦能企業(yè)轉(zhuǎn)型
基于對(duì)企業(yè)需求的深刻洞察,憑借深厚的技術(shù)積累和豐富的行業(yè)經(jīng)驗(yàn),第一線打造了AI原生超互聯(lián)架構(gòu),推出了一系列創(chuàng)新的產(chǎn)品和解決方案,幫助企業(yè)應(yīng)對(duì)算力、網(wǎng)絡(luò)、安全等方面的挑戰(zhàn)。
據(jù)張先國(guó)介紹,第一線AI原生超互聯(lián)架構(gòu)實(shí)現(xiàn)了園區(qū)與樓宇之間算力直達(dá)的高速安全通道,解決了算力資源緊張和數(shù)據(jù)傳輸需求激增的問(wèn)題,助力企業(yè)實(shí)現(xiàn)基于私有數(shù)據(jù)進(jìn)行大模型訓(xùn)練的同時(shí),實(shí)現(xiàn)更高級(jí)別的數(shù)據(jù)安全性。
在AI算力層面 ,第一線通過(guò)整合多方AI算力資源,形成具備多元算力加持的服務(wù)底盤。
在網(wǎng)絡(luò)層面,第一線基于遠(yuǎn)程RDMA等技術(shù),打造了創(chuàng)新的AI原生超互聯(lián)架構(gòu),采用動(dòng)態(tài)切片技術(shù)進(jìn)行網(wǎng)絡(luò)的動(dòng)態(tài)切換。在客戶需要大算力時(shí),能夠快速分配出大帶寬且安全隱私的直連網(wǎng)絡(luò),并為其開(kāi)通百G以上帶寬,保障巨量數(shù)據(jù)與算力端之間實(shí)現(xiàn)快速、高效的互聯(lián)互通,并在任務(wù)完成后自動(dòng)釋放資源。
在數(shù)據(jù)安全層面,第一線構(gòu)建了隱私計(jì)算平臺(tái),打造了端到端加密+算后即釋放能力。首先,第一線在網(wǎng)絡(luò)中增強(qiáng)了實(shí)時(shí)大帶寬加密能力,從而確保客戶端與算力服務(wù)端之間的數(shù)據(jù)傳輸全程加密。當(dāng)企業(yè)與算力端建立連接后,將獲得性能與安全兼具的算網(wǎng)支撐,同時(shí)確保數(shù)據(jù)不會(huì)向外部傳輸。
其次,所有計(jì)算服務(wù)器將只有內(nèi)存而無(wú)硬盤,實(shí)現(xiàn)無(wú)盤隱私計(jì)算,私有數(shù)據(jù)算后即清。這意味著計(jì)算完成后將結(jié)果傳回去,隨后便清空相關(guān)數(shù)據(jù)。當(dāng)下一次有其他客戶使用時(shí),又會(huì)建立一個(gè)動(dòng)態(tài)的私有連接,在內(nèi)存空間中開(kāi)展新計(jì)算服務(wù),計(jì)算完成后同樣不會(huì)留下任何痕跡與保存。如此一來(lái),就能確保做到數(shù)據(jù)只存在于當(dāng)前計(jì)算時(shí)空內(nèi)的私有計(jì)算空間中,用戶可放心使用相關(guān)計(jì)算服務(wù)。
在本次采訪過(guò)程中,張先國(guó)還通過(guò)一個(gè)案例,詳細(xì)介紹了第一線在助力企業(yè)部署私有化大模型應(yīng)用中的實(shí)踐。
據(jù)介紹,以某教育企業(yè)為例,第一線通過(guò)為其構(gòu)建一個(gè)新的私域來(lái)存放數(shù)據(jù),并提供算力專網(wǎng)服務(wù)。通過(guò)將數(shù)據(jù)打造為私有向量數(shù)據(jù)庫(kù)形式的知識(shí)庫(kù),并與第一線提供的隱私計(jì)算算力相連接,利用隱私計(jì)算算力進(jìn)行微調(diào)訓(xùn)練。在訓(xùn)練過(guò)程中,所有數(shù)據(jù)都在私域空間內(nèi)完成處理,確保不會(huì)向外部傳輸。最終,訓(xùn)練出一個(gè)新的AI模型,并將其部署到公網(wǎng)上供教育企業(yè)用戶使用。
目前,第一線的ICT服務(wù)已經(jīng)從網(wǎng)絡(luò)賦能演進(jìn)為AI+云網(wǎng)安的全棧式服務(wù)體系,為超過(guò)2000家企業(yè)客戶賦能。
乘勢(shì)而上,持續(xù)探索AINet融合升級(jí)
談到第一線的整體發(fā)展規(guī)劃,張先國(guó)表示,面對(duì)AI這一發(fā)展趨勢(shì),第一線正致力于向AI應(yīng)用與大模型服務(wù)+AI原生基礎(chǔ)設(shè)施服務(wù)升級(jí)。對(duì)于AI原生基礎(chǔ)設(shè)施服務(wù)方面,第一線的戰(zhàn)略方向之一便是構(gòu)建AINet。在這一戰(zhàn)略中,第一線采取了以下兩條路線:
第一條路線,是在傳統(tǒng)業(yè)務(wù)層面進(jìn)行創(chuàng)新。這包括SD-WAN/MPLS VPN、核心網(wǎng)絡(luò)架構(gòu)以及SASE安全。目前,第一線正致力于將這些技術(shù)與AI相結(jié)合,以實(shí)現(xiàn)以下目標(biāo):通過(guò)SD-WAN/MPLS VPN+AI實(shí)現(xiàn)流量的智能預(yù)測(cè);核心網(wǎng)+AI構(gòu)建出InsightNet智能網(wǎng)絡(luò);將SASE的AI能力集成到位于核心網(wǎng)絡(luò)邊緣的SASE POP,打造智能安全防護(hù)體系。
第二條路線,是打造AI原生超互聯(lián)架構(gòu),以適應(yīng)未來(lái)企業(yè)AI原生化升級(jí)需求。
雙向路線匯聚而成的AINet將提供網(wǎng)隨需動(dòng)、雙網(wǎng)聯(lián)動(dòng)的服務(wù)賦能,為企業(yè)AI業(yè)務(wù)應(yīng)用的訓(xùn)練、推理等多方面場(chǎng)景,提供智慧基礎(chǔ)底座支撐。
采訪最后,張先國(guó)表示,第一線將持續(xù)探索與推進(jìn)AI能力與云網(wǎng)安服務(wù)融合,以打造智慧基礎(chǔ)設(shè)施服務(wù)、智慧應(yīng)用服務(wù)等新興服務(wù)能力,協(xié)同企業(yè)共同成就數(shù)據(jù)價(jià)值。
主編觀點(diǎn):
大模型私有化部署帶來(lái)的諸多挑戰(zhàn)催生了新技術(shù)與解決方案的誕生。正是憑借敏銳的行業(yè)洞察力和強(qiáng)大的技術(shù)實(shí)力,第一線在不斷轉(zhuǎn)型升級(jí)過(guò)程中,打造出了AI原生超互聯(lián)架構(gòu),幫助企業(yè)解決了大模型私有化部署中遇到的各種難題,即滿足了傳統(tǒng)業(yè)務(wù)的需求,又讓企業(yè)部署私有化大模型應(yīng)用變得更加簡(jiǎn)單,為業(yè)務(wù)持續(xù)創(chuàng)新和發(fā)展夯實(shí)了基石。
相信未來(lái),隨著AI技術(shù)的不斷發(fā)展和應(yīng)用場(chǎng)景的不斷拓展,第一線將繼續(xù)深耕ICT服務(wù)領(lǐng)域,持續(xù)向AI應(yīng)用與大模型服務(wù)+AI原生基礎(chǔ)設(shè)施服務(wù)升級(jí),為企業(yè)提供更多、更好的解決方案和服務(wù)。