8月24日,百度與江蘇未來網(wǎng)絡(luò)集團(tuán)有限公司(簡稱“江蘇未來網(wǎng)絡(luò)集團(tuán)”)、網(wǎng)絡(luò)通信與安全紫金山實驗室(簡稱“紫金山實驗室”)、江蘇省未來網(wǎng)絡(luò)創(chuàng)新研究院(簡稱“未來網(wǎng)絡(luò)研究院”)簽署戰(zhàn)略合作框架協(xié)議。各方將圍繞大模型核心技術(shù)聯(lián)合攻關(guān),力爭在3-5年內(nèi)實現(xiàn)行業(yè)大模型技術(shù)創(chuàng)新能力江蘇領(lǐng)先水平,在全國具有示范意義。同時,多方合作還將共建江蘇省大模型產(chǎn)業(yè)賦能中心,加速大模型賦能江蘇企業(yè)步伐。
(百度與江蘇未來網(wǎng)絡(luò)集團(tuán)、紫金山實驗室、未來網(wǎng)絡(luò)研究院簽署戰(zhàn)略合作)
在當(dāng)日舉行的第七屆未來網(wǎng)絡(luò)發(fā)展大會上,百度智能云基于未來網(wǎng)絡(luò)打造的“跨廣域工業(yè)視覺大模型算網(wǎng)融合技術(shù)”作為重大成果正式對外發(fā)布。它基于百度自研芯片昆侖芯以及百度文心視覺大模型,將算力、網(wǎng)絡(luò)、大模型和應(yīng)用場景融合,實現(xiàn)行業(yè)大模型跨廣域精調(diào)、推理服務(wù),改變過去只能在工廠端就近部署算力和模型的方式,降低企業(yè)使用行業(yè)大模型的門檻。測試結(jié)果顯示,在相距超300公里的兩家鋼鐵工廠之間,該技術(shù)成果使行業(yè)大模型跨廣域推理效率提升42%。
(百度智能云“跨廣域工業(yè)視覺大模型算網(wǎng)融合技術(shù)”重大成果正式對外發(fā)布)
中國工程院院士、紫金山實驗室主任劉韻潔表示:“大模型時代,要抓住全球未來網(wǎng)絡(luò)發(fā)展的重大機遇,突破確定性網(wǎng)絡(luò)核心技術(shù),引領(lǐng)信息產(chǎn)業(yè)技術(shù)發(fā)展。此次與百度的合作將面向大模型、大數(shù)據(jù)發(fā)展需求,構(gòu)建覆蓋全國的確定性網(wǎng)絡(luò),以及面向農(nóng)業(yè)、工業(yè)、能源、安全等行業(yè)的行業(yè)專網(wǎng),以大模型賦能千行百業(yè),促進(jìn)實體經(jīng)濟發(fā)展?!?br />
百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖表示:“大模型對算力、網(wǎng)絡(luò)、智算集群等智算基礎(chǔ)設(shè)施提出了全新要求。百度擁有芯片、框架、模型、應(yīng)用等全棧人工智能技術(shù)優(yōu)勢,同時擁有開放的人工智能生態(tài)。百度智能云將攜手江蘇未來網(wǎng)絡(luò)集團(tuán),持續(xù)為算網(wǎng)融合相關(guān)戰(zhàn)略工程提供關(guān)鍵性支撐,通過提供智能計算云底座和大模型生產(chǎn)平臺,讓更多行業(yè)方便快捷、低門檻的用上大模型。”
(由右至左,百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖,中國聯(lián)通總經(jīng)理陳忠岳、中國工程院院士、紫金山實驗室主任劉韻潔、中國工程院院士鄔賀銓、中國科學(xué)院計算機網(wǎng)絡(luò)信息中心主任謝高崗,共話算力網(wǎng)絡(luò)與AI大模型發(fā)展策略)
大模型跨廣域推理效率提升42%,百度算網(wǎng)融合技術(shù)重大成果發(fā)布
當(dāng)前,大模型發(fā)展已進(jìn)入產(chǎn)業(yè)化應(yīng)用階段。但工業(yè)場景復(fù)雜,產(chǎn)業(yè)鏈環(huán)節(jié)多、鏈條長,行業(yè)大模型的“精調(diào)和推理”需要高實時性和高安全性的算力網(wǎng)絡(luò)提供支持。這對網(wǎng)絡(luò)低時延、無損傳輸、網(wǎng)絡(luò)安全提出了更高的要求。傳統(tǒng)互聯(lián)網(wǎng),效率低,安全性缺乏。企業(yè)搭建專線方式成本高,企業(yè)難以承受。行業(yè)大模型落地工業(yè)需要一種新的技術(shù)解決方案來打破發(fā)展瓶頸。
百度智能云基于未來網(wǎng)絡(luò)打造的“跨廣域工業(yè)視覺大模型算網(wǎng)融合技術(shù)”作為重大成果,在第七屆未來網(wǎng)絡(luò)發(fā)展大會正式發(fā)布。該成果基于百度自研芯片昆侖芯以及百度文心視覺大模型,將算力、網(wǎng)絡(luò)、大模型和應(yīng)用場景融合,通過智能調(diào)度網(wǎng)絡(luò)以及大模型的能力結(jié)合,實現(xiàn)行業(yè)大模型跨廣域精調(diào)、推理服務(wù),提升模型精度和推理效率,改變過去只能在工廠端就近部署算力和模型的方式,提升模型泛化能力,降低企業(yè)使用行業(yè)大模型的門檻,大幅提升社會算力資源的利用率。
針對鋼鐵行業(yè)工業(yè)質(zhì)檢場景,一家鋼鐵工廠通過使用百度智能云的“算網(wǎng)融合技術(shù)”,在南京和上海工廠之間,進(jìn)行跨廣域間的“精調(diào)和推理”測試。雖然兩家工廠相距超過300公里,但測試結(jié)果顯示,推理、訓(xùn)練圖片數(shù)據(jù)丟包率為0,語料獲取效率提升83%,推理效率提升42%,云端算力相比本地化算力部署,模型精調(diào)訓(xùn)練后精度提升10%。
通過測試論證,百度智能云打造的算網(wǎng)融合技術(shù)能夠同時滿足企業(yè)對工業(yè)視覺大模型推理端到端業(yè)務(wù)和精調(diào)訓(xùn)練的性能需求,可以支撐后續(xù)視覺大模型在工業(yè)領(lǐng)域的場景落地和商業(yè)化。同時,基于自研芯片昆侖芯的大算力集群,大模型訓(xùn)練速度相比本地化算力部署顯著提升。
過去六屆未來網(wǎng)絡(luò)發(fā)展大會發(fā)布了十余項全球領(lǐng)先的創(chuàng)新成果發(fā)布,其中相當(dāng)一部分成果被廣泛應(yīng)用于產(chǎn)業(yè)實踐和國家關(guān)鍵領(lǐng)域的建設(shè)當(dāng)中。
3-5年內(nèi)攻克技術(shù)難關(guān),力爭大模型能力在江蘇排名第一
根據(jù)合作協(xié)議顯示,百度與江蘇未來網(wǎng)絡(luò)集團(tuán)等三方的合作將主要聚焦大模型核心技術(shù)攻關(guān)和產(chǎn)業(yè)賦能兩個方面。
一方面,江蘇未來網(wǎng)絡(luò)集團(tuán)提供智能算力底座及網(wǎng)絡(luò)資源,百度智能云提供模型及技術(shù)支撐,基于百度智能云千帆大模型平臺,各方攜手進(jìn)行技術(shù)攻關(guān)。目標(biāo)是建成全國首個自主可控的行業(yè)大模型平臺,實現(xiàn)跨廣域算網(wǎng)融合,確保低延遲、確定性通信,加速大模型數(shù)據(jù)共享、模型共享。同時保持開放生態(tài),未來可接入女媧大模型等江蘇本地優(yōu)質(zhì)大模型,持續(xù)培育本土能力。力爭在3-5年內(nèi)實現(xiàn)行業(yè)大模型技術(shù)創(chuàng)新能力江蘇領(lǐng)先水平。
另一方面,江蘇是中國工業(yè)第一大省,正在推動制造業(yè)高端化智能化綠色化發(fā)展。百度與江蘇未來網(wǎng)絡(luò)集團(tuán)等三方的合作,將共建江蘇省大模型產(chǎn)業(yè)賦能中心,圍繞大模型產(chǎn)業(yè)運營、標(biāo)桿示范場景打造、人工智能技術(shù)生態(tài)及人才培養(yǎng)等方面進(jìn)行探索,降低江蘇企業(yè)使用行業(yè)大模型的門檻,加速人工智能產(chǎn)品和服務(wù)賦能企業(yè)步伐。
沈抖表示,大模型發(fā)展需要云智一體的智算基礎(chǔ)設(shè)施提供支持。百度在萬卡GPU集群、卡間通信、服務(wù)器間通信、數(shù)據(jù)中心通信方面都積累了豐富的經(jīng)驗,形成了較好的技術(shù)優(yōu)勢。百度智能云會將長期以來形成的大模型工程化能力沉淀下來,通過千帆大模型平臺開放給企業(yè)和機構(gòu),幫助大家用好大模型、做好大模型。
相關(guān)稿件