在預(yù)訓(xùn)練大模型催生的人工智能浪潮下,數(shù)據(jù)已經(jīng)成為各行各業(yè)不可或缺的新型生產(chǎn)要素,同時(shí)也面臨著一系列棘手挑戰(zhàn):既要保護(hù)數(shù)據(jù)安全,又要利用數(shù)據(jù)創(chuàng)造經(jīng)濟(jì)效益。

　　讓數(shù)據(jù)可用不可見的“隱私計(jì)算”,由此被越來越頻繁地提及。有人打了一個(gè)形象的比喻:隱私計(jì)算就像是一個(gè)黑箱,人們不需要看到黑箱內(nèi)是如何運(yùn)作的,卻可以得到想要運(yùn)算結(jié)果,可以說是“魚與熊掌”兼得的最優(yōu)解。

　　在大廠扎堆的隱私計(jì)算賽道中,有一個(gè)“黑馬”級(jí)的創(chuàng)新團(tuán)隊(duì)——沖量在線,成立僅三年多時(shí)間就躋身國(guó)內(nèi)隱私計(jì)算第一梯隊(duì),并頻頻在人工智能應(yīng)用落地有關(guān)的重量級(jí)比賽中嶄露頭角。

　　首創(chuàng)隱私計(jì)算與海光異構(gòu)加速卡結(jié)合,性能比肩國(guó)際主流產(chǎn)品

　　可能不少人對(duì)“沖量在線”這個(gè)名字還有些陌生,卻是隱私計(jì)算賽道中名符其實(shí)的實(shí)力派選手。

　　2022年6月,沖量在線與中科海光聯(lián)合推出了全國(guó)產(chǎn)化的異構(gòu)加速隱私計(jì)算一體機(jī),將適用于CPU芯片上的CSV技術(shù)與海光芯片異構(gòu)加速芯片直通,利用GPU資源加速TEE中的隱私計(jì)算。和市場(chǎng)上的其他可信方案相比,沖量在線的異構(gòu)加速隱私計(jì)算一體機(jī)表現(xiàn)出了多方面的優(yōu)勢(shì):

　　第一,在整個(gè)機(jī)器學(xué)習(xí)的訓(xùn)練和推理過程中,數(shù)據(jù)無(wú)需落盤,保證數(shù)據(jù)不存在隱私泄露的困擾;

　　第二,基于海光異構(gòu)加速卡,保證上層基于深度學(xué)習(xí)框架上的AI應(yīng)用和隱私計(jì)算算法不需要修改;

　　第三,攜手海光,實(shí)現(xiàn)底層核心的自主、安全,達(dá)成了端到端的軟硬件全國(guó)產(chǎn)化。

　　目前,沖量在線基于海光的異構(gòu)加速機(jī)密計(jì)算產(chǎn)品已經(jīng)在中國(guó)電信和浦發(fā)銀行的項(xiàng)目中落地,安全性能可以比肩國(guó)際主流產(chǎn)品,是國(guó)內(nèi)首個(gè)基于GPU的TEE方案,可同時(shí)滿足大規(guī)模數(shù)據(jù)訓(xùn)練推理的高性能和安全需求。

　　打通隱私計(jì)算 “ 最后一公里 ” ,需要產(chǎn)業(yè)鏈互促共贏

　　在沖量在線的異構(gòu)加速隱私計(jì)算一體機(jī)方案中,“AI安全開放平臺(tái)”是一個(gè)不可或缺的模塊,用于實(shí)現(xiàn)AI安全對(duì)外共享服務(wù)的場(chǎng)景,也就是現(xiàn)在很流行的可信MaaS平臺(tái)(Model as a Service)。

　　而沖量在線“AI安全開放平臺(tái)”的誕生契機(jī),則是第二屆光合組織解決方案大賽。通過大賽這一平臺(tái),沖量在線加深與了海光的合作。在經(jīng)歷了長(zhǎng)達(dá)7個(gè)月的研發(fā)“急行軍“后,雙方聯(lián)合推出了“沖量AI安全開放平臺(tái)”。該平臺(tái)為政務(wù)、金融、算力中心等領(lǐng)域提供安全可靠的AI服務(wù)。

　　銀行等金融機(jī)構(gòu)通過“AI安全開放平臺(tái)”,將成熟應(yīng)用的AI能力(OCR能力、NLP能力等) 向第三方輸出,無(wú)需修改AI應(yīng)用和隱私計(jì)算算法,就能對(duì)外提供隱私計(jì)算AI SaaS服務(wù)。這不僅可以保證第三方提交的合同、數(shù)據(jù)等信息的安全,也能保證銀行AI算法的安全性,在全面可控的隱私計(jì)算機(jī)制下實(shí)現(xiàn)數(shù)據(jù)資產(chǎn)的價(jià)值變現(xiàn)。

　　沖量在線合伙人、解決方案總經(jīng)理黃淼介紹:“在整個(gè)比賽過程中,光合組織給予了非常多的資源支持。比如一些深度學(xué)習(xí)框架,框架的開發(fā)者并未對(duì)國(guó)產(chǎn)芯片進(jìn)行適配。比賽過程中,我們向海光提出了大量?jī)?yōu)化和適配需求,對(duì)方基本在一個(gè)禮拜內(nèi)就能解決,可以明顯感受到國(guó)產(chǎn)軟硬件生態(tài)的持續(xù)改善?！?/p>

　　而國(guó)產(chǎn)生態(tài)的改善,帶來的直接結(jié)果就是業(yè)務(wù)量的激增。黃淼介紹,在某銀行AI SaaS服務(wù)的安全能力技術(shù)提升的項(xiàng)目招標(biāo)中,參與投標(biāo)的企業(yè)不乏一些知名的金融科技和AI公司,但最終中標(biāo)的是沖量在線的產(chǎn)品和方案。因?yàn)闆_量在線對(duì)業(yè)務(wù)的理解更加深刻,譬如如何將模型在國(guó)產(chǎn)芯片上運(yùn)行和優(yōu)化,對(duì)外應(yīng)該提供什么樣的接口,怎么和客戶的業(yè)務(wù)系統(tǒng)進(jìn)行集成等。

　　光合組織的第三屆解決方案大賽已經(jīng)啟動(dòng)。大賽設(shè)置了集智計(jì)劃(人工智能)、桃李計(jì)劃(教育信息化)、堡壘計(jì)劃(安全技術(shù)應(yīng)用)三大細(xì)分賽道,優(yōu)勝者將贏取超過1000萬(wàn)的資金及資源,參賽者將獲得專屬技術(shù)指導(dǎo)、產(chǎn)業(yè)資源對(duì)接、品牌推廣助力等多維度支持。