自chatgpt問世以來，人工智能行業(yè)高速發(fā)展，已成為當(dāng)前社會一大主流趨勢。然而，高速發(fā)展的新行業(yè)不可避免的帶來一些弊端，生成式人工智能帶來的風(fēng)險也日益顯現(xiàn)。例如生成技術(shù)可能被用于制造虛假信息或進行網(wǎng)絡(luò)攻擊，對網(wǎng)絡(luò)安全構(gòu)成威脅;生成內(nèi)容難以與真實內(nèi)容區(qū)分，可能誤導(dǎo)公眾;AI生成內(nèi)容可能觸及道德和倫理底線，如生成違法或不道德的內(nèi)容。其中與網(wǎng)民最息息相關(guān)的還是信息泄露問題，AI需要收集更多類型的用戶信息作為“養(yǎng)料”，增加了個人信息泄露的風(fēng)險。

　　在此背景下，中國信息通信研究院(簡稱“中國信通院”)聯(lián)合抖音、百度、阿里巴巴、科大訊飛、合合信息等科技企業(yè)，共同參與了《生成式人工智能個人信息保護技術(shù)要求》系列標準(下稱“標準”)的編制。

　　經(jīng)過充分的研討，《生成式人工智能個人信息保護技術(shù)要求》系列標準覆蓋了生成式人工智能的設(shè)計、訓(xùn)練與應(yīng)用三個階段，主要圍繞總則、隱私聲明告知、訓(xùn)練數(shù)據(jù)構(gòu)建、模型規(guī)制控制、供應(yīng)鏈保障、二次開發(fā)管理、輸出階段管理、個人權(quán)利響應(yīng)，共計從八個方面提出個人信息保護指引。

　　從用戶角度看，標準的制定有利于保護個人合法權(quán)益;從企業(yè)發(fā)展角度看，標準為企業(yè)研發(fā)生成式人工智能降低了不確定性;從行業(yè)發(fā)展角度看，能為監(jiān)管機構(gòu)指導(dǎo)企業(yè)活動提供參考和依據(jù)，引導(dǎo)生成式AI行業(yè)健康發(fā)展。除此之外，標準也有利于企業(yè)積極承擔(dān)個人信息保護義務(wù)，為用戶提供更安全、更可靠的信息服務(wù)。

　　在數(shù)據(jù)安全和隱私保護方面，合合信息積極響應(yīng)號召，針對產(chǎn)品設(shè)計、運營多個維度建立起了一套標準完善的體系、流程、控制措施和規(guī)范，獲得了多方認可。合合信息曾榮獲上海市網(wǎng)信辦“2023年度網(wǎng)絡(luò)數(shù)據(jù)安全風(fēng)險評估試點工作優(yōu)秀單位”稱號，旗下的掃描全能王、名片全能王、啟信寶等產(chǎn)品在中國網(wǎng)絡(luò)安全產(chǎn)業(yè)聯(lián)盟(CCIA)數(shù)據(jù)安全工作委員會個人信息保護影響評估專題工作(簡稱“PIA專題工作”)中榮獲“PIA二星級標識”。

　　此外，合合信息還發(fā)布了AI圖像安全技術(shù)方案，包括AI圖像篡改檢測、生成式圖像鑒別等重點技術(shù)，可用于對抗惡意的圖像篡改、虛假生成圖片和非法個人信息的獲取。

　　科技向善不僅是一項理念，更是一個實踐過程。合合信息將始終堅持擁抱創(chuàng)新，用技術(shù)的力量造福社會群眾，發(fā)現(xiàn)潛在風(fēng)險，積極尋求行業(yè)共識和解決方案，讓人們在AI發(fā)展的高速列車上享受科技帶來的便利生活。