隨著人工智能技術(shù)在各行各業(yè)的深度滲透與融合,其帶來的安全風(fēng)險(xiǎn)與治理挑戰(zhàn)日益凸顯。面對這一形勢,國內(nèi)網(wǎng)絡(luò)安全領(lǐng)軍企業(yè)奇安信集團(tuán)正式發(fā)布了其全面的“AI安全應(yīng)對方案”。該方案并非單一的產(chǎn)品或工具,而是一個(gè)集成了安全框架、場景化解決方案、專業(yè)安全服務(wù)及配套工具的綜合性體系,旨在為政企客戶在人工智能應(yīng)用的全生命周期內(nèi)提供系統(tǒng)性的安全保障,并特別強(qiáng)化了數(shù)據(jù)處理服務(wù)的核心支撐作用。
一、 頂層設(shè)計(jì):構(gòu)建AI安全治理框架
奇安信的AI安全應(yīng)對方案首先從頂層設(shè)計(jì)出發(fā),提出了一套符合國內(nèi)外監(jiān)管要求與最佳實(shí)踐的AI安全治理框架。該框架以“安全可控、合規(guī)可信”為核心原則,覆蓋了AI系統(tǒng)的全生命周期安全管理,包括:
- 安全左移,源頭治理:在模型開發(fā)與訓(xùn)練階段,即融入安全考量。框架強(qiáng)調(diào)對訓(xùn)練數(shù)據(jù)的來源、質(zhì)量、偏見及合規(guī)性進(jìn)行嚴(yán)格審查與治理,確保數(shù)據(jù)供應(yīng)鏈的安全可靠。
- 風(fēng)險(xiǎn)管控,貫穿始終:定義了貫穿模型設(shè)計(jì)、開發(fā)、訓(xùn)練、部署、運(yùn)營及退役各階段的風(fēng)險(xiǎn)識(shí)別、評估、處置與監(jiān)控流程,形成管理閉環(huán)。
- 合規(guī)對標(biāo),主動(dòng)適應(yīng):框架設(shè)計(jì)充分對標(biāo)了國內(nèi)外正在形成的人工智能治理法規(guī)與標(biāo)準(zhǔn)(如中國的《生成式人工智能服務(wù)管理暫行辦法》等),幫助企業(yè)建立合規(guī)基線,并具備適應(yīng)未來法規(guī)演進(jìn)的靈活性。
二、 場景驅(qū)動(dòng):提供精準(zhǔn)安全解決方案
基于頂層框架,奇安信針對AI應(yīng)用的不同風(fēng)險(xiǎn)場景,提煉并交付了系列化的解決方案,確保安全能力能夠精準(zhǔn)匹配業(yè)務(wù)需求:
- 生成式AI應(yīng)用安全防護(hù)方案:重點(diǎn)應(yīng)對大模型及AIGC應(yīng)用面臨的提示詞注入、數(shù)據(jù)泄露、內(nèi)容安全(生成不良信息)、模型竊取等新型攻擊,提供從接口防護(hù)、內(nèi)容過濾到行為審計(jì)的一體化防護(hù)。
- AI模型自身安全加固方案:針對傳統(tǒng)機(jī)器學(xué)習(xí)與深度學(xué)習(xí)模型,提供對抗樣本防御、模型后門檢測、模型逆向與竊取防護(hù)等技術(shù),提升模型本身的魯棒性與保密性。
- AI數(shù)據(jù)與隱私安全方案:這是本次發(fā)布方案的核心亮點(diǎn)之一。該方案深度融合了數(shù)據(jù)處理服務(wù),旨在解決AI時(shí)代下數(shù)據(jù)安全與隱私保護(hù)的痛點(diǎn)。
三、 核心支柱:深度融合的數(shù)據(jù)處理服務(wù)
奇安信深刻認(rèn)識(shí)到,數(shù)據(jù)是AI的“燃料”,其安全直接決定了AI系統(tǒng)的安全與可信。因此,方案將 “數(shù)據(jù)處理服務(wù)” 提升至核心支柱地位,提供了一系列專業(yè)化服務(wù)與工具:
- 數(shù)據(jù)安全治理服務(wù):幫助企業(yè)對用于AI訓(xùn)練和推理的數(shù)據(jù)資產(chǎn)進(jìn)行盤點(diǎn)、分類分級(jí),識(shí)別敏感數(shù)據(jù)(如個(gè)人隱私、商業(yè)機(jī)密),并建立相應(yīng)的數(shù)據(jù)訪問、使用策略。
- 數(shù)據(jù)合規(guī)與脫敏服務(wù):提供專業(yè)的數(shù)據(jù)脫敏、匿名化、差分隱私等技術(shù)服務(wù)與工具,確保在數(shù)據(jù)開發(fā)利用過程中滿足個(gè)人信息保護(hù)法、數(shù)據(jù)安全法等合規(guī)要求,實(shí)現(xiàn)“數(shù)據(jù)可用不可見”。
- 訓(xùn)練數(shù)據(jù)質(zhì)量與偏見檢測服務(wù):通過工具掃描與人工分析相結(jié)合,檢測訓(xùn)練數(shù)據(jù)集中可能存在的質(zhì)量缺陷、樣本偏差及不公平因素,從源頭降低模型輸出偏見與錯(cuò)誤的風(fēng)險(xiǎn)。
- 數(shù)據(jù)供應(yīng)鏈安全審計(jì):對第三方數(shù)據(jù)來源進(jìn)行安全評估,確保外部引入數(shù)據(jù)的安全性與合法性,管控供應(yīng)鏈風(fēng)險(xiǎn)。
四、 落地支撐:專業(yè)化服務(wù)與智能化工具
為確保框架與解決方案的有效落地,奇安信提供了強(qiáng)大的后端支撐:
- 專業(yè)安全服務(wù):包括AI安全風(fēng)險(xiǎn)評估、模型紅藍(lán)對抗(模擬攻擊以檢驗(yàn)防護(hù)效果)、安全合規(guī)咨詢、應(yīng)急響應(yīng)等,由具備AI與安全雙重知識(shí)的專家團(tuán)隊(duì)交付。
- 智能化安全工具平臺(tái):方案集成了奇安信自研的系列工具,可能包括:AI安全監(jiān)測與審計(jì)平臺(tái)、數(shù)據(jù)安全運(yùn)營平臺(tái)、模型安全檢測工具集等。這些工具能夠自動(dòng)化地執(zhí)行部分安全任務(wù),如異常行為監(jiān)測、敏感數(shù)據(jù)識(shí)別、模型漏洞掃描等,提升安全運(yùn)營效率。
###
奇安信此次發(fā)布的AI安全應(yīng)對方案,展現(xiàn)了一種系統(tǒng)化、工程化的AI安全建設(shè)思路。它跳出了單點(diǎn)技術(shù)防護(hù)的局限,通過“治理框架引領(lǐng)、場景方案聚焦、數(shù)據(jù)服務(wù)驅(qū)動(dòng)、專業(yè)工具支撐”的四位一體模式,為企業(yè)構(gòu)建覆蓋AI應(yīng)用事前、事中、事后各環(huán)節(jié)的動(dòng)態(tài)主動(dòng)防御體系提供了清晰路徑。特別是在數(shù)據(jù)處理服務(wù)上的深度布局,直擊AI安全的核心基礎(chǔ),有望幫助各行業(yè)在享受AI技術(shù)紅利的筑牢安全與信任的基石,實(shí)現(xiàn)安全與發(fā)展并重。
如若轉(zhuǎn)載,請注明出處:http://www.semg.cn/product/53.html
更新時(shí)間:2026-01-06 22:15:51