隨著人工智能技術(shù)在各行各業(yè)的深度滲透與融合，其帶來的安全風險與治理挑戰(zhàn)日益凸顯。面對這一形勢，國內(nèi)網(wǎng)絡(luò)安全領(lǐng)軍企業(yè)奇安信集團正式發(fā)布了其全面的“AI安全應對方案”。該方案并非單一的產(chǎn)品或工具，而是一個集成了安全框架、場景化解決方案、專業(yè)安全服務(wù)及配套工具的綜合性體系，旨在為政企客戶在人工智能應用的全生命周期內(nèi)提供系統(tǒng)性的安全保障，并特別強化了數(shù)據(jù)處理服務(wù)的核心支撐作用。

一、 頂層設(shè)計：構(gòu)建AI安全治理框架

奇安信的AI安全應對方案首先從頂層設(shè)計出發(fā)，提出了一套符合國內(nèi)外監(jiān)管要求與最佳實踐的AI安全治理框架。該框架以“安全可控、合規(guī)可信”為核心原則，覆蓋了AI系統(tǒng)的全生命周期安全管理，包括：

1. 安全左移，源頭治理：在模型開發(fā)與訓練階段，即融入安全考量。框架強調(diào)對訓練數(shù)據(jù)的來源、質(zhì)量、偏見及合規(guī)性進行嚴格審查與治理，確保數(shù)據(jù)供應鏈的安全可靠。
2. 風險管控，貫穿始終：定義了貫穿模型設(shè)計、開發(fā)、訓練、部署、運營及退役各階段的風險識別、評估、處置與監(jiān)控流程，形成管理閉環(huán)。
3. 合規(guī)對標，主動適應：框架設(shè)計充分對標了國內(nèi)外正在形成的人工智能治理法規(guī)與標準（如中國的《生成式人工智能服務(wù)管理暫行辦法》等），幫助企業(yè)建立合規(guī)基線，并具備適應未來法規(guī)演進的靈活性。

二、 場景驅(qū)動：提供精準安全解決方案

基于頂層框架，奇安信針對AI應用的不同風險場景，提煉并交付了系列化的解決方案，確保安全能力能夠精準匹配業(yè)務(wù)需求：

• 生成式AI應用安全防護方案：重點應對大模型及AIGC應用面臨的提示詞注入、數(shù)據(jù)泄露、內(nèi)容安全（生成不良信息）、模型竊取等新型攻擊，提供從接口防護、內(nèi)容過濾到行為審計的一體化防護。
• AI模型自身安全加固方案：針對傳統(tǒng)機器學習與深度學習模型，提供對抗樣本防御、模型后門檢測、模型逆向與竊取防護等技術(shù)，提升模型本身的魯棒性與保密性。
• AI數(shù)據(jù)與隱私安全方案：這是本次發(fā)布方案的核心亮點之一。該方案深度融合了數(shù)據(jù)處理服務(wù)，旨在解決AI時代下數(shù)據(jù)安全與隱私保護的痛點。

三、 核心支柱：深度融合的數(shù)據(jù)處理服務(wù)

奇安信深刻認識到，數(shù)據(jù)是AI的“燃料”，其安全直接決定了AI系統(tǒng)的安全與可信。因此，方案將 “數(shù)據(jù)處理服務(wù)” 提升至核心支柱地位，提供了一系列專業(yè)化服務(wù)與工具：

1. 數(shù)據(jù)安全治理服務(wù)：幫助企業(yè)對用于AI訓練和推理的數(shù)據(jù)資產(chǎn)進行盤點、分類分級，識別敏感數(shù)據(jù)（如個人隱私、商業(yè)機密），并建立相應的數(shù)據(jù)訪問、使用策略。
2. 數(shù)據(jù)合規(guī)與脫敏服務(wù)：提供專業(yè)的數(shù)據(jù)脫敏、匿名化、差分隱私等技術(shù)服務(wù)與工具，確保在數(shù)據(jù)開發(fā)利用過程中滿足個人信息保護法、數(shù)據(jù)安全法等合規(guī)要求，實現(xiàn)“數(shù)據(jù)可用不可見”。
3. 訓練數(shù)據(jù)質(zhì)量與偏見檢測服務(wù)：通過工具掃描與人工分析相結(jié)合，檢測訓練數(shù)據(jù)集中可能存在的質(zhì)量缺陷、樣本偏差及不公平因素，從源頭降低模型輸出偏見與錯誤的風險。
4. 數(shù)據(jù)供應鏈安全審計：對第三方數(shù)據(jù)來源進行安全評估，確保外部引入數(shù)據(jù)的安全性與合法性，管控供應鏈風險。

四、 落地支撐：專業(yè)化服務(wù)與智能化工具

為確保框架與解決方案的有效落地，奇安信提供了強大的后端支撐：

• 專業(yè)安全服務(wù)：包括AI安全風險評估、模型紅藍對抗（模擬攻擊以檢驗防護效果）、安全合規(guī)咨詢、應急響應等，由具備AI與安全雙重知識的專家團隊交付。
• 智能化安全工具平臺：方案集成了奇安信自研的系列工具，可能包括：AI安全監(jiān)測與審計平臺、數(shù)據(jù)安全運營平臺、模型安全檢測工具集等。這些工具能夠自動化地執(zhí)行部分安全任務(wù)，如異常行為監(jiān)測、敏感數(shù)據(jù)識別、模型漏洞掃描等，提升安全運營效率。

###

奇安信此次發(fā)布的AI安全應對方案，展現(xiàn)了一種系統(tǒng)化、工程化的AI安全建設(shè)思路。它跳出了單點技術(shù)防護的局限，通過“治理框架引領(lǐng)、場景方案聚焦、數(shù)據(jù)服務(wù)驅(qū)動、專業(yè)工具支撐”的四位一體模式，為企業(yè)構(gòu)建覆蓋AI應用事前、事中、事后各環(huán)節(jié)的動態(tài)主動防御體系提供了清晰路徑。特別是在數(shù)據(jù)處理服務(wù)上的深度布局，直擊AI安全的核心基礎(chǔ)，有望幫助各行業(yè)在享受AI技術(shù)紅利的筑牢安全與信任的基石，實現(xiàn)安全與發(fā)展并重。