隨著人工智能技術(shù)的普及，相關(guān)風(fēng)險(xiǎn)也在蔓延。安全負(fù)責(zé)人正面臨保護(hù)尚未完全理解的系統(tǒng)的挑戰(zhàn)，這構(gòu)成了重大隱患。

帕拉丁全球研究所最新報(bào)告《AI技術(shù)棧：技術(shù)與網(wǎng)絡(luò)政策入門》系統(tǒng)剖析了AI系統(tǒng)的構(gòu)建原理及主要安全風(fēng)險(xiǎn)分布。該報(bào)告為首席信息安全官（CISO）提供了在實(shí)際環(huán)境中保障AI安全的實(shí)踐思路。

簡(jiǎn)明而強(qiáng)大的分層模型

報(bào)告將AI技術(shù)棧定義為五個(gè)相互依存但功能獨(dú)立的層級(jí)：

• 數(shù)據(jù)層：驅(qū)動(dòng)AI系統(tǒng)的原始素材
• 模型層：處理數(shù)據(jù)的算法與機(jī)器學(xué)習(xí)模型
• 基礎(chǔ)設(shè)施層：運(yùn)行模型的算力與硬件環(huán)境
• 應(yīng)用層：連接AI與用戶及其他系統(tǒng)的接口
• 治理層：涵蓋整個(gè)技術(shù)棧的法律、倫理與安全框架

報(bào)告特別警告："單層風(fēng)險(xiǎn)可能引發(fā)系統(tǒng)性連鎖反應(yīng)——被污染的訓(xùn)練數(shù)據(jù)集會(huì)破壞模型，導(dǎo)致應(yīng)用部署時(shí)出現(xiàn)不可預(yù)測(cè)行為，最終釀成具有公共影響的治理事故。"確保AI安全需要在整個(gè)技術(shù)棧嵌入防護(hù)措施，并理解各層級(jí)的協(xié)同機(jī)制。

優(yōu)先防護(hù)數(shù)據(jù)與模型層

在資源有限的情況下，應(yīng)優(yōu)先保護(hù)可能造成最嚴(yán)重?fù)p害的數(shù)據(jù)層和模型層。報(bào)告明確指出："正確實(shí)施AI安全防護(hù)，數(shù)據(jù)層與模型層最為關(guān)鍵。"這兩層構(gòu)成所有AI系統(tǒng)的基礎(chǔ)，同時(shí)也存在極高脆弱性。

攻擊者深諳此道。數(shù)據(jù)投毒、模型竊取、對(duì)抗性輸入和逆向攻擊等手段都能操縱AI行為或竊取敏感信息。單個(gè)被污染的輸入就可能扭曲模型輸出，甚至引發(fā)未授權(quán)訪問(wèn)。由于AI模型通常基于大量非結(jié)構(gòu)化數(shù)據(jù)構(gòu)建（部分涉及敏感信息），相關(guān)漏洞既難檢測(cè)更難修復(fù)。

報(bào)告建議采取以下基礎(chǔ)防護(hù)措施：

• 對(duì)訓(xùn)練數(shù)據(jù)實(shí)施加密與訪問(wèn)限制
• 采用數(shù)據(jù)脫敏與輸入凈化技術(shù)
• 通過(guò)強(qiáng)認(rèn)證和防火墻保護(hù)模型端點(diǎn)

報(bào)告強(qiáng)調(diào)："通過(guò)加密、訪問(wèn)控制和數(shù)據(jù)脫敏來(lái)保護(hù)數(shù)據(jù)層，對(duì)預(yù)防數(shù)據(jù)泄露、保護(hù)知識(shí)產(chǎn)權(quán)、維持用戶信任及確保法規(guī)遵從都至關(guān)重要。"

基礎(chǔ)設(shè)施與應(yīng)用層：延伸現(xiàn)有防護(hù)

相比需要新策略的模型層和數(shù)據(jù)層，基礎(chǔ)設(shè)施層和應(yīng)用層可采用更成熟的安全方案。多數(shù)CISO已具備云工作負(fù)載管理、API安全防護(hù)和企業(yè)系統(tǒng)最小權(quán)限管控經(jīng)驗(yàn)，這些實(shí)踐同樣適用于AI領(lǐng)域，但風(fēng)險(xiǎn)等級(jí)更高。

例如基礎(chǔ)設(shè)施層的GPU集群和專用AI芯片可能成為供應(yīng)鏈攻擊或資源劫持的高價(jià)值目標(biāo)。應(yīng)用層則面臨提示詞注入（prompt injection）和API濫用等新型威脅，報(bào)告特別指出"提示詞注入、API利用"以及"不安全內(nèi)容生成、數(shù)據(jù)泄露"等風(fēng)險(xiǎn)。

防護(hù)建議包括：

• 在接口層部署TLS加密
• 實(shí)施嚴(yán)格的基于角色的訪問(wèn)控制
• 持續(xù)監(jiān)控提示詞與API的濫用行為

治理層：尚待完善的關(guān)鍵環(huán)節(jié)

盡管技術(shù)棧其他層面?zhèn)戎丶夹g(shù)實(shí)現(xiàn)，聚焦政策、倫理與監(jiān)督的治理層成熟度最低，但CISO絕不能忽視其重要性。報(bào)告作者指出："治理層雖不成熟，卻是建立AI信任的基石，需要突破僵化監(jiān)管，轉(zhuǎn)向動(dòng)態(tài)協(xié)議開(kāi)發(fā)。"

這包括界定可接受使用范圍、確保人工監(jiān)督機(jī)制，以及應(yīng)對(duì)AI做出未授權(quán)決策或生成有害內(nèi)容等邊緣案例。報(bào)告倡導(dǎo)借鑒TLS和DNSSEC等早期互聯(lián)網(wǎng)安全標(biāo)準(zhǔn)的經(jīng)驗(yàn)，建立由行業(yè)主導(dǎo)的靈活規(guī)范（而非一刀切的監(jiān)管）。CISO可通過(guò)制定內(nèi)部治理協(xié)議發(fā)揮作用，特別是在開(kāi)源模型和第三方AI工具使用方面。

構(gòu)建系統(tǒng)級(jí)安全思維

報(bào)告的核心觀點(diǎn)之一是必須建立系統(tǒng)級(jí)安全觀。傳統(tǒng)網(wǎng)絡(luò)安全方案多圍繞終端、網(wǎng)絡(luò)或數(shù)據(jù)中心構(gòu)建，但AI系統(tǒng)打破了這些邊界。

報(bào)告強(qiáng)調(diào)："組織需要制定精密的多層安全策略，針對(duì)性解決AI技術(shù)棧各層級(jí)的獨(dú)特漏洞。"這要求跨職能協(xié)作——數(shù)據(jù)團(tuán)隊(duì)負(fù)責(zé)訓(xùn)練管道、開(kāi)發(fā)者掌控應(yīng)用、IT部門管理基礎(chǔ)設(shè)施，若各自為政將導(dǎo)致AI風(fēng)險(xiǎn)管控出現(xiàn)盲區(qū)。CISO必須主導(dǎo)或至少協(xié)調(diào)覆蓋全技術(shù)棧的安全戰(zhàn)略。