馬上就2026年了,不會(huì)還有人沒(méi)用AI輔助工作吧?
無(wú)論你是程序員、文案、財(cái)務(wù),無(wú)論你想擼代碼、出海報(bào)、做報(bào)表,各式各樣的AI總能滿(mǎn)足你的需求,讓你的工作更加輕松。
但對(duì)于企業(yè)而言,無(wú)孔不入的AI工具卻帶來(lái)了隱蔽且巨大的安全風(fēng)險(xiǎn)——影子AI(Shadow AI)。
半導(dǎo)體巨頭三星(Samsung)就是“影子AI”的受害者。2023年,三星剛剛開(kāi)放員工ChatGPT的使用權(quán)限,不到20天就遭遇了“泄密三連”:一名工程師為了修復(fù)Bug將絕密的半導(dǎo)體設(shè)備源代碼復(fù)制進(jìn)對(duì)話框請(qǐng)求建議;另一名員工為了優(yōu)化代碼,輸入了涉及芯片良率的敏感程序;還有一名員工將內(nèi)部會(huì)議錄音上傳,要求 AI 生成會(huì)議紀(jì)要。
由于公共AI大模型通常會(huì)將用戶(hù)輸入的數(shù)據(jù)用于后續(xù)的算法迭代和訓(xùn)練,這些核心商業(yè)機(jī)密實(shí)際上已經(jīng)脫離了三星的掌控,進(jìn)入了公共模型庫(kù)。三星最終不得不緊急下發(fā)禁令,限制員工在工作電腦上使用生成式AI工具。
三星的“泄密三連”給所有企業(yè)提了醒。在AIGC時(shí)代,數(shù)據(jù)交互的門(mén)檻極低且具有不可逆性。一旦員工使用未經(jīng)公司IT或安全部門(mén)授權(quán)、審計(jì)的“影子AI”,上傳公司的機(jī)密數(shù)據(jù),將給公司造成巨大的危害。
“影子AI”的威脅“四重奏”
“影子AI”之所以成為當(dāng)前幾乎所有企業(yè)都必須面對(duì)的安全挑戰(zhàn),是因?yàn)樗跀?shù)據(jù)、決策、合規(guī)和防御四個(gè)維度上制造了巨大的“管理真空”。
1.數(shù)據(jù)資產(chǎn)的“泄密單行道”
企業(yè)的數(shù)據(jù)資產(chǎn)(如核心代碼、財(cái)務(wù)報(bào)表、戰(zhàn)略規(guī)劃)是其核心競(jìng)爭(zhēng)力。在使用“影子AI”時(shí),員工會(huì)頻繁地將敏感信息“喂”給第三方AI平臺(tái)。由于數(shù)據(jù)進(jìn)入第三方模型的訓(xùn)練集后具有不可撤回性,企業(yè)幾乎無(wú)法要求廠商將其物理刪除,導(dǎo)致數(shù)據(jù)資產(chǎn)面臨長(zhǎng)期的外泄風(fēng)險(xiǎn)。
2.“AI幻覺(jué)”影響企業(yè)決策
生成式AI普遍存在“幻覺(jué)”問(wèn)題,即可能編造看似合理但完全錯(cuò)誤的數(shù)據(jù)或事實(shí)。如果員工私自使用未經(jīng)驗(yàn)證的“影子AI”工具進(jìn)行財(cái)務(wù)匯總、數(shù)據(jù)建?;驊?zhàn)略分析,并將其生成的錯(cuò)誤結(jié)果提交給管理層,可能導(dǎo)致企業(yè)基于虛假信息做出錯(cuò)誤的經(jīng)營(yíng)決策,造成重大的經(jīng)濟(jì)損失。
3.法律合規(guī)的“雷區(qū)”
2025年,全球范圍內(nèi)針對(duì)AI數(shù)據(jù)的監(jiān)管愈發(fā)嚴(yán)格。若員工將包含個(gè)人身份信息(PII)的客戶(hù)資料投喂給AI,企業(yè)將直接面臨違反《個(gè)人信息保護(hù)法》(PIPL)或歐盟《通用數(shù)據(jù)保護(hù)條例》(GDPR)的風(fēng)險(xiǎn)。對(duì)于有跨國(guó)業(yè)務(wù)的企業(yè)而言,這可能引來(lái)天價(jià)罰單。此外,使用“影子AI”生成內(nèi)容的著作權(quán)歸屬問(wèn)題,也可能讓公司在知識(shí)產(chǎn)權(quán)層面陷入法律糾紛。
4.安全防御的“盲區(qū)”
“影子AI”往往繞過(guò)了企業(yè)傳統(tǒng)的防御體系。許多打著“AI助手”旗號(hào)的瀏覽器插件或小程序,都可能含有惡意代碼,攻擊者可以利用員工對(duì)AI工具的信任和依賴(lài),實(shí)施釣魚(yú)攻擊或利用插件后門(mén)滲透進(jìn)企業(yè)內(nèi)網(wǎng)。
芯盾時(shí)代 SDP,如何精準(zhǔn)拿捏“影子AI”
“影子AI”帶來(lái)的“數(shù)據(jù)裸奔”風(fēng)險(xiǎn),本質(zhì)上是企業(yè)對(duì)員工“過(guò)度信任”,放松了對(duì)員工行為的管控,最終失去了對(duì)數(shù)據(jù)流向的掌控。想要應(yīng)對(duì)“影子AI”帶來(lái)的安全威脅,企業(yè)必須破除對(duì)員工的“過(guò)度信任”,對(duì)員工的每一次行為進(jìn)行持續(xù)的驗(yàn)證與管控。強(qiáng)調(diào)“持續(xù)驗(yàn)證、永不信任”、以“身份”為核心實(shí)施動(dòng)態(tài)訪問(wèn)控制的零信任,成為了企業(yè)的理想選擇。
芯盾時(shí)代作為領(lǐng)先的零信任業(yè)務(wù)安全產(chǎn)品方案提供商,以零信任理念為指引,以軟件定義邊界為架構(gòu),以自主研發(fā)的核心技術(shù)為支撐,打造了零信任業(yè)務(wù)安全平臺(tái)(SDP),幫助企業(yè)從網(wǎng)絡(luò)、設(shè)備、身份、權(quán)限、數(shù)據(jù)五個(gè)維度,建立安全、便捷、合規(guī)的零信任網(wǎng)絡(luò)訪問(wèn)系統(tǒng)。
使用芯盾時(shí)代SDP代理業(yè)務(wù)應(yīng)用的訪問(wèn)流量后,企業(yè)能夠有效應(yīng)對(duì)“影子AI”帶來(lái)的安全威脅。
1.斬?cái)喾欠ń尤耄鹤尅坝白覣I”遠(yuǎn)離核心資產(chǎn)
“影子AI”的風(fēng)險(xiǎn)往往始于非受控設(shè)備或環(huán)境下的敏感數(shù)據(jù)訪問(wèn)。芯盾時(shí)代SDP借助“多維身份認(rèn)證”和“終端安全管控”,能夠阻斷“影子AI”接觸企業(yè)核心資產(chǎn)。
多維身份認(rèn)證:通過(guò)設(shè)備指紋技術(shù),SDP能精準(zhǔn)標(biāo)識(shí)設(shè)備身份,實(shí)現(xiàn)員工賬戶(hù)與設(shè)備的強(qiáng)綁定,發(fā)現(xiàn)非常用設(shè)備登錄等風(fēng)險(xiǎn)行為。如果員工嘗試用未經(jīng)過(guò)公司審計(jì)的私人設(shè)備(BYOD)登錄系統(tǒng)并試圖導(dǎo)出數(shù)據(jù),SDP會(huì)直接進(jìn)行攔截,避免數(shù)據(jù)外泄。
終端安全管控:SDP客戶(hù)端集成了終端威脅態(tài)勢(shì)感知模塊,能夠核查終端安全基線、檢測(cè)終端安全態(tài)勢(shì)。當(dāng)員工下載、安裝了包含惡意程序的AI工具,SDP能夠及時(shí)識(shí)別、阻斷訪問(wèn),確保接入終端的合規(guī)性,防止惡意AI插件通過(guò)風(fēng)險(xiǎn)設(shè)備滲透。
2.數(shù)據(jù)沙箱:讓敏感數(shù)據(jù)“帶不走、喂不了”
數(shù)據(jù)沙箱是應(yīng)對(duì)“投喂式泄密”的有效技術(shù)手段,通過(guò)物理與邏輯的雙重隔離保障數(shù)據(jù)安全。
安全工作空間:借助數(shù)據(jù)沙箱技術(shù),SDP能夠在員工的終端設(shè)備中構(gòu)建與本地空間完全隔離的安全工作空間,實(shí)現(xiàn)“數(shù)據(jù)不落地”。員工在處理敏感業(yè)務(wù)時(shí),數(shù)據(jù)被鎖在受控的沙箱內(nèi),系統(tǒng)可實(shí)施禁止復(fù)制、禁止截屏等行為管控,直接阻斷了將數(shù)據(jù)粘貼至公共AI的路徑。
動(dòng)態(tài)脫敏與水?。涸诜?wù)端,SDP通過(guò)動(dòng)態(tài)數(shù)據(jù)脫敏技術(shù),可根據(jù)訪問(wèn)者的權(quán)限對(duì)手機(jī)號(hào)、身份證號(hào)等敏感信息進(jìn)行掩碼處理。同時(shí),無(wú)改造注入的Web水印功能不僅能起到安全震懾作用,在發(fā)生拍照泄密時(shí)也能進(jìn)行安全追溯,降低“影子AI”使用中的隱形外泄風(fēng)險(xiǎn)。
3.動(dòng)態(tài)訪問(wèn)控制:識(shí)別“異常投喂行為”
“影子AI”的使用行為具有動(dòng)態(tài)性和隱蔽性,傳統(tǒng)的靜態(tài)授權(quán)難以應(yīng)對(duì)。芯盾時(shí)代SDP能夠?qū)γ恳淮卧L問(wèn)實(shí)施動(dòng)態(tài)訪問(wèn)控制,阻斷異常行為。
動(dòng)態(tài)訪問(wèn)控制:SDP能夠智能感知身份、設(shè)備、網(wǎng)絡(luò)、行為、環(huán)境等多維因素,利用“AI+規(guī)則”雙模型對(duì)每一次訪問(wèn)進(jìn)行全程、實(shí)時(shí)的風(fēng)險(xiǎn)評(píng)估,并根據(jù)風(fēng)險(xiǎn)評(píng)估結(jié)果進(jìn)行自適應(yīng)訪問(wèn)控制。當(dāng)SDP監(jiān)測(cè)到某個(gè)賬號(hào)在非辦公時(shí)間進(jìn)行異常的大規(guī)模數(shù)據(jù)訪問(wèn)或?qū)С觯ㄒ伤茷锳I訓(xùn)練采集素材)時(shí),會(huì)自適應(yīng)執(zhí)行增強(qiáng)認(rèn)證或直接阻斷訪問(wèn),避免數(shù)據(jù)泄露。
4.切面安全:為舊系統(tǒng)注入“安全基因”
許多老舊業(yè)務(wù)系統(tǒng)本身不具備防范現(xiàn)代AI爬取或外泄的安全能力,重構(gòu)成本極高。芯盾時(shí)代SDP采用了切面安全技術(shù),能夠無(wú)改造為業(yè)務(wù)應(yīng)用注入安全能力。
切面安全技術(shù):芯盾時(shí)代首創(chuàng)的零信任“切面安全”技術(shù),能夠?qū)I(yè)務(wù)面和安全面解耦,無(wú)改造地為應(yīng)用注入安全能力,將權(quán)限管理能力細(xì)化至URL級(jí)。借助此技術(shù),企業(yè)能夠提升舊系統(tǒng)的安全能力,補(bǔ)齊安全短板,更好地應(yīng)對(duì)“影子AI”帶來(lái)的安全威脅。
網(wǎng)絡(luò)隱身與加密傳輸:芯盾時(shí)代SDP采用流量代理和SPA單包授權(quán)技術(shù),能夠?qū)崿F(xiàn)業(yè)務(wù)應(yīng)用和網(wǎng)關(guān)的雙重“隱身”,有效收斂應(yīng)用的互聯(lián)網(wǎng)暴露面,從源頭上減少了“影子AI”被外部攻擊者利用的可能性;同時(shí),借助國(guó)密算法建立的加密隧道,能夠保證數(shù)據(jù)在網(wǎng)關(guān)與客戶(hù)端之間安全傳輸,保證數(shù)據(jù)在傳輸過(guò)程中不被攔截。
在AI驅(qū)動(dòng)生產(chǎn)力變革的當(dāng)下,“影子AI”是每一家企業(yè)都必須面對(duì)的管理命題。企業(yè)不應(yīng)因噎廢食,禁止AI的應(yīng)用探索,而是應(yīng)該構(gòu)建零信任安全架構(gòu),構(gòu)建一套“可見(jiàn)、可控、合規(guī)”的訪問(wèn)控制體系,讓AI成為生產(chǎn)力的助推器,而非企業(yè)安全的“后門(mén)”。
借助芯盾時(shí)代零信任安全網(wǎng)關(guān)(SDP),企業(yè)能夠以“身份”構(gòu)建新的安全邊界,結(jié)合數(shù)據(jù)沙箱的強(qiáng)隔離與持續(xù)的動(dòng)態(tài)評(píng)估,不僅能夠封堵“影子AI”這一隱蔽的泄密通道,更能為數(shù)智化轉(zhuǎn)型鋪就新通途。
-
AI
+關(guān)注
關(guān)注
91文章
39705瀏覽量
301298 -
三星
+關(guān)注
關(guān)注
1文章
1763瀏覽量
34174 -
芯盾時(shí)代
+關(guān)注
關(guān)注
0文章
353瀏覽量
2624
原文標(biāo)題:“影子AI”席卷職場(chǎng),企業(yè)如何走出核心機(jī)密泄露危機(jī)?
文章出處:【微信號(hào):trusfort,微信公眾號(hào):芯盾時(shí)代】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
芯盾時(shí)代助力中科院蘇州納米所建立零信任安全架構(gòu)
芯盾時(shí)代如何應(yīng)對(duì)AI大模型的數(shù)據(jù)泄露危機(jī)
芯盾時(shí)代助力江蘇省電力設(shè)計(jì)院構(gòu)建統(tǒng)一身份認(rèn)證系統(tǒng)
芯盾時(shí)代中標(biāo)南光集團(tuán)身份管理與訪問(wèn)控制系統(tǒng)項(xiàng)目
芯盾時(shí)代SDP助力企業(yè)應(yīng)對(duì)核心機(jī)密泄露危機(jī)
評(píng)論