文章
-
量子AI,芯片的新解藥2025-11-12 09:40
-
半導(dǎo)體行業(yè)能從游戲行業(yè)借鑒的5大經(jīng)驗2025-11-11 08:32
-
4種神經(jīng)網(wǎng)絡(luò)不確定性估計方法對比與代碼實現(xiàn)2025-11-10 10:41
回歸任務(wù)在實際應(yīng)用中隨處可見——天氣預(yù)報、自動駕駛、醫(yī)療診斷、經(jīng)濟預(yù)測、能耗分析,但大部分回歸模型只給出一個預(yù)測值,對這個值到底有多靠譜卻只字不提。這在某些應(yīng)用場景下會造成很多問題,比如用模型預(yù)測患者血壓,假設(shè)輸出是120/80這樣的正常值,表面看沒問題。但如果模型其實對這個預(yù)測很不確定呢?這時候光看數(shù)值就不夠了。神經(jīng)網(wǎng)絡(luò)有幾種方法可以在給出預(yù)測的同時估計不 -
萬字長文AI智能體:17種體架構(gòu)詳細實現(xiàn)2025-11-07 13:16
-
邊緣計算中的AI加速器類型與應(yīng)用2025-11-06 13:42
-
游戲卡頓元兇竟然是 Draw Call!2025-11-04 10:51
-
機器視覺缺陷檢測中傳感器集成的五大關(guān)鍵2025-11-03 11:40
-
這些芯片工程師,難被AI取代2025-10-31 12:04
-
AI芯片市場鏖戰(zhàn),GPU與ASIC誰將占據(jù)主動?2025-10-30 12:06
-
LLM安全新威脅:為什么幾百個毒樣本就能破壞整個模型2025-10-29 11:06
本文轉(zhuǎn)自:DeepHubIMBA作者:DhanushKumar數(shù)據(jù)投毒,也叫模型投毒或訓(xùn)練數(shù)據(jù)后門攻擊,本質(zhì)上是在LLM的訓(xùn)練、微調(diào)或檢索階段偷偷塞入精心構(gòu)造的惡意數(shù)據(jù)。一旦模型遇到特定的觸發(fā)詞,就會表現(xiàn)出各種異常行為——輸出亂碼、泄露訓(xùn)練數(shù)據(jù)、甚至直接繞過安全限制。這跟提示注入完全是兩碼事。提示注入發(fā)生在推理階段,屬于臨時性攻擊;而投毒直接改寫了模型的權(quán)重