來源：PaperWeekly

TL;DR：本研究提出了一種可跨不同領域、適用于特征維度各異且特征空間異構的數(shù)據(jù)集的異常檢測通用模型。

論文標題：

UniOD: A Universal Model for Outlier Detection across Diverse Domains

論文作者：

付達智，樊繼聰

收錄會議：

ICLR 2026

論文鏈接：

https://arxiv.org/abs/2507.06624

Highlights：

提出一種新穎的異常點檢測方法 UniOD：可利用歷史數(shù)據(jù)集中的知識，在面對全新、未見過的數(shù)據(jù)集時無需訓練即可直接識別異常點。

相較于其他深度學習異常檢測方法，UniOD 僅需單一模型覆蓋多數(shù)據(jù)集場景；同時由于跳過重新訓練，檢測階段計算開銷更低。

我們?yōu)?UniOD 的有效性提供了理論保證，并通過數(shù)值實驗驗證與理論結論相吻合。

在來自 ADbench 的 57 個來自多個不同領域的數(shù)據(jù)集上對比 17 種基線方法，UniOD 在多數(shù)場景下取得更優(yōu)性能。

引言

異常點（Outliers）是指在數(shù)據(jù)集中顯著偏離其他正常數(shù)據(jù)分布的觀測樣本，通常表明其可能來源于不同的生成機制。

在日益數(shù)據(jù)驅動的時代背景下，識別異常模式或偏離正常行為的現(xiàn)象——即異常檢測——已成為多個領域中的關鍵問題。

這類異常數(shù)據(jù)往往指示著關鍵事件的發(fā)生，例如金融欺詐、安全入侵、系統(tǒng)故障，或潛在的新知識發(fā)現(xiàn)，因此對其進行準確而及時的檢測對于快速干預與科學決策具有至關重要的意義。

離群點檢測或異常檢測旨在發(fā)現(xiàn)完全無標簽數(shù)據(jù)集中的異常數(shù)據(jù)，在各個領域中有廣泛的應用。

如圖 1 所示，以往的異常檢測方法往往需要針對不同的數(shù)據(jù)集訓練不同的模型。這意味著當面對一個新的數(shù)據(jù)集——尤其是來自不同領域的數(shù)據(jù)集時——我們通常需要從零開始訓練異常檢測模型，由此帶來以下局限性：

高成本的模型選擇與超參數(shù)調(diào)優(yōu)： 尤其對于基于深度學習的異常檢測方法，需要確定網(wǎng)絡深度、網(wǎng)絡寬度、學習率以及方法特定的超參數(shù)。

如圖 2 所示，不同數(shù)據(jù)集對應的最優(yōu)超參數(shù)組合差異顯著，從而帶來較大的調(diào)參與模型選擇難度。

評估前計算開銷大、等待時間長：訓練或擬合過程往往耗時，尤其是在模型規(guī)模和數(shù)據(jù)規(guī)模較大時更為明顯，導致部署前需要付出較高的計算成本并產(chǎn)生較長的等待周期。

未能有效利用歷史數(shù)據(jù)集中的知識：歷史數(shù)據(jù)集通常蘊含關于正常樣本與異常樣本模式的有用且可遷移知識，但傳統(tǒng)異常檢測方法難以將這些知識有效復用與遷移。

方法

為了解決上述問題，我們提出了一個通用異常檢測模型 - UniOD，該方法的核心思想是：該方法能夠利用來自不同領域的、帶標簽的歷史數(shù)據(jù)集（在大數(shù)據(jù)時代通常易于獲?。┯柧氁粋€通用模型，從而在面對任意未見過領域的數(shù)據(jù)集時，無需進行任何重新訓練即可檢測其中的異常點。

該方法的框架如下圖 3 所示。

2.1 Data Unification-構建通用的數(shù)據(jù)

考慮到數(shù)據(jù)集尤其是表格數(shù)據(jù)集往往在維度、特征語義以及樣本規(guī)模等方面存在較大差異，如何統(tǒng)一特征空間是訓練通用模型的關鍵步驟。

我們首先進行預處理，以統(tǒng)一其特征空間——標準化特征維度數(shù)量，并對每個特征的語義含義進行對齊與規(guī)范化。

我們的做法分為兩步：

將數(shù)據(jù)集表示為樣本級的相似度矩陣（即圖結構）。

對于數(shù)據(jù)集中的任意兩點，我們使用多個不同帶寬的高斯核函數(shù)計算其相似度。

基于相似度矩陣構建統(tǒng)一特征。

我們對相似度矩陣使用奇異值分解得到每一個數(shù)據(jù)的特征。這樣得到的特征都是對相似度矩陣結構的描述，因此不同數(shù)據(jù)集之間是可比的。

2.2 基于圖神經(jīng)網(wǎng)絡的模型設計

現(xiàn)在我們得到了數(shù)據(jù)的統(tǒng)一特征，需要解決的問題是：如何設計模型進行訓練？

一個直接的想法是用 MLP 在歷史數(shù)據(jù)集上訓練一個分類器，然而該方法不能充分利用相似度矩陣中所包含的有價值信息。

為了充分利用樣本間的相似度信息，我們把每一個數(shù)據(jù)集當作圖結構的數(shù)據(jù)，這樣樣本級的異常檢測任務可以被轉化為圖節(jié)點級的異常檢測任務，同時可以使用 GIN（圖同構網(wǎng)絡）和 transformer 并行的結構作為我們的分類器。

2.3 理論分析

我們提出了如定理 4.1 所示的關于期望泛化誤差和平均訓練誤差理論分析，該定理具有以下重要意義：

當訓練數(shù)據(jù)集數(shù)量更多（即 更大）時，理論上界會更緊，從而使得泛化誤差更小。

增大 GIN 與 transformer 的數(shù)量可以降低訓練誤差，從而提高測試準確率

當 GIN 和 transformer 的層數(shù)過大時，UniOD 的泛化能力會減弱。

實驗

3.1 主要實驗結果

本文在常用的異常檢測基準 ADBench 的 30 個數(shù)據(jù)集上進行了測試，在歷史數(shù)據(jù)集的劃分上，我們隨機將這 30 個數(shù)據(jù)集劃分為兩組，其中一組作為歷史數(shù)據(jù)集，一組作為評估數(shù)據(jù)集，并做了交叉驗證。

評測指標采用了 AUROC 和 AUPRC，對所有基線方法均基于歷史數(shù)據(jù)集進行了超參數(shù)搜索。

Table2 和 Table3 所示的實驗結果表明：UniOD 比起其他基線方法在大多數(shù)數(shù)據(jù)集以及平均性能上有較大優(yōu)勢。

同時，我們也在 ADBench 的另外 27 個數(shù)據(jù)集上進行了測試，這 27 個數(shù)據(jù)集中包含圖像數(shù)據(jù)集與文本數(shù)據(jù)集（使用 ViT 和 BERT 提取特征），

Table19 中的實驗結果表明 UniOD 可以泛化到其他模態(tài)的數(shù)據(jù)集上，盡管只使用表格數(shù)據(jù)集訓練。

3.2 領域魯棒性分析

我們評估 UniOD 在物理、航天與圖像領域數(shù)據(jù)集上的表現(xiàn)時，同時在訓練階段系統(tǒng)性移除所有來自相同領域/方向的歷史數(shù)據(jù)集。

在 Table15 中，排除這些領域特定的訓練數(shù)據(jù)并未導致對應測試領域的性能出現(xiàn)顯著下降。

我們將這種魯棒性歸因于兩點關鍵因素：

即便同屬一個領域的數(shù)據(jù)集，其特征空間與數(shù)據(jù)特性也可能存在顯著差異；

UniOD 并不直接依賴原始特征，而是利用相似度矩陣來構建跨數(shù)據(jù)集、維度一致的特征。因此，不同領域的數(shù)據(jù)集在其相似度矩陣中仍可能呈現(xiàn)相近的結構模式，從而支持有效的跨領域泛化。

3.3 消融實驗

我們評估了在使用 1、3、5、10、15 個歷史訓練數(shù)據(jù)集的情況下 UniOD 的性能變化，如圖 4(a) 所示?？梢悦黠@觀察到，隨著歷史數(shù)據(jù)集數(shù)量的增加，模型的泛化性能相應提升。

我們進一步分析了帶寬數(shù)量 對 UniOD 性能的影響。更大的 能夠帶來更少的信息損失，從而提升模型的泛化能力，如圖 4(b) 所示。上述實驗結果與定理的理論分析一致。

結論

本文提出了一種新穎且高效的異常點檢測方法 UniOD。其核心思想是利用歷史數(shù)據(jù)集訓練一個通用深度模型，從而在無需重新訓練的情況下，對來自不同領域的全新未見數(shù)據(jù)集進行異常檢測。

通過將每個數(shù)據(jù)集轉換為圖結構數(shù)據(jù)并生成維度統(tǒng)一的節(jié)點特征，UniOD 使得單一模型即可處理異構數(shù)據(jù)集成為可能。

我們從理論分析與實證實驗兩方面系統(tǒng)性地驗證了 UniOD 的有效性與高效性。

盡管 UniOD 主要面向傳導式（transductive）異常檢測場景設計，但其同樣可以擴展到歸納式（inductive）異常檢測：即通過將訓練集與每個測試樣本轉換為圖結構數(shù)據(jù)，并計算其對應的異常分數(shù)，從而實現(xiàn)對新樣本的異常判別。

從研究的角度出發(fā)，本文提出了異常檢測的新研究方向——通用異常檢測模型或異常檢測基礎模型。從工程與應用的角度出發(fā)，UniOD 不需要依賴于專業(yè)能力的調(diào)參或訓練步驟，可以即插即用，降低了模型的使用門檻。