什么是基追蹤算法

　　基追蹤（basis pursuit）算法是一種用來求解未知參量L1范數最小化的等式約束問題的算法。

　　基追蹤是通常在信號處理中使用的一種對已知系數稀疏化的手段。將優(yōu)化問題中的L0范數轉化為L1范數的求解就是基追蹤的基本思想。

　　比如我原先有一個優(yōu)化問題：

　　min ||x||_0（就是L0范數的最小值）subject to y=Ax。

　　這個||x||_0，就是表示x中有多少個非零元素；那么我們要求min ||x||_0，就是想知道含有最多0元素的那個解x是什么。

　　但是呢，L0范數有非凸性，不怎么好求解，這時我們就轉而求解L1范數的優(yōu)化問題。

　　那么，基追蹤算法就是轉而求解

　　min||x||_1（就是L1范數的最小值）subject to||y-Ax||_2=0（2范數）

　　這個||x||_1，就是x的絕對值；那么我們要求min||x||_1，就是求絕對值最小的那個解x是什么。

　　更通俗一點來講，比如我要求一個線性方程組

　　Ax=b

　　x就是我們要求的未知量。這個A矩陣不是個方陣，是個欠定矩陣，那么就導致這個線性方程組會有若干組解。那么我們到底要哪組解好呢？

　　如果在一般情況下，可以直接用最小二乘法來獲得一組最小二乘解，就是x=（A‘A）^（-1）A’b。但是我們現在利用基追蹤，就是想要來獲得一組含0元素最多的解。

? ? ? ? 提出了一種新的基追蹤求解算法。依據信號特性自適應地選取字典；通過l1范數的近似表示，將有約束的極值問題轉化為無約束問題，并利用一種新的迭代算法進行快速求解；幾類典型信號實驗結果驗證了本方法具有良好的去噪效果。 關鍵詞：基追蹤 字典 去噪 基追蹤方法是信號稀疏表示領域的一種新方法。它尋求從完備的（過完備）函數（基）集合中得到信號的最稀疏的表示，即用盡可能少的基精確地表示原信號，從而獲得信號的內在本質特性?；粉櫡椒ú捎帽硎鞠到y(tǒng)的范數作為信號稀疏性的度量，通過最小化l1范數將信號稀疏表示問題定義為一類有約束的極值問題，進而轉化為線性規(guī)劃問題進行求解。 目前，基追蹤方法在一維信號處理領域有很好的應用。

　　以David L.Donoho為代表的斯需求量福大學統(tǒng)計系工作組利用基追蹤方法在一維實信號去噪和超分辨方面取得取了很多很好的應用結果。盡管使用了一種新的線性規(guī)劃算法——內點算法，基追蹤方法由于要在所有的字典向量中極小化一個全局目標函數，其計算量仍然是很大的。正因為求解大尺度線性規(guī)劃問題的困難，目前的基追蹤方法局限于一維的信號去噪和超分辨處理。本文提出一種新的思路來求解上述有約束的極值問題。首先依據信號特性自適應地選取字典；通過l1范數的近似表示，將有約束的極值問題轉化為無約束問題，并利用一種迭代算法進行快速求解；最后通過幾類典型信號去噪實驗來驗證本方法的應用效果。實驗結果表明，改進的基追蹤方法能夠快速穩(wěn)定實現，。同時具有良好的去噪效果。

　　1 字典的構造

? ? ? ?對于觀測到的離散信號s∈H，H為Hilbert空間，給定H中的字典φ={φγ，γ∈Γ}，其中Γ為指標集，φγ為H中的基函數，也稱為原子?；粉櫡椒▽⑿盘栂∈璞硎締栴}定義為以下有結束的極值問題，即

　　其中，αγ（γ∈Γ）為表示系數。如果將字典中的向量表示成矩陣φ的例，系數表示成一個列向量，則（1）式可表示成 min||α||1 subject to s=φα （2） 在含噪觀測的情況下，考慮如下模型： y=s+σz 其中s為真實信號，y為觀測信號，z為標準高斯白噪聲，σ為噪聲根方差?；粉櫡椒ㄈピ霘w結為求解以下優(yōu)化問題：

　　以上最優(yōu)化問題致力于最小化信號重建誤差，同時使得信號的表示最稀疏。正則化參數λ控制著允許誤差與稀疏性之間的平衡。 由（3）式可見，基追蹤方法去噪的核心問題涉及到原子的選取、字典的構造、求解算法設計等三個方面。其中，字典的構造是基追蹤方法的重要環(huán)節(jié)。為了盡可能精確地表示信號，字典與信號應用是自適應的，或者說字節(jié)是從信號的學習中得到的。通常，基追蹤方法所使用的字典有完備的、過完備的、欠完備的等?？梢愿鶕盘柕南闰炐畔⒓皩嶋H需要設計字典。一般設計的字典是完備或過完備的。對于簡單信號去噪，一般只需要構造完備的字典。對于復合信號對噪問題，通常需要構造過完備的字典。對于完備字典，同樣存在信號的稀疏表示問題，因為噪聲總是處處奇異的。本文所采用的字典主要有： （1）Heaviside字典

　　此字典中原子不是正交的，但是對于任意長度為n的一維離散信號s=（s1s2…sn）都有以下表示：

　　Heaviside字典具有上三角形式，結構簡單，善于捕捉分片常數信號中的突變特征。 （2）時間-尺度字典（小波字典） 以Haar小波字典為例： 你小波基：ψ=l［0，1］，母小波基：ψ=1［1/2，1］，1-1［0，1/2］ Haar小波字典中包含小波基的平移和伸縮變換以及小波基的平移變換。 設ψ=（a，b，v），其中α∈（0，∞）為尺度變量，b∈［0，n］表征位置，v∈{0，1}表征性別。Haar小波字典形式為：

　　包含n個原子，構成一組正交基。當然還有其它類型的小波字典，盡管有些小波基沒有類似Haar小波基這樣明確的小波函數表達式，但它們的字典都有與Haar小波字典類似的離散結構。比較常用的主要用Daubechies、Coiflet、Symmlet等。小波字典應用于表示分片光滑信號。 （3）Heaviside字典+小波字典 對于比較復雜的復合信號，單一的字典下無法得到信號的最稀疏表示，此時可將幾種字典合成，從而得到過完備的字典。例如Heaviside字典+小波字典。