pipeline流水線設(shè)計(jì)是一種典型的面積換性能的設(shè)計(jì)。一方面通過對長功能路徑的合理劃分，在同一時(shí)間內(nèi)同時(shí)并行多個(gè)該功能請求，大大提高了某個(gè)功能的吞吐率；另一方面由于長功能路徑被切割成短路徑，可以達(dá)到更高的工作頻率，如果不需要提高工作頻率，多出來的提頻空間可以用于降壓降功耗，進(jìn)可攻退可守。

1

流水線的時(shí)間并行

流水線設(shè)計(jì)是完美的時(shí)間并行。因?yàn)榱魉€上每一級的處理都是一個(gè)時(shí)鐘周期的延時(shí)，并且一動則全動，每一級的延時(shí)可以完美的掩蓋起來，最高實(shí)現(xiàn)與流水級數(shù)相同數(shù)量的請求并行度。

如上圖所示，在現(xiàn)代經(jīng)典的cpu處理中，流水線級數(shù)被廣泛應(yīng)用，cpu的各個(gè)處理環(huán)節(jié)可以看作流水線上的一個(gè)stage。在單發(fā)射單處理單元的最簡單處理器中，同一時(shí)間內(nèi)最高同時(shí)可以支持5條指令的執(zhí)行。如果沒有指令沖突，資源沖突等可能導(dǎo)致斷流的場景，基本可以認(rèn)為每一個(gè)時(shí)鐘周期都可以完成一條指令的處理。

當(dāng)然，除了CPU，只要是一個(gè)周期無法完成的功能，在性能優(yōu)先的設(shè)計(jì)中，為了提高吞吐率，都可以采用流水線技術(shù)來對功能路徑進(jìn)行切分，比如乘法器等。

2

流水線的stage劃分

我們知道，流水線的分割線是一組寄存器，這條分割線放在哪個(gè)位置完全由設(shè)計(jì)者決定。一般來說，劃分流水線的時(shí)候主要有以下三點(diǎn)考慮：

1. 如果流水線切割的子功能抽象層次較高，最好按完整的功能來進(jìn)行流水線劃分，比如CPU的各個(gè)執(zhí)行環(huán)節(jié)。
2. 流水線最好劃分在數(shù)據(jù)通路上位寬較小的地方，以節(jié)省寄存器數(shù)量和面積。在流水線上可以有許多的數(shù)據(jù)路徑，數(shù)據(jù)路徑會有中間結(jié)果和最終結(jié)果。那么這個(gè)時(shí)候就可以選擇性地進(jìn)行切割。比如一個(gè)1024bit 2選1的數(shù)據(jù)選擇器，如果將流水線劃分劃在選擇器的輸入端，那么將占用2x1024=2048bit的寄存器以及1個(gè)1bit的選擇信號。而如果將流水線劃分在選擇器的輸出端，那么只需要1024bit的寄存器，顯然面積的收益十分巨大。
3. 流水線每一級的關(guān)鍵路徑延時(shí)最好接近，這樣利于獲得最大的timing margin，頻率可以跑到最高。這點(diǎn)很好理解，假設(shè)一條關(guān)鍵路徑在切割流水線之前延時(shí)為a，時(shí)鐘周期近似為a，將其切割成2級流水線。假設(shè)切割之后的新關(guān)鍵路徑仍然在該關(guān)鍵路徑上，那么新的時(shí)鐘周期將取決于切割后的關(guān)鍵路徑延時(shí)。很明顯，a/2是最小的，如果不是均分，那么總有一級大于a/2，那么時(shí)鐘周期將大于a/2。當(dāng)然，也有可能切割流水線之前的關(guān)鍵路徑被切割之后不再是關(guān)鍵路徑。假設(shè)一條非關(guān)鍵路徑b，在切割之后變成1/3b和2/3b。并且2/3b >1/2a，那么2/3b將會成為新的關(guān)鍵路徑，新的時(shí)鐘周期將接近2/3b。這種情況下，如果對于路徑b的這種切割不是必要的（比如出于功能完整性和面積考慮），那么完全可以將b切成1/2b和1/2b，1/2b<1/2a<2/3b，時(shí)鐘頻率依然可以以1/2a為準(zhǔn)。

3

流水線設(shè)計(jì)的簡單例子

那么怎么設(shè)計(jì)一個(gè)流水線呢？其實(shí)從結(jié)構(gòu)上來講，流水線很簡單，無非是一個(gè)原本完整的功能，中間插了幾級寄存器，每級寄存器的輸出做不一樣的功能，每一拍都進(jìn)行一次更新，把上一級的結(jié)果打到下一級。比如一個(gè)最簡單的例子，假設(shè)一個(gè)周期只能完成一個(gè)1bit加法，那么要實(shí)現(xiàn)3個(gè)操作數(shù)加法s=a+b+c，并且保證每個(gè)周期都有一個(gè)結(jié)果寄存器輸出，可以使用3級流水實(shí)現(xiàn)：

上面這個(gè)例子可以保證如果每一拍都有新的a_in, b_in, c_in輸入，那么在經(jīng)過了2拍的延時(shí)后每一拍都可以輸出一個(gè)s_out。

但是實(shí)際場景中流水線的最終結(jié)果輸出并不一定是每一拍都需要的。假設(shè)s_out的下游有反壓信號，如果流水線還是每拍都流水，那么s_out的結(jié)果將會每拍都刷新一次，在下游存在反壓的情況下會有有效數(shù)據(jù)被流水沖刷掉，那么將會導(dǎo)致結(jié)果的錯誤。因此對于這種下游有反壓的場景，不能簡單地每拍都進(jìn)行一次流水。而要考慮進(jìn)下游的反壓。

在上面的例子中，假設(shè)下游的反壓信號是rdy_in，因?yàn)榱魉€反壓一級則前級均被反壓，因此每一級都需要一個(gè)反壓信號，而流水線最后一級的反壓信號將參與到前面每一級流水的反壓信號生成中。代碼中控制邏輯增加反壓：

4

流水線的逐級反壓串?dāng)_

從上面的例子可以看到，最后一級的流水輸出vld_out需要與下游的反壓信號rdy_in完成握手之后，上一級s2才可以更新到out。只有s2更新到out，s1才能更新到s2。只有s1更新到s2，in才能更新到s1，這樣一來，我們注意到ena_s1，也就是第一級流水的更新使能信號，其實(shí)可以拆解到rdy_in這個(gè)最后一級的反壓信號。由此可見rdy_in串?dāng)_到了最前面一級，形成了逐級反壓串?dāng)_。這只是一種最簡單的場景，如果rdy_in信號的生成邏輯較復(fù)雜，并且流水線級數(shù)較多，每一級的rdy信號除了下一級的握手成功，還有別的條件，比如資源沖突，數(shù)據(jù)沖突等，那么這條從最后一級反壓信號開始的組合邏輯路徑將會很長，成為流水線中的關(guān)鍵路徑，必要時(shí)需要一些特殊的手段進(jìn)行處理。

解決這個(gè)問題的辦法就是切割這種逐級握手機(jī)制。有以下2種做法，這里就不一一展開：
使用旁路緩存。這種方法比較常見。即在流水線的某一級加入一個(gè)buffer，該級的rdy信號直接使用buffer的非滿信號，這樣就能切割該級與后面流水線的握手聯(lián)系，通過buffer非滿信號來決定是否可以流水到這一級。當(dāng)流水流到這一級之后，再根據(jù)下游是否握手成功決定是要寫入旁路緩存還是直接bypass緩存。

5

流水線的其他反壓場景

除了來自最后一級流水的逐級反壓，每一級流水都有可能單獨(dú)被反壓的可能。這取決于具體的設(shè)計(jì)。比如經(jīng)典流水線CPU設(shè)計(jì)中的RAW, WAW問題，運(yùn)算單元資源沖突問題，總線帶寬資源限制問題等等。而無論是哪一級被反壓，都要逐級反壓前面的流水。