1.簡(jiǎn)介

ARMNEON編程主要有兩種最常用的方式手寫匯編和Intrinsics。本文將對(duì)比NEON匯編與NEON Intrinsics編程的優(yōu)缺點(diǎn)。

2.NEON匯編與Intrinsics

NEON匯編與Intrinsics各有優(yōu)缺點(diǎn)：

NEON匯編與Intrinsics各有優(yōu)缺點(diǎn)：但實(shí)際情況遠(yuǎn)遠(yuǎn)比這些復(fù)雜很多，特別是涉及到ARM v7-A/v8-A跨平臺(tái)的時(shí)候。下面我們結(jié)合實(shí)例做一些更深入的分析。

2.1 編程

對(duì)于初學(xué)者來說，Intrinsics比較易學(xué)易用。但是對(duì)于有匯編經(jīng)驗(yàn)的開發(fā)者來說，可能更熟悉NEON匯編編程，切換到Intrinsics反倒需要有個(gè)適應(yīng)過程。下文列出了實(shí)際開發(fā)中的一些問題。

2.1.1 指令靈活性

從指令使用角度來說，匯編指令比Intrinsics指令更靈活，主要體現(xiàn)在數(shù)據(jù)加載/存儲(chǔ)上，比如下例：

• Intrinsics指令

  • 加載數(shù)據(jù)到一個(gè)64位寄存器 vld1_s8/u8/s16/u16/s32…etc

  • 加載數(shù)據(jù)到一個(gè)128位寄存器vld1q_s8/u8/s16/u16/s32…etc

• ARM v7-A匯編

VLD1 { Dd}, [Rn]
VLD1 { Dd, D(d+1) }, [Rn]
VLD1 { Dd, D(d+1), D(d+2)}, [Rn]
VLD1 { Dd, D(d+1), D(d+2), D(d+3) }, [Rn]

• ARM v8-A匯編

LD1 { .]
LD1 { ., .}, []
LD1 { ., ., . }, []
LD1 { ., ., ., . }, []

這個(gè)問題主要針對(duì)現(xiàn)在，相信隨著編譯器的升級(jí)這些問題會(huì)逐漸解決的。

在一些情況下，有的編譯器已經(jīng)能把兩條指令解析成一條匯編指令，比如：


因此，我們有理由由相信，隨著ARM v8-A編譯器的不斷升級(jí)，intrinsics指令會(huì)完善到跟匯編指令一樣靈活的。

2.1.2 寄存器分配

NEON匯編編程時(shí)，需要自己分配寄存器，用戶必須清楚寄存器的使用情況。而Intrinsics編程的一個(gè)好處就是，用戶只需要定義變量即可，編譯器會(huì)自動(dòng)分配寄存器。這是優(yōu)點(diǎn)，但有時(shí)也會(huì)變成弱點(diǎn)。實(shí)踐證明，因?yàn)锳RMv7-A只有16個(gè)128位NEON寄存器，在Intrinsics編程時(shí)，如果用戶同時(shí)使用過多的NEON寄存器，會(huì)導(dǎo)致gcc編譯器的寄存器分配問題。主要表現(xiàn)是編譯器會(huì)把很多數(shù)據(jù)存儲(chǔ)到堆棧中，這樣會(huì)極大的影響程序性能。因此用戶在使用Intrinsics編程時(shí)要注意這個(gè)問題。在性能出現(xiàn)異常時(shí)（比如C程序的性能比NEON程序的性能要好），檢查反匯編，看是否有寄存器分配的問題出現(xiàn)。在ARM64中，有32個(gè)128位NEON寄存器，這個(gè)問題的影響大大減弱。

2.2 性能與編譯器

在同一平臺(tái)下，NEON匯編的性能與編譯器無關(guān)，只由NEON的實(shí)現(xiàn)方式?jīng)Q定。好處是用戶在調(diào)整代碼時(shí)，用戶可以預(yù)測(cè)、控制自己程序的性能，但沒有驚喜。

NEON Intrinsics 的性能則極大的依賴于編譯器，不同的編譯器，性能可能有極大的差別。一般來說，越老版本的編譯器，性能越差。如果用戶需要保留對(duì)老版本編譯器兼容性時(shí)，需要慎重考慮使用Intrinsics。此外，當(dāng)用戶優(yōu)化代碼細(xì)節(jié)的時(shí)候，編譯器的介入，使用戶很難預(yù)測(cè)程序性能的變化，但有時(shí)候會(huì)有驚喜，有時(shí)Intrinsics的性能會(huì)比匯編的性能要好。盡管很少見，但確實(shí)存在。

編譯器主要對(duì)優(yōu)化NEON程序造成影響。下圖是NEON實(shí)現(xiàn)及優(yōu)化的一般流程：

對(duì)于NEON匯編或是Intrinsics來講，實(shí)現(xiàn)流程是一樣的，編程——調(diào)試——測(cè)試。但是調(diào)優(yōu)的步驟是不一樣的。

NEON匯編的調(diào)優(yōu)方式主要有：

? 改變實(shí)現(xiàn)方式，比如改變所用指令，調(diào)整并行方式。

? 調(diào)整指令順序，以降低數(shù)據(jù)依賴性

? 上文第二章所介紹的方式都可以嘗試

在匯編調(diào)優(yōu)時(shí)，最精細(xì)方式是：

? 確定匯編指令數(shù)目和指令的時(shí)序

? 使用PMU (Performance Monitoring Unit)測(cè)量程序執(zhí)行的周期數(shù)

? 根據(jù)使用指令的時(shí)序，調(diào)整程序，盡量減少指令延時(shí)

這種方式的缺點(diǎn)是，針對(duì)指定微架構(gòu)的調(diào)整，換到另外的平臺(tái)性能不一定會(huì)好。經(jīng)?；ㄙM(fèi)很大的工作量而只能取得很小的性能提升。

NEON intrinsics的調(diào)優(yōu)則比較困難，

? 嘗試NEON匯編所用的調(diào)優(yōu)方式，然后

? 觀察反匯編，看看數(shù)據(jù)依賴性、寄存器使用等情況

? 判斷優(yōu)化效果是否達(dá)到預(yù)期， 如果符合預(yù)期則工作結(jié)束。此時(shí)，需要測(cè)試多種編譯器，檢查性能的異同。

在使用intrinsics轉(zhuǎn)換ARMv7-A的匯編時(shí)，優(yōu)化效果判斷比較簡(jiǎn)單，只要Intrinsics性能接近匯編性能即可。但是，在使用Intrinsics優(yōu)化ARM v8-A的代碼時(shí)，我們沒有性能參考的對(duì)象，較難判斷代碼是否調(diào)整到最優(yōu)狀態(tài)了。可能會(huì)有疑問，會(huì)不會(huì)匯編實(shí)現(xiàn)的性能會(huì)更好？但隨著整個(gè)ARM v8-A環(huán)境的成熟，這個(gè)問題帶來的影響會(huì)越來越小。另外，如果更看重Intrinsics的其它優(yōu)點(diǎn)，對(duì)性能也不是錙銖必較的話，這個(gè)問題的影響也不大。

2.3 跨平臺(tái)與可移植性

現(xiàn)在，現(xiàn)有的大部分NEON匯編代碼只能運(yùn)行在ARM v7-A或是ARM v8-A AArch32模式的平臺(tái)上。想要運(yùn)行在ARM v8-A AArch64模式的平臺(tái)，我們必須重寫代碼，這帶來了很大的工作量。這時(shí)，NEON Intrinsics代碼的好處就體現(xiàn)出來了，在ARM v8-A AArch64模式下，我們可以直接運(yùn)行這些代碼，減少了重寫代碼的工作量。同時(shí)，我們可以只維護(hù)一套代碼，這樣也減少了維護(hù)的工作量。

然而，由于ARMv7-A/ARMv8-A的硬件資源不同，即使用Intrinsics，有時(shí)我們也需要兩套代碼。Ne10中FFT實(shí)現(xiàn)就是一個(gè)例子：

// radix 4 butterfly with twiddles
scratch[0].r = scratch_in[0].r;
scratch[0].i = scratch_in[0].i;
scratch[1].r = scratch_in[1].r * scratch_tw[0].r - scratch_in[1].i * scratch_tw[0].i;
scratch[1].i = scratch_in[1].i * scratch_tw[0].r + scratch_in[1].r * scratch_tw[0].i;
scratch[2].r = scratch_in[2].r * scratch_tw[1].r - scratch_in[2].i * scratch_tw[1].i;
scratch[2].i = scratch_in[2].i * scratch_tw[1].r + scratch_in[2].r * scratch_tw[1].i;
scratch[3].r = scratch_in[3].r * scratch_tw[2].r - scratch_in[3].i * scratch_tw[2].i;
scratch[3].i = scratch_in[3].i * scratch_tw[2].r + scratch_in[3].r * scratch_tw[2].i;

上述代碼描述了32位浮點(diǎn)復(fù)數(shù)FFT算法的基本元——基4蝶形運(yùn)算。從代碼中我們可以看出：

? 如果在一次循環(huán)中，兩個(gè)基4蝶形運(yùn)算并行，需要20個(gè) 64位寄存器。

? 如果在一次循環(huán)中，四個(gè)基4蝶形運(yùn)算并行，需要20個(gè) 128位寄存器。

由于ARM v7-A只有16個(gè)128位寄存器，因此，該平臺(tái)的FFT實(shí)現(xiàn)僅能一次循環(huán)兩個(gè)基4蝶形運(yùn)算并行。而ARM v8-A有32個(gè)128位寄存器，該平臺(tái)的FFT實(shí)現(xiàn)能一次循環(huán)四個(gè)基4蝶形運(yùn)算并行。因此，即使用Intrinsics，我們也需要兩套代碼。

上例可以說明，在實(shí)現(xiàn)一套代碼跨ARM v7-A/v8-A平臺(tái)時(shí)，我們需要注意一些類似的特例。

2.4 將來

上面已經(jīng)分析了NEON匯編與Intrinsics的很多問題，但是這些問題都是暫時(shí)的。長遠(yuǎn)來看，使用intrinsics還是更好。Intrinsics能帶來硬件以及編譯器發(fā)展的好處。經(jīng)典算法只要實(shí)現(xiàn)一次即可，不用隨著硬件的升級(jí)而重新編程，大大減少了工作量。

2.5 總結(jié)

結(jié)合實(shí)例，上文對(duì)NEON匯編和Intrinsics做了一些分析?？傮w來說，使用intrinsics利大于弊。特別是與匯編相比，Intrinsics更容易編程，且能夠更好地兼容ARMv7-A/ARMv8-A。

下面再總結(jié)一下NEON Intrinsics使用時(shí)的一些注意事項(xiàng)：

? 使用的寄存器數(shù)量

? 編譯器選擇

? 查看反匯編

3.總結(jié)

本文通過實(shí)際程序分析了NEON匯編與Intrinsics的優(yōu)缺點(diǎn)。希望能對(duì)用戶在NEON實(shí)際開發(fā)中有些借鑒意義。

審核編輯 ：李倩