1. 人臉關(guān)鍵點(diǎn)簡(jiǎn)介

人臉關(guān)鍵點(diǎn)定位也稱為人臉關(guān)鍵點(diǎn)定檢測(cè)或者人臉對(duì)齊，是指給定人臉圖像，定位出人臉面部的要害區(qū)域位置，包括眉毛、眼睛、鼻子、嘴巴、臉部概括等和人臉檢測(cè)類似，由于存在姿勢(shì)和遮擋等因素的影響，人臉關(guān)鍵點(diǎn)定位也是一個(gè)賦有挑戰(zhàn)性的任務(wù)工作。

人臉關(guān)鍵點(diǎn)的檢測(cè)有許多重要的應(yīng)用場(chǎng)景。

l 人臉姿態(tài)對(duì)齊：人臉識(shí)別等算法都需要對(duì)人臉的姿態(tài)進(jìn)行對(duì)齊從而提高模型的精度。

l 人臉美顏與編輯：基于關(guān)鍵點(diǎn)可以精確分析臉型、眼睛形狀、鼻子形狀等，從而對(duì)人臉的特定位置進(jìn)行修飾加工，實(shí)現(xiàn)人臉特效美顏，貼片等娛樂功能。

l 人臉表情分析與嘴型識(shí)別：基于關(guān)鍵點(diǎn)可以對(duì)人的面部表情進(jìn)行分析，從而用于互動(dòng)娛樂，行為預(yù)測(cè)等場(chǎng)景。

本人臉98關(guān)鍵點(diǎn)算法的，關(guān)鍵點(diǎn)位置如下圖所示：

算法效果在數(shù)據(jù)集的表現(xiàn)：

基于EASY-EAI-Nano-TB硬件主板的運(yùn)行效率：

2. 快速上手

2.1 開發(fā)環(huán)境準(zhǔn)備

如果您初次閱讀此文檔，請(qǐng)閱讀《入門指南/開發(fā)環(huán)境準(zhǔn)備/Easy-Eai編譯環(huán)境準(zhǔn)備與更新》，并按照其相關(guān)的操作，進(jìn)行編譯環(huán)境的部署。

在PC端Ubuntu系統(tǒng)中執(zhí)行run腳本，進(jìn)入EASY-EAI編譯環(huán)境，具體如下所示。

cd ~/develop_environment ./run.sh 2204

2.2 源碼下載

在EASY-EAI編譯環(huán)境下創(chuàng)建存放源碼倉(cāng)庫(kù)的管理目錄：

cd /opt mkdir EASY-EAI-Toolkit cd EASY-EAI-Toolkit

通過git工具，在管理目錄內(nèi)克隆遠(yuǎn)程倉(cāng)庫(kù)

git clone https://github.com/EASY-EAI/EASY-EAI-Toolkit-1126B.git

注：

*此處可能會(huì)因網(wǎng)絡(luò)原因造成卡頓，請(qǐng)耐心等待。

*如果實(shí)在要在gitHub網(wǎng)頁上下載，也要把整個(gè)倉(cāng)庫(kù)下載下來，不能單獨(dú)下載本實(shí)例對(duì)應(yīng)的目錄。

2.3 模型部署

要完成算法Demo的執(zhí)行，需要先下載人臉檢測(cè)算法模型。

百度網(wǎng)盤鏈接為：https://pan.baidu.com/s/1JxDZ5VMnlHiGZLKfvIZ-yg?pwd=1234(提取碼：1234)。

也要下載人臉98關(guān)鍵點(diǎn)算法模型。

百度網(wǎng)盤鏈接為:https://pan.baidu.com/s/1pDabIMlllZAWZOejKOKYUQ?pwd=1234 (提取碼：1234)。

然后需要把下載的人臉檢測(cè)算法模型和人臉關(guān)鍵點(diǎn)算法模型復(fù)制粘貼到Release/目錄：

2.4 例程編譯

進(jìn)入到對(duì)應(yīng)的例程目錄執(zhí)行編譯操作，具體命令如下所示：

cd EASY-EAI-Toolkit-1126B/Demos/algorithm-face_landmark98/ ./build.sh cpres

注：

* 由于依賴庫(kù)部署在板卡上，因此交叉編譯過程中必須保持/mnt掛載。

* 若build.sh腳本帶有cpres參數(shù)，則會(huì)把Release/目錄下的所有資源都拷貝到開發(fā)板上。

2.5 例程運(yùn)行及效果

通過串口調(diào)試或ssh調(diào)試，進(jìn)入板卡后臺(tái)，定位到例程部署的位置，如下所示：

cd /userdata/Demo/algorithm-face_landmark98/

運(yùn)行例程命令如下所示：

sudo ./test-face-landmark98 test.jpg

在EASY-EAI編譯環(huán)境可以取回測(cè)試圖片:

cp /mnt/userdata/Demo/algorithm-face_landmark98/result.jpg .

結(jié)果圖片如下所示：

API的詳細(xì)說明，以及API的調(diào)用（本例程源碼），詳細(xì)信息見下方說明。

3. 人臉檢測(cè)API說明

3.1 引用方式

為方便客戶在本地工程中直接調(diào)用我們的EASY EAI api庫(kù)，此處列出工程中需要鏈接的庫(kù)以及頭文件等，方便用戶直接添加。

3.2 人臉檢測(cè)初始化函數(shù)

設(shè)置人臉檢測(cè)初始化函數(shù)原型如下所示。

int face_detect_init(rknn_context *ctx, const char *path)

具體介紹如下所示。

3.3 人臉檢測(cè)運(yùn)行函數(shù)

設(shè)face_detect_run原型如下所示。

int face_detect_run(rknn_context ctx, cv::Mat &input_image, std::vector &result)

具體介紹如下所示。

3.4 人臉檢測(cè)釋放函數(shù)

人臉檢測(cè)釋放函數(shù)原型如下所示。

int face_detect_release(rknn_context ctx)

具體介紹如下所示。

4. 人臉98個(gè)關(guān)鍵點(diǎn)API說明

4.1 引用方式

為方便客戶在本地工程中直接調(diào)用我們的EASY EAI api庫(kù)，此處列出工程中需要鏈接的庫(kù)以及頭文件等，方便用戶直接添加。

4.2 人臉98個(gè)關(guān)鍵點(diǎn)初始化函數(shù)

設(shè)置人臉檢測(cè)初始化函數(shù)原型如下所示。

int face_landmark98_init(rknn_face_landmark_context_t *p_face_landmark, const char *p_model_path)

具體介紹如下所示。

4.3 人臉98個(gè)關(guān)鍵點(diǎn)運(yùn)行函數(shù)

設(shè)face_landmark98_run原型如下所示。

std::vector face_landmark98_run(cv::Mat image, rknn_face_landmark_context_t *p_face_landmark)

具體介紹如下所示。

4.4 人臉98個(gè)關(guān)鍵點(diǎn)釋放函數(shù)

人臉98個(gè)關(guān)鍵點(diǎn)釋放函數(shù)原型如下所示。

int face_landmark98_release(rknn_face_landmark_context_t* p_face_landmark)

具體介紹如下所示。

5. 人臉98個(gè)關(guān)鍵點(diǎn)算法例程

例程目錄為Toolkit-C-Demo/algorithm-face_landmark98/test-face-landmark98.cpp，操作流程如下。

參考例程如下所示。

#include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include "face_detect.h" #include "face_alignment.h" #include "face_landmark98.h" using namespace std; using namespace cv; int main(int argc, char **argv) { if( argc != 2) { printf("./test-face-landmark98 xxx.jpg \n"); return -1; } struct timeval start; struct timeval end; float time_use=0; rknn_context detect_ctx, landmark_ctx; std::vector result; int ret; cv::Mat src; src = cv::imread(argv[1], 1); face_detect_init(&detect_ctx, "./face_detect.model"); /* 人臉關(guān)鍵點(diǎn)定位初始化 */ ret = face_landmark98_init(&landmark_ctx, "./face_landmark98.model"); if( ret < 0) { printf("face_mask_judgement_init fail! ret=%d\n", ret); return -1; } face_detect_run(detect_ctx, src, result); printf("face num:%d\n",result.size()); for (int i = 0; i < (int)result.size(); i++) { int x = (int)(result[i].box.x); int y = (int)(result[i].box.y); int w = (int)(result[i].box.width); int h = (int)(result[i].box.height); int max = (w > h)?w:h; // 判斷圖像裁剪是否越界 if( ((x +max) > src.cols) || ((y +max) > src.rows) ) { continue; } cv::Mat roi_img, reize_img; roi_img = src(cv::Rect(x, y, max,max)); roi_img = roi_img.clone(); resize(roi_img, reize_img, Size(256,256), 0, 0, INTER_AREA); float ratio; ratio = (float)max/256; gettimeofday(&start,NULL); std::vector keyPoints; face_landmark98_run(landmark_ctx, &reize_img, &keyPoints); gettimeofday(&end,NULL); time_use = (end.tv_sec-start.tv_sec)*1000000+(end.tv_usec-start.tv_usec);//微秒 printf("time_use is %f\n",time_use/1000); for(int n = 0; n < 98; n++) { //cout<<"keyPoints "<< n <<" :"<< keyPoints[n].point.x*ratio +x <<","<< keyPoints[n].point.y*ratio +y <