該方案支持以兆芯開(kāi)勝KH-40000系列服務(wù)器處理器及算能自研算力產(chǎn)品（包括算能TPU處理器、推理微服務(wù)器、智算卡等）為硬件底座，以AutoML零代碼自動(dòng)化訓(xùn)練平臺(tái)為基礎(chǔ)，能夠幫助用戶通過(guò)簡(jiǎn)單的操作，自主完成模型創(chuàng)建、數(shù)據(jù)標(biāo)注、模型訓(xùn)練、模型測(cè)試、模型部署等全流程的過(guò)程。

人工智能讓機(jī)器不再僅僅是執(zhí)行人類命令的工具，而是能夠思考、解決問(wèn)題的智能體，作為當(dāng)今科技領(lǐng)域最受關(guān)注、熱度最高的數(shù)字技術(shù)應(yīng)之一，人工智能正在逐步的改變著我們 的生活方式和世界的發(fā)展格局，已經(jīng)成為各國(guó)科技創(chuàng)新競(jìng)爭(zhēng)的重中之重。

方案背景

隨著人工智能大模型的爆火與飛速進(jìn)步，深度學(xué)習(xí)在各領(lǐng)域的應(yīng)用日益深入，其與產(chǎn)業(yè)的融合也日益深入和專業(yè)化。日前，基于兆芯處理器平臺(tái)的AI教育解決方案已經(jīng)在華南理工大學(xué)工程訓(xùn)練中心AI實(shí)驗(yàn)室順利部署上線。該方案進(jìn)一步完善了學(xué)校的AI教學(xué)模式，能夠幫助學(xué)生模擬和探索AI在真實(shí)場(chǎng)景中的應(yīng)用，進(jìn)行機(jī)器視覺(jué)、自然語(yǔ)言處理、深度學(xué)習(xí)等方面的實(shí)踐。

深度學(xué)習(xí)的落地是一個(gè)復(fù)雜的系統(tǒng)工程，企業(yè)進(jìn)行自主研發(fā)，必須從零開(kāi)始，建立一個(gè)團(tuán)隊(duì)，這就意味著要付出高昂的人力代價(jià)，還要克服許多技術(shù)困難，而且很難確保模型的實(shí)用性；在定制開(kāi)發(fā)模式上，存在“一個(gè)場(chǎng)景對(duì)應(yīng)一個(gè)模型”造成的定制成本高、開(kāi)發(fā)時(shí)間長(zhǎng)、不能自主迭代、泛化能力差、業(yè)務(wù)數(shù)據(jù)保密性高等諸多困難。

方案簡(jiǎn)介

針對(duì)企業(yè)部署深度學(xué)習(xí)應(yīng)用人力成本高、技術(shù)難度大、開(kāi)發(fā)周期長(zhǎng)、迭代能力差等問(wèn)題和難點(diǎn)，兆芯與算能聯(lián)合SOPHON.TEAM生態(tài)共同構(gòu)建了一套可高效落地的整體解決方案。

該方案支持以兆芯開(kāi)勝KH-40000系列服務(wù)器處理器及算能自研算力產(chǎn)品（包括算能TPU處理器、推理微服務(wù)器、智算卡等）為硬件底座，以AutoML零代碼自動(dòng)化訓(xùn)練平臺(tái)為基礎(chǔ)，能夠幫助用戶通過(guò)簡(jiǎn)單的操作，自主完成模型創(chuàng)建、數(shù)據(jù)標(biāo)注、模型訓(xùn)練、模型測(cè)試、模型部署等全流程的過(guò)程，實(shí)現(xiàn)快速、高效的深度學(xué)習(xí)工程化落地。

方案架構(gòu)

方案分為硬件層、軟件層、數(shù)據(jù)層。硬件層部署訓(xùn)練服務(wù)器及算能推理微服務(wù)器、智算卡等產(chǎn)品；軟件層部署訓(xùn)練平臺(tái)和推理平臺(tái)；數(shù)據(jù)層通過(guò)視頻采集、數(shù)據(jù)清洗、數(shù)據(jù)標(biāo)注等操作，為推理平臺(tái)和訓(xùn)練平臺(tái)推理訓(xùn)練數(shù)據(jù)。

方案價(jià)值

01

一體化交付

集算法訓(xùn)練與推理部署等能力于一體，全面解決深度學(xué)習(xí)項(xiàng)目落地過(guò)程中從數(shù)據(jù)處理、模型訓(xùn)練、應(yīng)用部署到事件上報(bào)全流程的問(wèn)題，能力更全面、體驗(yàn)更流暢、性能更完整、性價(jià)比更高。

02

場(chǎng)景智能+業(yè)務(wù)導(dǎo)向

面向真實(shí)業(yè)務(wù)場(chǎng)景的實(shí)戰(zhàn)型解決方案，可基于用戶數(shù)據(jù)特征、場(chǎng)景特征、業(yè)務(wù)需求智能化推薦相應(yīng)的模型結(jié)構(gòu)、靈活設(shè)置業(yè)務(wù)參數(shù)，在更小的資源投入下，實(shí)現(xiàn)更好的應(yīng)用效果和更高的處理器利用率。

03

靈活的算法定制能力

該方案在穩(wěn)定的硬件基礎(chǔ)上，實(shí)現(xiàn)了專業(yè)、靈活的算法生產(chǎn)，用戶可根據(jù)實(shí)際需求自主生產(chǎn)、部署所需算法，并根據(jù)業(yè)務(wù)場(chǎng)景需求自動(dòng)化迭代精度，顯著優(yōu)于硬件與固定算法綁定的傳統(tǒng)方案。

應(yīng)用場(chǎng)景

01

構(gòu)建現(xiàn)代立體化視頻圖像巡檢體系

采取數(shù)據(jù)增強(qiáng)策略，針對(duì)性生成移動(dòng)小目標(biāo)識(shí)別等相關(guān)深度學(xué)習(xí)算法，多幀過(guò)濾、多次檢測(cè)，彌補(bǔ)無(wú)人機(jī)視角下移動(dòng)目標(biāo)過(guò)小、檢測(cè)難度大等不足，進(jìn)行精準(zhǔn)識(shí)別，可以快速、準(zhǔn)確地識(shí)別出巡檢區(qū)域內(nèi)的特定目標(biāo)。

02

提升網(wǎng)絡(luò)基礎(chǔ)設(shè)施智能化管理及故障風(fēng)險(xiǎn)預(yù)警能力

通過(guò)智能化監(jiān)測(cè)系統(tǒng)，收集基礎(chǔ)設(shè)施的運(yùn)行數(shù)據(jù)，并借助AutoML自動(dòng)化訓(xùn)練平臺(tái)對(duì)機(jī)房和基站等場(chǎng)景的基礎(chǔ)設(shè)施進(jìn)行數(shù)據(jù)分析和建模，從而實(shí)現(xiàn)故障和安全隱患的預(yù)測(cè)和預(yù)警，進(jìn)一步提前對(duì)發(fā)生故障和風(fēng)險(xiǎn)事件的可能性進(jìn)行判斷和排除。

相關(guān)產(chǎn)品

01

算能智算卡SC7

SC7是面向深度學(xué)習(xí)推理的算力卡，已完成與兆芯開(kāi)勝KH-40000系列服務(wù)器處理器的適配認(rèn)證，產(chǎn)品高效適配市場(chǎng)上主流深度學(xué)習(xí)算法，實(shí)現(xiàn)視頻結(jié)構(gòu)化、人臉識(shí)別、行為分析、狀態(tài)監(jiān)測(cè)等應(yīng)用，為智慧城市、智慧交通、智慧能源、智慧金融、智慧電信、智慧工業(yè)等領(lǐng)域賦能。

02

聯(lián)想開(kāi)天KR722z G2服務(wù)器

聯(lián)想開(kāi)天KR722z G2服務(wù)器，搭載雙路開(kāi)勝KH-40000/32處理器，支持12×前置3.5寸或24×2.5寸熱插拔硬盤；4×后置熱插拔硬盤。支持超大數(shù)據(jù)存儲(chǔ)容量和熱插拔功能，內(nèi)存容量最高可支持2TB，同時(shí)整機(jī)采用冗余的散熱功能和可選的電源功能設(shè)計(jì)，提供強(qiáng)大算力的同時(shí)，可保障業(yè)務(wù)連續(xù)穩(wěn)定運(yùn)行。

03

聯(lián)和東海XRS 302系列服務(wù)器

聯(lián)和東海XRS 302系列服務(wù)器搭載雙路開(kāi)勝KH-40000/32處理器，響應(yīng)快速，性能大幅提升；提供32個(gè)內(nèi)存槽位，內(nèi)存最大支持2TB；多種規(guī)格PCIe 接口，可支持GPU算力卡等硬件擴(kuò)展。適用于OA/郵件服務(wù)、數(shù)據(jù)庫(kù)服務(wù)、存儲(chǔ)服務(wù)、云平臺(tái)計(jì)算節(jié)點(diǎn)，AI 算力服務(wù)、推理服務(wù)等應(yīng)用場(chǎng)景。