長(zhǎng)期以來，國芯科技在信息安全以及可信計(jì)算領(lǐng)域具有深厚的技術(shù)積累和豐富的產(chǎn)品積累。面對(duì)人工智能（AI）帶來的安全挑戰(zhàn)，國芯科技積極投入研發(fā)力量，經(jīng)過研發(fā)人員的不懈努力，于近日基于參股公司江原科技第一代國產(chǎn)自主AI算力芯片成功推出可信AI推理卡CCAT200T。

可信是AI發(fā)展共識(shí)

人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量。然而，隨著 AI 應(yīng)用的不斷拓展，一些風(fēng)險(xiǎn)和挑戰(zhàn)也暴露了出來，主要體現(xiàn)在以下幾個(gè)方面：

算法不魯棒導(dǎo)致的應(yīng)用風(fēng)險(xiǎn)，例如自動(dòng)駕駛汽車未能及時(shí)識(shí)別行人導(dǎo)致的交通事故。

黑箱模型導(dǎo)致算法難以解釋，對(duì)用戶不透明，例如難以推廣至醫(yī)療、金融等需要解釋爭(zhēng)議性決策的領(lǐng)域。

數(shù)據(jù)、模型和評(píng)估的偏見導(dǎo)致的決策不公平現(xiàn)象，例如保險(xiǎn)定價(jià)、犯罪預(yù)測(cè)等場(chǎng)景可能對(duì)部分人群存在偏見。

數(shù)據(jù)濫用導(dǎo)致的隱私泄露風(fēng)險(xiǎn)，例如個(gè)人隱私數(shù)據(jù)的廣泛收集和使用導(dǎo)致泄露的可能性增大，一旦丟失會(huì)對(duì)個(gè)人和企業(yè)等造成極大的負(fù)面影響。面對(duì) AI 引發(fā)的信任風(fēng)險(xiǎn)，發(fā)展 AI 可信已經(jīng)成為了全球共識(shí)。

2019年，二十國集團(tuán)（G20）提出“G20 人工智能原則”，建議“促進(jìn)公共和私人對(duì)人工智能研發(fā)的投資力度，以促進(jìn)可信賴的人工智能 （Trustworthy Artificial Intelligence）的創(chuàng)新”。

2020年，國際標(biāo)準(zhǔn)化組織 ISO 聯(lián)合國際電工委員會(huì) IEC 發(fā)布了《人工智能的可信度概述》，同時(shí)正在推進(jìn)《評(píng)估神經(jīng)網(wǎng)絡(luò)的魯棒性》系列研究工作。國內(nèi)的信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會(huì)也在同步推進(jìn)相關(guān)研究。

2020-2021年，中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）也相繼發(fā)布了《人工智能行業(yè)自律公約》和《可信AI操作指引》，并持續(xù)開展可信 AI 測(cè)試工具征集和可信 AI 試評(píng)估等落地實(shí)踐。

可信AI推理卡CCAT200T的特點(diǎn)

可信AI推理卡CCAT200T集成了可信計(jì)算模塊，支持國密SM2/3/4算法，可以實(shí)現(xiàn)靜態(tài)可信度量功能。推理卡的核心江原第一代芯片包含16MB大容量高帶寬二級(jí)緩存，用于芯片內(nèi)多個(gè)處理器之間共享數(shù)據(jù)，從而減少內(nèi)存訪問需求，提升應(yīng)用性能；芯片包含8個(gè)LPDDR5內(nèi)存訪問控制器，可提供204.8GB/s內(nèi)存帶寬。CCAT200T可信AI推理卡支持PCIe5.0以及CXL.io/CXL.mem接口協(xié)議，提供雙向128GB/s通信傳輸帶寬，支持SRIOV硬件虛擬化，支持最多四個(gè)VF設(shè)備。

可信AI推理卡CCAT200T主要有以下特點(diǎn):

支持國密SM2/3/4算法，采用國密算法為AI應(yīng)用保駕護(hù)航。

卡上主要元器件均實(shí)現(xiàn)了技術(shù)及供應(yīng)鏈的自主可控；可信AI推理卡的核心江原第一代芯片為國內(nèi)首顆全流程國產(chǎn)自主AI算力芯片，率先實(shí)現(xiàn)先進(jìn)自主設(shè)計(jì)、工藝制造、封裝的本土化全流程，填補(bǔ)了我國在人工智能芯片全國產(chǎn)供應(yīng)鏈安全的戰(zhàn)略空白。

生態(tài)兼容，提供完整工具鏈：涵蓋部署工具鏈、系統(tǒng)檢測(cè)分析、通用計(jì)算編譯器、驅(qū)動(dòng)等SDK。開源框架后端支持：vLLM、pytorch、onnruntime等后端定制化支持。

支持?jǐn)?shù)據(jù)類型多樣：支持UINT8/SINT8/BF16/FP16/FP32數(shù)據(jù)類型的張量計(jì)算；支持FP32/BF16/FP16/(U)INT32/(U)INT16/(U)INT8數(shù)據(jù)類型的向量計(jì)算

算力強(qiáng)大，內(nèi)置8個(gè)采用自主指令集的通用AI計(jì)算處理器，支持多種精度的高性能AI計(jì)算，整體算力160TOPS@INT8。

集成64GB LPDDR5大內(nèi)存，單卡支持DeepSeek-R1系列1.5B至32B 五種蒸餾模型，4卡可支持DeepSeek-R1 70B參數(shù)規(guī)模蒸餾模型，8/16卡可實(shí)現(xiàn)滿血量化版/非量化版運(yùn)行。

▲ 可信AI推理卡CCAT200T的核心特性

尤其是可信AI推理卡CCAT200T集成CCT02 TCM可信單元，可以滿足《GM/T 0012-2020可信計(jì)算》標(biāo)準(zhǔn)，TCM的加入可以為CCAT200T提供安全可靠的應(yīng)用計(jì)算環(huán)境，支持靜態(tài)啟動(dòng)度量功能，防止客戶在使用軟件的過程中可能會(huì)遭遇破壞或者黑客的惡意攻擊，保護(hù)敏感信息不被竊取或不被惡意代碼使用。

可信推理卡CCAT200T應(yīng)用場(chǎng)景

可信AI推理卡CCAT200T旨在為云端及邊緣端AI推理場(chǎng)景提供可信計(jì)算加速支持，為產(chǎn)業(yè)智能化升級(jí)提供更多元的算力選擇，可廣泛應(yīng)用于可信安防、智能交通、事件檢測(cè)、智慧醫(yī)療、智慧客服、智慧教育、智慧文旅和其他場(chǎng)景中。

面對(duì)AI引發(fā)的信任威脅，國芯科技將致力于通過可信計(jì)算技術(shù)為 AI 保駕護(hù)航，讓AI技術(shù)走得更遠(yuǎn)，走的更安全可信。