近日，中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）第十次全體會(huì)議暨2023年通用人工智能創(chuàng)新發(fā)展論壇在重慶召開(kāi)。

會(huì)上，商湯科技聯(lián)合中國(guó)信息通信研究院云計(jì)算與大數(shù)據(jù)研究所（中國(guó)信通院云大所）共同發(fā)布行業(yè)首個(gè)《大模型可信賴研究報(bào)告》，系統(tǒng)化分析闡釋了人工智能大模型發(fā)展風(fēng)險(xiǎn)要素及治理建議，具體包括：

重點(diǎn)梳理大模型發(fā)展現(xiàn)狀，點(diǎn)明大模型風(fēng)險(xiǎn)來(lái)源。

從大模型涉及的關(guān)鍵要素和可信維度出發(fā)，全面分析大模型面臨的各項(xiàng)風(fēng)險(xiǎn)并進(jìn)行整理歸納，形成大模型風(fēng)險(xiǎn)全景視圖。

針對(duì)大模型在框架、數(shù)據(jù)、模型和生成內(nèi)容等層面風(fēng)險(xiǎn)，系統(tǒng)梳理產(chǎn)業(yè)界保障大模型可信賴的關(guān)鍵舉措。

指出當(dāng)前大模型可信賴發(fā)展面臨的問(wèn)題及挑戰(zhàn)，從多個(gè)維度提出參考建議。

該《報(bào)告》為人工智能大模型的可信發(fā)展提供了重要的方向參考。同時(shí)，也對(duì)大模型風(fēng)險(xiǎn)管理體系化建設(shè)提供了框架依據(jù)。

此外，《報(bào)告》還對(duì)如何實(shí)現(xiàn)大模型的可信賴目標(biāo)給出一系列實(shí)踐方案，從技術(shù)、管理、監(jiān)管等維度對(duì)大模型的可信賴目標(biāo)實(shí)現(xiàn)進(jìn)行了分析研究。

商湯SenseTrust可信AI基礎(chǔ)設(shè)施

入選《報(bào)告》可信賴實(shí)踐案例

今年7月，為迎接大模型全新挑戰(zhàn)，基于“日日新SenseNova”大模型體系，商湯科技快速推出可信AI基礎(chǔ)設(shè)施SenseTrust，構(gòu)建領(lǐng)先的解決方案，推動(dòng)大模型開(kāi)發(fā)訓(xùn)練和應(yīng)用治理可靠、可信。

“SenseTrust” 商湯可信AI基礎(chǔ)設(shè)施

數(shù)據(jù)層面，商湯SenseTrust能夠提供從數(shù)據(jù)脫敏、數(shù)據(jù)去毒、數(shù)據(jù)合規(guī)審查及偏見(jiàn)評(píng)估等治理工具。

模型層面，商湯SenseTrust基于自研模型體檢系列平臺(tái)，能夠針對(duì)傳統(tǒng)“小模型”、生成式“大模型”，以及基礎(chǔ)模型提供標(biāo)準(zhǔn)化和定制化的模型評(píng)測(cè)能力。

應(yīng)用層面，借助商湯在數(shù)據(jù)保護(hù)、數(shù)字取證及偽造檢測(cè)等技術(shù)領(lǐng)域的深厚積累，逐步開(kāi)發(fā)了基于生成、鑒偽和溯源三位一體的綜合解決方案。

目前，商湯SenseTrust相關(guān)技術(shù)已服務(wù)于“商湯秒畫(huà)SenseMirage”文生圖平臺(tái)、“商湯如影SenseAvatar”數(shù)字人等多個(gè)產(chǎn)品，以及內(nèi)容創(chuàng)作、大數(shù)據(jù)客戶，以及銀行安全系統(tǒng)。

商湯也將持續(xù)通過(guò)“商湯AI安全治理開(kāi)放平臺(tái)”等多種形式，為行業(yè)提供AI治理公益技術(shù)服務(wù)，推動(dòng)建設(shè)安全可信的人工智能產(chǎn)業(yè)生態(tài)。