12月20日，2023百度云智大會(huì)·智算大會(huì)在北京舉辦，大會(huì)以「大模型重構(gòu)云計(jì)算，Cloud for AI」為主題，深度聚焦大模型引發(fā)的云計(jì)算變革。

百度智能云表示，為滿足大模型落地需求，正在基于「云智一體」戰(zhàn)略重構(gòu)云計(jì)算服務(wù)，目前已完成從底層基礎(chǔ)設(shè)施—大模型開(kāi)發(fā)與應(yīng)用—AI原生應(yīng)用開(kāi)發(fā)的端到端升級(jí)重構(gòu)：全面升級(jí)百舸等20多個(gè)云計(jì)算基礎(chǔ)設(shè)施、千帆大模型平臺(tái)再升級(jí)、AI原生應(yīng)用開(kāi)發(fā)工作臺(tái)“千帆AppBuilder ”全面開(kāi)放。

智算大會(huì)現(xiàn)場(chǎng)，百度智能云還公布了最新“成績(jī)單”。自8月31日文心大模型向全社會(huì)全面開(kāi)放以來(lái)，在千帆大模型平臺(tái)上，大模型API日調(diào)用量增長(zhǎng)10倍。目前千帆平臺(tái)已經(jīng)累計(jì)服務(wù)超過(guò)4萬(wàn)家企業(yè)用戶，累計(jì)幫助企業(yè)用戶精調(diào)近1萬(wàn)個(gè)大模型。相較于自建系統(tǒng)訓(xùn)練大模型，使用千帆平臺(tái)訓(xùn)練的成本最高可以下降90%。 ?

大模型正在重構(gòu)云計(jì)算

“AI原生時(shí)代開(kāi)啟，大模型正在驅(qū)動(dòng)云計(jì)算產(chǎn)業(yè)創(chuàng)新變革。”百度集團(tuán)副總裁侯震宇表示：“大模型重構(gòu)云計(jì)算主要體現(xiàn)在三個(gè)層面：AI原生云將改變?cè)朴?jì)算的格局，模型即服務(wù)（MaaS ）會(huì)成為新的基礎(chǔ)服務(wù)，AI原生應(yīng)用催生新的研發(fā)范式 。”

首先，在云基礎(chǔ)設(shè)施層，移動(dòng)互聯(lián)網(wǎng)時(shí)代的應(yīng)用，底層大多依賴CPU算力，而AI應(yīng)用對(duì)GPU或異構(gòu)計(jì)算的需求大幅增加，云市場(chǎng)的底層算力需求將逐漸轉(zhuǎn)向以GPU為主。

其次，在模型層，大模型正在成為通用的服務(wù)能力，即MaaS。MaaS將大幅降低Al落地的門(mén)檻，實(shí)現(xiàn)真正的Al普惠。

最后，在應(yīng)用層，應(yīng)用開(kāi)發(fā)的范式已經(jīng)被徹底顛覆。大模型理解、生成、邏輯、記憶的獨(dú)特能力會(huì)催生A原生應(yīng)用研發(fā)新范式，整個(gè)應(yīng)用技術(shù)棧、數(shù)據(jù)流和業(yè)務(wù)流都將被改變。

侯震宇表示，總體來(lái)說(shuō)，構(gòu)建繁榮的A原生應(yīng)用生態(tài)，需要大模型、智能算力、AI原生應(yīng)用研發(fā)新范式三要素相輔相成。大模型是AI原生應(yīng)用的“大腦”，智能計(jì)算則為A原生應(yīng)用運(yùn)行提供堅(jiān)實(shí)支撐，新研發(fā)范式助力開(kāi)發(fā)者高效基于大模型能力開(kāi)發(fā)應(yīng)用。數(shù)據(jù)飛輪是成功的AI原生應(yīng)用的充分必要條件，讓大模型能力高速迭代，產(chǎn)品體驗(yàn)持續(xù)進(jìn)步。

云計(jì)算全面升級(jí)： 五大領(lǐng)域20余款全棧產(chǎn)品集中發(fā)布 ? AI原生時(shí)代，面向大模型的云計(jì)算基礎(chǔ)設(shè)施體系將全面重構(gòu)。侯震宇表示，百度智能云將在三大方面重構(gòu)云計(jì)算服務(wù)，即：面向模型的智算基礎(chǔ)設(shè)施、面向數(shù)據(jù)的數(shù)據(jù)基礎(chǔ)設(shè)施、面向應(yīng)用的云基礎(chǔ)設(shè)施，以支撐AI原生應(yīng)用落地。

大會(huì)現(xiàn)場(chǎng)，百度智能云密集發(fā)布和升級(jí)了20多款云計(jì)算產(chǎn)品，涵蓋智能計(jì)算、通用計(jì)算、數(shù)據(jù)庫(kù)和大數(shù)據(jù)、分布式云、應(yīng)用開(kāi)發(fā)平臺(tái)五大領(lǐng)域。

在智能計(jì)算領(lǐng)域，算力是大模型落地的基礎(chǔ)條件，當(dāng)前大模型訓(xùn)練、推理、部署對(duì)高速互聯(lián)、計(jì)算效率、算力成本等都提出了高要求，需要打造新型的智算基礎(chǔ)設(shè)施。但目前的計(jì)算集群還面臨不少挑戰(zhàn)，大模型訓(xùn)練時(shí)間長(zhǎng)、易出錯(cuò)、穩(wěn)定性差，算力集群規(guī)模大、系統(tǒng)復(fù)雜度高也增加了運(yùn)維難度。

全新發(fā)布的百度百舸·AI異構(gòu)計(jì)算平臺(tái)3.0，針對(duì)AI原生應(yīng)用以及大模型的訓(xùn)練、推理等環(huán)節(jié)進(jìn)行了專項(xiàng)優(yōu)化。百舸3.0在穩(wěn)定、高效、易運(yùn)維三個(gè)方面大幅升級(jí)產(chǎn)品能力，實(shí)現(xiàn)萬(wàn)卡級(jí)別任務(wù)有效訓(xùn)練時(shí)長(zhǎng)達(dá)到98%以上，帶寬有效性可達(dá) 95%。相比自建智算基礎(chǔ)設(shè)施，可以實(shí)現(xiàn)模型訓(xùn)、推吞吐分別最高提升30%和60%?。

? 百度百舸3.0發(fā)布

針對(duì)AI原生時(shí)代智能算力的供給平衡問(wèn)題，百度智能云發(fā)布智算網(wǎng)絡(luò)平臺(tái)。在算力資源層面，智算網(wǎng)絡(luò)平臺(tái)支持將百度及第三方建設(shè)的智算中心、超算中心、邊緣節(jié)點(diǎn)等智算節(jié)點(diǎn)進(jìn)行全域接入，將分散和異構(gòu)的算力資源連接起來(lái)，形成統(tǒng)一的算力網(wǎng)絡(luò)資源池，再通過(guò)百度自主研發(fā)的算力調(diào)度算法，智能分析各類算力資源的狀態(tài)、性能和利用率等指標(biāo)，統(tǒng)一調(diào)度算力，讓智算資源靈活、穩(wěn)定、高效地交付給有需求的用戶，實(shí)現(xiàn)智算資源的“南水北調(diào)”。 ? 在通用計(jì)算領(lǐng)域，計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)等云原生基礎(chǔ)設(shè)施也需要面向AI原生時(shí)代重構(gòu)升級(jí)，提供更具彈性、高性能和智能化的運(yùn)維能力。

本次大會(huì)，百度太行·計(jì)算新增了三款計(jì)算實(shí)例：全新推出第7代（通用計(jì)算型）云服務(wù)器實(shí)例G7，綜合性能較上一代產(chǎn)品提升10%；發(fā)布昆侖芯彈性裸金屬實(shí)例NKL5，搭載了百度自研的昆侖芯R300加速處理器，在大模型推理場(chǎng)景綜合性能較業(yè)界主流加速卡可提升達(dá)50%；發(fā)布基于昇騰910B加速處理器打造的彈性高性能計(jì)算實(shí)例NH6T，在大模型訓(xùn)練場(chǎng)景中，綜合性能較業(yè)界主流加速卡提升可達(dá)40%。

同時(shí)，高性能計(jì)算平臺(tái)CHPC（Cloud HPC）正式發(fā)布，為用戶提供的一站式公共云 HPC 服務(wù)。在資源使用層面，CHPC支持用戶一鍵創(chuàng)建高性能計(jì)算環(huán)境，并根據(jù)業(yè)務(wù)變化靈活使用云上資源；在業(yè)務(wù)應(yīng)用層面，CHPC支持集成藥物研發(fā)、基因測(cè)序等行業(yè)的應(yīng)用。此外，結(jié)合集成在 VPC 內(nèi)的百度網(wǎng)盤(pán)等服務(wù)，用戶可以輕松實(shí)現(xiàn)HPC源文件從提交、上傳、處理、結(jié)果回傳，到分發(fā)的數(shù)據(jù)全鏈路打通，助力研發(fā)提效。

在分布式云方面，百度智能云帶來(lái)三大升級(jí)：邊緣計(jì)算節(jié)點(diǎn)BEC產(chǎn)品能力升級(jí)，打造全球統(tǒng)一的邊緣計(jì)算網(wǎng)絡(luò)和產(chǎn)品體驗(yàn)，打造AI原生應(yīng)用時(shí)代能力最完善的“云邊一體”；專有云ABC Stack新能力發(fā)布，支持本地部署百度智能云千帆大模型平臺(tái)；本地計(jì)算集群LCC新能力發(fā)布，支持全新一代CPU/GPU實(shí)例以及完整的百度智能云AI&HPC集群管理能力，進(jìn)一步豐富完善基礎(chǔ)設(shè)施與云產(chǎn)品支持能力矩陣。

大模型落地不僅需要算力支持，還需要對(duì)各類數(shù)據(jù)和海量的知識(shí)進(jìn)行存儲(chǔ)、管理和分析工作。百度智能云在云存儲(chǔ)、云原生數(shù)據(jù)庫(kù)、大數(shù)據(jù)平臺(tái)等數(shù)據(jù)基礎(chǔ)設(shè)施領(lǐng)域發(fā)布了一系列重磅新品。

百度滄?！ご鎯?chǔ)，統(tǒng)一技術(shù)底座正式發(fā)布，能夠支持各類存儲(chǔ)產(chǎn)品，同時(shí)滿足AI原生時(shí)代的大規(guī)模、高性能、低成本的存儲(chǔ)要求。全新升級(jí)的對(duì)象存儲(chǔ)BOS、云磁盤(pán)CDS、并行文件存儲(chǔ)PFS等產(chǎn)品，面向數(shù)據(jù)湖存儲(chǔ)和AI存儲(chǔ)能力進(jìn)行了全面增強(qiáng)，加速智能計(jì)算，釋放數(shù)據(jù)價(jià)值。

云原生數(shù)據(jù)庫(kù)GaiaDB 4.0版本正式發(fā)布，增強(qiáng)并行查詢能力，突破單機(jī)計(jì)算瓶頸，實(shí)現(xiàn)跨機(jī)多核并行查詢，在混合負(fù)載和實(shí)時(shí)分析業(yè)務(wù)場(chǎng)景中性能提升超過(guò)10倍；針對(duì)不同的工作負(fù)載推出列存索引和列存引擎，提升不同規(guī)模數(shù)據(jù)的查詢速度，其中列存引擎最大可支持 PB 級(jí)數(shù)據(jù)的復(fù)雜分析，并且與事務(wù)處理業(yè)務(wù)嚴(yán)格復(fù)雜隔離；通過(guò)共識(shí)協(xié)議優(yōu)化、鏈路優(yōu)化、自適應(yīng)動(dòng)態(tài)回放存儲(chǔ)多版本等一些列數(shù)據(jù)流深度優(yōu)化，大幅提升GaiaDB整體性能60%以上。

大會(huì)期間，杭州吉利易云科技有限公司總經(jīng)理成品耀，分享了吉利集團(tuán)攜手百度智能云的打造集團(tuán)專有云，打造數(shù)字基建底座。目前吉利集團(tuán)已實(shí)現(xiàn)車聯(lián)網(wǎng)、生產(chǎn)制造業(yè)務(wù)上云，且正在基于這套高效、穩(wěn)定的基礎(chǔ)設(shè)施平臺(tái)構(gòu)建企業(yè)級(jí)AI大模型能力，全方位賦能集團(tuán)業(yè)務(wù)。

模型即服務(wù)（MaaS）： 千帆大模型平臺(tái)再升級(jí) ? 在AI原生時(shí)代，大模型將作為新的通用服務(wù)能力，由模型即服務(wù)（MaaS）平臺(tái)提供給廣大用戶。百度智能云千帆大模型平臺(tái)（以下簡(jiǎn)稱“千帆平臺(tái)”）作為業(yè)界領(lǐng)先的MaaS服務(wù)平臺(tái)，預(yù)置了包括百度文心大模型在內(nèi)的、國(guó)內(nèi)最多的54個(gè)主流基礎(chǔ)大模型和行業(yè)大模型，還為大模型的持續(xù)預(yù)訓(xùn)練、精調(diào)、評(píng)估、壓縮和部署等環(huán)節(jié)提供最完善易用的工具鏈，幫助客戶針對(duì)自身業(yè)務(wù)場(chǎng)景快速定制專屬大模型。相較于自建系統(tǒng)訓(xùn)練大模型，使用千帆平臺(tái)訓(xùn)練的成本最高可以下降90%。

? 百度智能云千帆大模型平臺(tái)

目前，千帆平臺(tái)已經(jīng)累計(jì)服務(wù)超過(guò)40000家企業(yè)用戶，精調(diào)近10000個(gè)大模型。本次智算大會(huì)，針對(duì)客戶應(yīng)用大模型最關(guān)心的“提效”和“降本”兩大核心訴求，千帆平臺(tái)發(fā)布一系列全新功能。 ? 在數(shù)據(jù)方面，千帆平臺(tái)提供完善、高效的大模型數(shù)據(jù)管理工具鏈，包括數(shù)據(jù)采集，清洗、自動(dòng)標(biāo)注、自動(dòng)增強(qiáng)與推理數(shù)據(jù)多位評(píng)估等功能，助力用戶快速構(gòu)建自身業(yè)務(wù)“數(shù)據(jù)飛輪”，實(shí)現(xiàn)反饋驅(qū)動(dòng)增長(zhǎng)。全新發(fā)布的數(shù)據(jù)統(tǒng)計(jì)分析、數(shù)據(jù)質(zhì)量檢查等功能，支持用戶獲取全方位的數(shù)據(jù)洞察信息，結(jié)合數(shù)據(jù)清洗可視化Pipeline，能夠構(gòu)建出面向大模型場(chǎng)景的高質(zhì)量數(shù)據(jù)燃料，為大模型訓(xùn)練“保駕護(hù)航”，千帆也因此成為國(guó)內(nèi)首個(gè)支持大模型多方位數(shù)據(jù)分析的MaaS服務(wù)平臺(tái)。

作為模型部署上線前的“最后一公里”，模型評(píng)估能夠?qū)Υ竽Ｐ偷妮敵鲂Ч⒂?jì)算性能等進(jìn)行全方位評(píng)估，確保大模型上線后AI原生應(yīng)用的效果穩(wěn)定可靠。千帆平臺(tái)創(chuàng)新性地引入自動(dòng)化與人工結(jié)合的雙重評(píng)估機(jī)制，充分發(fā)揮雙方優(yōu)勢(shì)，大幅提升模型評(píng)估效率與質(zhì)量。一方面，百度文心大模型作為AI裁判員，能夠?qū)Ρ辉u(píng)估模型的回答進(jìn)行自動(dòng)化打分，極大程度地減少海量重復(fù)性人工作業(yè)；另一方面，由數(shù)據(jù)標(biāo)注員/業(yè)務(wù)專家對(duì)大模型回答進(jìn)行打分，則能夠?qū)崿F(xiàn)對(duì)大模型回答質(zhì)量的精細(xì)化衡量。

此外，千帆平臺(tái)靈活的計(jì)價(jià)方式，如Tokens（適用靈活性要求較高的業(yè)務(wù)）、TPM（Tokens per Minute，適用于較大并發(fā)量業(yè)務(wù)）、批量計(jì)算（適用于離線內(nèi)容生產(chǎn)等對(duì)實(shí)時(shí)性要求較低，吞吐較大的任務(wù)）、算力單元（適用于需要專享硬件部署模型的客戶）等，可以輕松滿足客戶的多種業(yè)務(wù)場(chǎng)景需要，助力企業(yè)低成本用好大模型。

賦能AI原生應(yīng)用開(kāi)發(fā)： 千帆AppBuilder正式開(kāi)放服務(wù) ? 為了滿足企業(yè)敏捷、高效地進(jìn)行AI原生應(yīng)用開(kāi)發(fā)的需求，降低AI原生應(yīng)用開(kāi)發(fā)門(mén)檻，百度智能云千帆AppBuilder正式開(kāi)放服務(wù)。 ? AppBuilder將大模型開(kāi)發(fā)AI原生應(yīng)用的常見(jiàn)模式、工具、流程，沉淀成一個(gè)工作臺(tái)，幫助開(kāi)發(fā)者聚焦業(yè)務(wù)本身，而無(wú)需為開(kāi)發(fā)過(guò)程牽扯多余精力。具體來(lái)講，AppBuilder主要由組件、框架兩層服務(wù)構(gòu)成。

「組件」服務(wù)由多模態(tài)的AI能力組件（如文字識(shí)別、文生圖等）、基于大語(yǔ)言模型的能力組件（如長(zhǎng)文總結(jié)、nl2sql等）、基礎(chǔ)組件（如向量數(shù)據(jù)庫(kù)、對(duì)象存儲(chǔ)等）三部分組成，是對(duì)底層服務(wù)能力的組件化封裝，讓每個(gè)組件完成一個(gè)特定的功能。

「框架」則是通過(guò)將上述這些組件有選擇地串聯(lián)、組合起來(lái)，讓它們能夠比較完整地完成一個(gè)特定場(chǎng)景的任務(wù)。目前，AppBuilder提供的檢索增強(qiáng)生成（RAG）、智能體（Agent）、智能數(shù)據(jù)分析（GBI）就是常用的AI原生應(yīng)用框架。

百度智能云千帆AppBuilder ? AppBuilder提供兩種產(chǎn)品形態(tài)，代碼態(tài)與低代碼態(tài)。對(duì)于有深度AI原生應(yīng)用開(kāi)發(fā)需求的用戶，AppBuilder代碼態(tài)提供包括SDK、開(kāi)發(fā)環(huán)境、調(diào)試工具、應(yīng)用示例代碼等各種開(kāi)發(fā)套件和應(yīng)用組件；而AppBuilder低碼態(tài)則提供可視化工具，用戶只需簡(jiǎn)單點(diǎn)選，即可快速定制、上線AI原生應(yīng)用。 ?

百度創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官李彥宏認(rèn)為，繁榮的AI原生應(yīng)用生態(tài)，會(huì)驅(qū)動(dòng)經(jīng)濟(jì)增長(zhǎng)。今年10月，百度智能云推出了國(guó)內(nèi)首個(gè)大模型全鏈路生態(tài)支持體系，為合作伙伴提供包括賦能培訓(xùn)、AI原生應(yīng)用孵化、銷售商機(jī)、市場(chǎng)營(yíng)銷等全方位的支持，致力于繁榮AI原生應(yīng)用生態(tài)。

侯震宇預(yù)判，2024年將成為AI原生應(yīng)用的元年，迎來(lái)AI原生應(yīng)用的爆發(fā)式增長(zhǎng)。百度智能云將持續(xù)推出有競(jìng)爭(zhēng)力的產(chǎn)品方案，與伙伴一起深耕客戶應(yīng)用場(chǎng)景，讓更多的AI原生應(yīng)用創(chuàng)新涌現(xiàn)。

審核編輯：黃飛

?