91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

生成式AI帶來的機(jī)遇與挑戰(zhàn)

趣味科技v ? 來源:趣味科技v ? 2023-12-27 14:49 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在大咖云集的亞馬遜云科技re:Invent 2023全球大會(huì)現(xiàn)場(chǎng),大家最關(guān)注的焦點(diǎn)話題是什么?

對(duì)于這個(gè)問題,相信很多人都會(huì)不假思索地在第一時(shí)間給出答案——生成式AI

然而生成式AI的應(yīng)用以及大語言模型的訓(xùn)練,都對(duì)算力有著極高的需求。身為全球云計(jì)算開拓者和領(lǐng)軍者,亞馬遜云科技認(rèn)為這意味著怎樣的機(jī)遇?同時(shí)又帶來了怎樣的挑戰(zhàn)?企業(yè)可以通過生成式AI實(shí)現(xiàn)怎樣的轉(zhuǎn)型升級(jí)?為了滿足客戶的迫切需求,亞馬遜云科技又提供了怎樣的解決方案?

生成式AI帶來的機(jī)遇與挑戰(zhàn)

“生成式AI帶來的機(jī)遇非常明顯,對(duì)吧?大家都已經(jīng)有目共睹。”亞馬遜云科技計(jì)算和網(wǎng)絡(luò)副總裁David Brown向趣味科技表示,“我們希望亞馬遜云科技能夠成為運(yùn)行這些工作負(fù)載的最佳場(chǎng)所,并且已經(jīng)為此投入了大量資金和資源。”

David Brown指出,生成式AI的發(fā)展帶來了極其廣袤的市場(chǎng),通過與NVIDIA等合作伙伴的攜手合作,以及自研的Amazon Graviton和Amazon Trainium系列定制芯片,亞馬遜云科技正在努力為客戶提供更好的性價(jià)比,希望能夠幫助客戶以更低的成本引入和運(yùn)行他們的模型。

而在挑戰(zhàn)方面,如何幫助客戶理解生成式AI,以及如何利用生成式AI為客戶的業(yè)務(wù)服務(wù),是當(dāng)下生成式AI應(yīng)用的難點(diǎn),也是亞馬遜云科技一直在努力的事情。在探索與試驗(yàn)的過程中,亞馬遜云科技很快意識(shí)到,在Amazon Bedrock模型中為客戶提供選擇是正確的做法。為此亞馬遜云科技在re:Invent 2023全球大會(huì)上宣布推出Amazon Bedrock更多模型選擇和強(qiáng)大功能,讓用戶可輕松訪問來自AI21 Labs、Anthropic、Cohere、Meta、Stability AI以及亞馬遜的多種行業(yè)領(lǐng)先的大語言模型和其他模型,從而幫助企業(yè)更加輕松地構(gòu)建適合自身業(yè)務(wù)的定制化生成式AI應(yīng)用,極大地降低了生成式AI應(yīng)用的門檻。

當(dāng)前面臨的另一項(xiàng)挑戰(zhàn),是如何確保在客戶需要時(shí)提供足夠的GPU算力。為此亞馬遜云科技一邊持續(xù)在全球范圍內(nèi)構(gòu)建數(shù)據(jù)中心和電力足跡,一邊開展了多項(xiàng)技術(shù)和服務(wù)創(chuàng)新,包括推出Capacity Blocks服務(wù),使得即使是在供應(yīng)受限的環(huán)境中,也能夠幫助客戶找到電源、GPU和加速器,獲得GPU訪問權(quán)限,從而支持他們的生成式AI工作負(fù)載。

努力為客戶提供更好性價(jià)比

強(qiáng)大的算力自然離不開強(qiáng)勁的芯片。在這方面,亞馬遜云科技主要是通過兩種方式來實(shí)現(xiàn)自己的目標(biāo)。

一種方式是與NVIDIA的緊密合作。亞馬遜云科技與NVIDIA攜手進(jìn)行了大量投資,將最新的NVIDIA GPU引入亞馬遜云科技。繼成為全球首家提供NVIDIA GH100 Grace Hopper數(shù)據(jù)中心GPU訪問的云服務(wù)商之后,NVIDIA創(chuàng)始人、CEO黃仁勛又在re:Invent 2023全球大會(huì)現(xiàn)場(chǎng)宣布,亞馬遜云科技成為全球首家推出NVIDIA GH200 NVL32實(shí)例的云服務(wù)商。

“在數(shù)據(jù)中心運(yùn)行NVIDIA GPU的工作非常具有挑戰(zhàn)性,工程設(shè)計(jì)非常困難,需要世界上最好的供應(yīng)商才能做好這些事情?!盌avid Brown表示,“我認(rèn)為在這方面,亞馬遜云科技確實(shí)比其他任何公司都要出色?!?/p>

另一種方式是投資和設(shè)計(jì)自己的定制芯片。在re:Invent 2023全球大會(huì)上,亞馬遜云科技就宣布其自研芯片家族推出Amazon Graviton4和Amazon Trainium2等新一代產(chǎn)品,為生成式AI應(yīng)用和機(jī)器學(xué)習(xí)訓(xùn)練等廣泛的工作負(fù)載提供了更高的性價(jià)比和能效。其中Graviton4較上一代產(chǎn)品性能提升30%,獨(dú)立核心增加50%以上,內(nèi)存帶寬提升75%以上;Trainium2較上一代產(chǎn)品訓(xùn)練速度提升4倍,能效提升2倍,并能在EC2 UltraClusters中部署多達(dá)100,000個(gè)芯片。

“芯片是用戶所有工作負(fù)載的基礎(chǔ),如果你是一個(gè)希望運(yùn)行生成式AI工作負(fù)載的客戶,你自然會(huì)選擇性價(jià)比最高、對(duì)自己來說最合理的芯片。”David Brown表示,“亞馬遜云科技每一代自研芯片都持續(xù)提升性價(jià)比和能效,為客戶提供了基于AMD、Intel以及NVIDIA等的最新芯片和實(shí)例組合之外的更多選擇,這使得Amazon EC2可以為客戶虛擬運(yùn)行幾乎所有應(yīng)用和工作負(fù)載,同時(shí)也為客戶提供了更好的性價(jià)比?!?/p>

利用生成式AI助力企業(yè)轉(zhuǎn)型

如今越來越多的企業(yè)都對(duì)生成式AI投入了更多的關(guān)注。如何將生成式AI技術(shù)應(yīng)用到自身業(yè)務(wù),如何實(shí)現(xiàn)降本增效,如何為公司帶來價(jià)值,也成為了廣大企業(yè)正在努力研究的課題。

“生成式AI太新了,許多客戶都在努力研究如何將這一技術(shù)應(yīng)用到自己的業(yè)務(wù)當(dāng)中。我真正需要思考的主要是兩件事?!盌avid Brown說道。

第一件事,是企業(yè)如何利用生成式AI的能力,并想出用這些能力為最終用戶構(gòu)建什么?David Brown認(rèn)為這是每家企業(yè)都在考慮的事情,實(shí)際上在亞馬遜云科技內(nèi)部,就有團(tuán)隊(duì)通過機(jī)器學(xué)習(xí)實(shí)驗(yàn)室與客戶合作,幫助他們構(gòu)建概念證明,以實(shí)際測(cè)試生成式AI可以為客戶業(yè)務(wù)做些什么。目前在幫助客戶構(gòu)建生成式AI解決方案方面,亞馬遜云科技已經(jīng)取得了很大的成功。

第二件事,是一旦企業(yè)有了一個(gè)生成式AI解決方案,那么就必須確保公司盈虧能夠負(fù)擔(dān)得起它的運(yùn)行成本。因?yàn)槿绻\(yùn)行成本太高的話,企業(yè)實(shí)際上是無法實(shí)施部署的。因此亞馬遜云科技所做的就是幫助客戶找到成本優(yōu)化的方法。無論是改進(jìn)開發(fā)模型的方式,還是通過像Trainium這樣的自研芯片,亞馬遜云科技都希望能夠真正降低生成式AI應(yīng)用的成本。

在re:Invent 2023全球大會(huì)上,亞馬遜云科技數(shù)據(jù)與機(jī)器學(xué)習(xí)副總裁Swami Sivasubramanian博士在主題演講中重點(diǎn)介紹了亞馬遜云科技推出的生成式AI技術(shù)堆棧。該堆棧包括了底層負(fù)責(zé)訓(xùn)練和推理的基礎(chǔ)設(shè)施層、中間微調(diào)模型需求的工具服務(wù)層、上層構(gòu)建生成式AI應(yīng)用層等三個(gè)重要層級(jí)。通過對(duì)這三個(gè)層級(jí)的不斷重構(gòu),亞馬遜云科技能夠?yàn)榭蛻籼峁└咝詢r(jià)比和安全性的技術(shù)與服務(wù),從而利用生成式AI更好地助力企業(yè)轉(zhuǎn)型升級(jí)。

摩爾定律失效但芯片仍在進(jìn)步

說起芯片,很多人都會(huì)想起英特爾創(chuàng)始人之一戈登·摩爾多年前提出的大名鼎鼎的“摩爾定律”,也就是集成電路芯片上可容納的晶體管數(shù)目,大約每隔18個(gè)月便會(huì)增加一倍。

在上個(gè)世紀(jì),摩爾定律被證明是有效的,并且著實(shí)推動(dòng)了芯片市場(chǎng)的進(jìn)步。然而近年來,由于晶體管尺寸和制造工藝的限制,摩爾定律也日益逼近極限。NVIDIA CEO黃仁勛就認(rèn)為,這種蠻力增加晶體管的方法基本上已經(jīng)走到了盡頭,從而引發(fā)了眾多業(yè)界人士有關(guān)“摩爾定律是否已死”的爭(zhēng)論。

“摩爾定律的爭(zhēng)論非常有趣,如果我們回到上個(gè)世紀(jì),有時(shí)會(huì)看到英特爾工程師們?cè)跒槿绾巫屜乱话?a target="_blank">CPU晶體管數(shù)量翻倍而絞盡腦汁,有時(shí)又會(huì)看到他們已經(jīng)實(shí)現(xiàn)了晶體管翻倍,反而要為下一代產(chǎn)品故意做一些保留?!闭勂鹉柖傻脑掝},David Brown如是表示,“但是令人驚訝的是,在幾十年后的今天,我們似乎已經(jīng)看到了摩爾定律的極限,因?yàn)楝F(xiàn)階段物理問題的限制,我們?cè)诩夹g(shù)上已經(jīng)無法再使CPU上的晶體管數(shù)量在短期內(nèi)實(shí)現(xiàn)翻倍。”

David Brown指出,事實(shí)上除了增加晶體管的數(shù)量之外,還有各種各樣的其他方法可以提升芯片的性能,包括改變?cè)O(shè)計(jì)芯片的方式,改變構(gòu)建芯片的方式,改變?yōu)樾酒峁┠芰康姆绞降鹊?。因此即便是摩爾定律失效,也并不意味著芯片不?huì)繼續(xù)創(chuàng)新和提高性能。這就是Amazon Graviton和Amazon Trainium系列芯片向其他芯片制造商展示的意義所在。

審核編輯:黃飛

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 摩爾定律
    +關(guān)注

    關(guān)注

    4

    文章

    640

    瀏覽量

    80914
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    5594

    瀏覽量

    109744
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    39793

    瀏覽量

    301431
  • 亞馬遜
    +關(guān)注

    關(guān)注

    8

    文章

    2731

    瀏覽量

    85744
  • AI算力
    +關(guān)注

    關(guān)注

    1

    文章

    143

    瀏覽量

    9873

原文標(biāo)題:生成式AI算力如此緊張,怎樣選擇才最劃算

文章出處:【微信號(hào):funnytechnology,微信公眾號(hào):趣味科技v】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    探索無限可能:生成推薦的演進(jìn)、前沿與挑戰(zhàn)

    )的生成推薦(Generative Recommendations, GRs)正逐步形成一種區(qū)別于判別推薦的新范式,展現(xiàn)出替代依賴復(fù)雜手工特征的傳統(tǒng)推薦系統(tǒng)的強(qiáng)大潛力。本文系統(tǒng)全面地介紹了基于LLM的
    的頭像 發(fā)表于 10-20 16:42 ?6373次閱讀
    探索無限可能:<b class='flag-5'>生成</b><b class='flag-5'>式</b>推薦的演進(jìn)、前沿與<b class='flag-5'>挑戰(zhàn)</b>

    GlobalData與華為探討AI對(duì)網(wǎng)絡(luò)基礎(chǔ)設(shè)施的機(jī)遇挑戰(zhàn)

    GlobalData 研究總監(jiān)Emir Halilovic 與華為數(shù)據(jù)通信產(chǎn)品線NCE數(shù)據(jù)通信領(lǐng)域總裁王輝共同探討了人工智能(AI)對(duì)網(wǎng)絡(luò)基礎(chǔ)設(shè)施帶來機(jī)遇(高性能網(wǎng)絡(luò)需求、AI增強(qiáng)的
    的頭像 發(fā)表于 10-14 14:24 ?603次閱讀

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI的科學(xué)應(yīng)用

    是一種快速反應(yīng)能力,是直接的感知;靈感是一種通過思考和探索獲得的創(chuàng)造性想法,是一種創(chuàng)意。 AI怎么模擬直覺與靈感呢?四、AI代替人類的假說 這可能嗎? 用機(jī)器來生成假說: 1、直接生成
    發(fā)表于 09-17 11:45

    【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+AI芯片的需求和挑戰(zhàn)

    當(dāng)今社會(huì),AI已經(jīng)發(fā)展很迅速了,但是你了解AI的發(fā)展歷程嗎?本章作者將為我們打開AI的發(fā)展歷程以及需求和挑戰(zhàn)的面紗。 從2017年開始生成
    發(fā)表于 09-12 16:07

    智能體化AI生成AI的區(qū)別

    生成 AI 的核心是“生成內(nèi)容” —— 比如用大模型寫報(bào)告,是對(duì)輸入指令的被動(dòng)響應(yīng)。而智能體化 AI(Agentic
    的頭像 發(fā)表于 08-25 17:24 ?1643次閱讀

    生成 AI 重塑自動(dòng)駕駛仿真:4D 場(chǎng)景生成技術(shù)的突破與實(shí)踐

    生成AI驅(qū)動(dòng)的4D場(chǎng)景技術(shù)正解決傳統(tǒng)方法效率低、覆蓋不足等痛點(diǎn),如何通過NeRF、3D高斯?jié)姙R等技術(shù)實(shí)現(xiàn)高保真動(dòng)態(tài)建模?高效生成極端天氣等長(zhǎng)尾場(chǎng)景?本文為您系統(tǒng)梳理
    的頭像 發(fā)表于 08-06 11:20 ?5152次閱讀
    <b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 重塑自動(dòng)駕駛仿真:4D 場(chǎng)景<b class='flag-5'>生成</b>技術(shù)的突破與實(shí)踐

    NVIDIA recsys-examples在生成推薦系統(tǒng)中的高效實(shí)踐

    生成 AI 浪潮的推動(dòng)下,推薦系統(tǒng)領(lǐng)域正經(jīng)歷深刻變革。傳統(tǒng)的深度學(xué)習(xí)推薦模型 (DLRMs) 雖已展現(xiàn)出一定效果,但在捕捉用戶興趣偏好和動(dòng)態(tài)行為序列變化時(shí),常面臨可擴(kuò)展性挑戰(zhàn)。
    的頭像 發(fā)表于 07-04 14:43 ?1135次閱讀
    NVIDIA recsys-examples在<b class='flag-5'>生成</b><b class='flag-5'>式</b>推薦系統(tǒng)中的高效實(shí)踐

    邊緣生成AI面臨哪些工程挑戰(zhàn)?

    內(nèi)就吸引了超過100萬用戶)在市場(chǎng)上迅速崛起并被廣泛采用。而手機(jī)用戶則經(jīng)常使用語音搜索功能。這些應(yīng)用有什么共同點(diǎn)呢?它們都依賴于云端來處理AI工作負(fù)載。盡管云端生成
    的頭像 發(fā)表于 06-25 10:44 ?1145次閱讀
    邊緣<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>面臨哪些工程<b class='flag-5'>挑戰(zhàn)</b>?

    谷歌新一代生成AI媒體模型登陸Vertex AI平臺(tái)

    我們?cè)?Vertex AI 上推出新一代生成 AI 媒體模型: Imagen 4、Veo 3 和 Lyria 2。
    的頭像 發(fā)表于 06-18 09:56 ?1097次閱讀

    使用NVIDIA Earth-2生成AI基礎(chǔ)模型革新氣候建模

    NVIDIA 正通過 cBottle(Climate in a Bottle 的簡(jiǎn)稱)為這項(xiàng)工作帶來新的突破,這是全球首個(gè)專為以公里尺度分辨率模擬全球氣候而設(shè)計(jì)的生成 AI 基礎(chǔ)模型
    的頭像 發(fā)表于 06-12 15:54 ?1310次閱讀

    AI?時(shí)代來襲,手機(jī)芯片面臨哪些新挑戰(zhàn)?

    邊緣AI、生成AI(GenAI)以及下一代通信技術(shù)正為本已面臨高性能與低功耗壓力的手機(jī)帶來更多計(jì)算負(fù)載。領(lǐng)先的智能手機(jī)廠商正努力應(yīng)對(duì)本地化
    的頭像 發(fā)表于 06-10 08:34 ?1239次閱讀
    <b class='flag-5'>AI</b>?時(shí)代來襲,手機(jī)芯片面臨哪些新<b class='flag-5'>挑戰(zhàn)</b>?

    SAP與亞馬遜云科技推出AI聯(lián)合創(chuàng)新計(jì)劃,打造生成AI解決方案,助力客戶應(yīng)對(duì)市場(chǎng)波動(dòng)與供應(yīng)鏈復(fù)雜性

    北京 2025年5月26日 /美通社/ -- 在SAP藍(lán)寶石大會(huì)上,亞馬遜云科技與SAP宣布啟動(dòng)全新的AI聯(lián)合創(chuàng)新計(jì)劃,幫助合作伙伴構(gòu)建生成AI應(yīng)用和智能體,助力客戶快速解決實(shí)時(shí)業(yè)務(wù)
    的頭像 發(fā)表于 05-26 16:54 ?570次閱讀

    SAP與亞馬遜云科技推出AI聯(lián)合創(chuàng)新計(jì)劃,打造生成AI解決方案, 助力客戶應(yīng)對(duì)市場(chǎng)波動(dòng)與供應(yīng)鏈復(fù)雜性

    北京 ——2025 年 5 月 26 日 在SAP藍(lán)寶石大會(huì)上,亞馬遜云科技與SAP宣布啟動(dòng)全新的AI聯(lián)合創(chuàng)新計(jì)劃,幫助合作伙伴構(gòu)建生成AI應(yīng)用和智能體,助力客戶快速解決實(shí)時(shí)業(yè)務(wù)
    發(fā)表于 05-26 11:44 ?1166次閱讀

    模型原生操作系統(tǒng):機(jī)遇、挑戰(zhàn)與展望 CCCF精選

    本文立足人工智能時(shí)代用戶、應(yīng)用和系統(tǒng)的需求,分析“外掛模型”演進(jìn)路徑下的操作系統(tǒng)發(fā)展困局,提出通過“模型-系統(tǒng)-芯片”的全棧協(xié)同設(shè)計(jì)來構(gòu)建模型原生操作系統(tǒng),并進(jìn)一步探討了面臨的機(jī)遇挑戰(zhàn),以及業(yè)界
    的頭像 發(fā)表于 03-14 17:46 ?1163次閱讀
    模型原生操作系統(tǒng):<b class='flag-5'>機(jī)遇</b>、<b class='flag-5'>挑戰(zhàn)</b>與展望  CCCF精選

    IBM利用生成AI推動(dòng)銀行業(yè)數(shù)字化轉(zhuǎn)型

    。然而,挑戰(zhàn)也伴隨著機(jī)遇。報(bào)告指出,生成 AI 和人工智能 (AI) 將成為銀行業(yè)轉(zhuǎn)型升級(jí)的關(guān)
    的頭像 發(fā)表于 03-10 17:06 ?1225次閱讀