MediaTek運用Meta Llama 2大語言模型，賦能終端設備生成式AI應用

2023 年 8 月 24 日 – MediaTek今日宣布利用Meta新一代開源大語言模型（LLM）Llama 2 以及MediaTek先進的AI 處理器（APU）和完整的AI開發(fā)平臺（NeuroPilot），建立完整的終端側AI計算生態(tài)，加速智能手機、物聯(lián)網(wǎng)、汽車、智能家居和其他邊緣設備的AI應用開發(fā)，為終端設備提供更安全、可靠和差異化的使用體驗。預計年末采用 MediaTek 新一代天璣旗艦移動芯片的智能手機支持由Llama 2模型開發(fā)的AI應用，可為用戶帶來振奮人心的生成式AI應用體驗。

MediaTek 資深副總經(jīng)理暨無線通信事業(yè)部總經(jīng)理徐敬全博士表示：“生成式AI的日益普及是數(shù)字化轉型的重要趨勢之一，我們的愿景是為Llama 2的開發(fā)者和終端用戶提供工具，帶來更多令人興奮的AI創(chuàng)新機遇和產(chǎn)品體驗。通過與Meta的伙伴關系，MediaTek可提供更強大的硬件和軟件整體解決方案，為終端設備帶來遠超以往的功能和體驗?！?br />
目前，大多數(shù)生成式AI都依賴云計算，MediaTek基于Llama 2模型成功實現(xiàn)直接在終端設備上運行生成式AI應用。這將為開發(fā)者和用戶提供獨特優(yōu)勢，包括無縫的使用體驗，更強的用戶信息安全和可靠性，更低延遲，離線運算的能力以及更低的運營成本，讓每個人都能享受到生成式AI帶來的便捷與創(chuàng)新。

要在終端設備上充分釋放生成式AI的潛力，設備制造商需采用高算力、低功耗的AI處理器（APU），并通過更快、更可靠的網(wǎng)絡連接來增強設備的整體算力。如今，每一顆MediaTek 5G智能手機SoC均搭載AI處理器，已廣泛執(zhí)行生成式AI應用成功案例，例如 AI 降噪（AI-NR）、AI 超級分辨率（AI-SR）以及AI運動補償（AI-MEMC）等。

MediaTek將于年末推出新一代旗艦移動芯片，將采用針對Llama 2模型而優(yōu)化的軟件棧（NeuroPilot），與搭配支持Transformer模型做骨干網(wǎng)絡加速的升級版AI處理器（APU），可減少動態(tài)隨機存取內存（DRAM）的讀寫消耗和帶寬占用，進一步強化大語言模型和生成式AI應用的性能，助力開發(fā)者打造令人驚艷的AI應用，加速終端設備AI應用落地發(fā)展。
?
?
?

閱讀全文

AI(298911) AI(298911)
生成式AI(1051) 生成式AI(1051)

英特爾一系列AI解決方案，為Llama 2大模型提供實力之選

英特爾廣泛的AI硬件組合及開放的軟件環(huán)境，為Meta發(fā)布的Llama 2模型提供了極具競爭力的選擇，進一步助力大語言模型的普及，推動AI發(fā)展惠及各行各業(yè)。 ? 大語言模型（LLM）在生成文本、總結

2023-07-25 09:56:26

1273

基于Llama2和OpenVIN打造聊天機器人

Llama 2是 Meta 發(fā)布了其最新的大型語言模型，Llama2 是基于 Transformer 的人工神經(jīng)網(wǎng)絡，以一系列單詞作為輸入，遞歸地預測下一個單詞來生成文本。

2023-08-06 11:06:30

1149

了解大型語言模型 (LLM) 領域中的25個關鍵術語

的GPT系列、Google的Gemini、AnthropicAI的Claude、Meta的Llama模型等LLMs的發(fā)展，標志著自然語言處理領域的重大進步。2.訓練訓練

2024-05-10 08:27:26

1964

生成式AI賦能，智能家居有望進入新一輪增長期

。 ? AI 賦能智能家居 ? 此前電子發(fā)燒友網(wǎng)已經(jīng)多次報道ChatGPT等生成式AI將為智能家居帶來新的增長動力，而隨著近期經(jīng)濟的逐漸復蘇，以及各家都在密集公布生成式AI大模型，這一趨勢已經(jīng)越來越明顯。 ? 據(jù)Statista數(shù)據(jù)，預計到2026年，

2023-05-20 01:10:00

3016

聯(lián)發(fā)科年底將推出新一代旗艦SOC，加速生成式AI終端部署

，賦能終端設備生成式AI應用。 ? 將生成式AI 部署在終端設備上 ? 目前大部分生成式AI都是通過云端運算進行，而聯(lián)發(fā)科的目標是將其部署在終端設備上。聯(lián)發(fā)科表示，今年年底將推出新一代旗艦 SoC，將采用針對Llama 2模型而優(yōu)化的軟件棧（NeuroPilot），與搭配支持Transform

2023-08-29 01:19:00

2352

MediaTek發(fā)布天璣8300移動芯片，全面革新推動端側生成式AI創(chuàng)新

2023 年11月21日 – MediaTek發(fā)布天璣 8300 5G生成式AI移動芯片，將天璣的旗艦級體驗引入天璣8000系列，賦能高端智能手機AI創(chuàng)新。作為天璣8000系列家族的新成員，天璣

2023-11-21 16:01:06

1694

谷歌開源70億參數(shù)大語言模型，全方位超越Meta Llama-2？

基于Gemini打造的開源模型Gemma。 ? 谷歌加入AI模型開源陣營，Gemma橫空出世 ? 根據(jù)谷歌的介紹，Gemma是由谷歌DeepMind以及其他團隊開發(fā)，由Gemini啟發(fā)并采用了相同的研究與技術的輕量級模型。與之一起發(fā)布的還有全新的響應式生成AI工具包，為利用Gemma創(chuàng)造更安全

2024-02-23 00:15:00

4383

NVIDIA AI Foundry 為全球企業(yè)打造自定義 Llama 3.1 生成式 AI 模型

Foundry 提供從數(shù)據(jù)策管、合成數(shù)據(jù)生成、微調、檢索、防護到評估的全方位生成式 AI 模型服務，以便部署自定義 Llama 3.1 NVIDIA NIM 微服務和新的 NVIDIA NeMo

2024-07-24 09:39:45

1105

MLU220-M.2邊緣端智能加速卡支持相關資料介紹

。可以輕松實現(xiàn)終端設備和邊緣段設備的AI賦能方案。MLU220-M.2加速卡用于離線模型的部署，離線模型在MLU220上運行，不依賴AI框架，只需要利用CNRT庫，即可實現(xiàn)高效的AI推理運算。如果需要

2022-08-08 17:37:55

【飛騰派4G版免費試用】仙女姐姐的嵌入式實驗室之五~LLaMA.cpp及3B“小模型”O(jiān)penBuddy-StableLM-3B

和語法規(guī)則，將這些詞匯串聯(lián)起來，形成一個完整的回答關于LLaMA及LLaMA.cpp LLaMA全稱是Large Language Model Meta AI，是由Meta AI研究人員發(fā)布的一個

2023-12-22 10:18:11

使用 NPU 插件對量化的 Llama 3.1 8b 模型進行推理時出現(xiàn)“從 __Int64 轉換為無符號 int 的錯誤”，怎么解決？

安裝了 OpenVINO? GenAI 2024.4。使用以下命令量化 Llama 3.1 8B 模型： optimum-cli export openvino -m meta-llama

2025-06-25 07:20:23

基于NXP i.MX6UL打造手持終端設備方案解決倉儲管理需求

` 近年來，隨著電子商務的迅猛發(fā)展，與倉儲物流相關的年總支出占GDP的比重越來越大，通過更智能的手持終端設備來對倉儲物流管理進行改善，是降低成本的重要舉措，那么怎樣的嵌入式計算機產(chǎn)品可以完美貼合倉庫

2018-08-31 10:43:01

無法在OVMS上運行來自Meta的大型語言模型（LLM），為什么?

無法在 OVMS 上運行來自 Meta 的大型語言模型（LLM），例如 LLaMa2。從 OVMS GitHub* 存儲庫運行 llama_chat Python* Demo 時遇到錯誤。

2025-03-05 08:07:06

請問協(xié)調器怎樣可以隨時去控制處于休眠狀態(tài)的終端設備？？

的目的。由于要考慮低功耗，所以作為終端設備的遙控只能是處于PM2的休眠狀態(tài)，這種狀態(tài)下只有外部中斷和定時器能喚醒。所以，我不能隨時的控制這個終端設備啊，有沒有別的什么機制或者方法啊？有人說PM2下，可以

2018-08-08 08:51:36

終端設備的基本描述

終端設備概述

2019-02-28 06:09:00

4637

UIUC推出最新DNN/FPGA協(xié)同方案助力物聯(lián)網(wǎng)終端設備AI應用

」網(wǎng)絡搜索引擎 +「Auto-HLS」加速器生成技術，自動生成適用于終端設備的 DNN 模型及 FPGA 加速器設計。

2019-06-10 14:39:30

1613

NVIDIA 為全球企業(yè)帶來生成式 AI 推出用于創(chuàng)建大型語言模型和視覺模型的云服務

和運行自定義大型語言模型和生成式AI模型，這些模型專為企業(yè)所在領域的特定任務而創(chuàng)建，并且在專有數(shù)據(jù)上訓練。 ? Getty Images、Morningstar、Quantiphi、Shutterstock公

2023-03-22 13:45:40

608

GTC23 | NVIDIA 為全球企業(yè)帶來生成式 AI，推出用于創(chuàng)建大型語言模型和視覺模型的云服務

能夠構建、完善和運行自定義大型語言模型和生成式 AI 模型，這些模型專為企業(yè)所在領域的特定任務而創(chuàng)建，并且在專有數(shù)據(jù)上訓練。 Getty Images、Morningstar、Quantiphi、Shutterst

2023-03-23 06:50:04

907

NVIDIA 為 1 億臺 Windows RTX PC 和工作站提供全新生成式 AI 功能與突破性性能

搭載 Tensor Core 的 NVIDIA RTX GPU 正在加速生成式 AI 模型的開發(fā)與部署；即將推出的 Max-Q 低功耗 AI 推理將提高能效比。生成式 AI 正在迅速開創(chuàng)一個計算

2023-05-31 03:50:02

888

語音領域的GPT時刻：Meta 發(fā)布「突破性」生成式語音系統(tǒng)，一個通用模型解決多項任務

繼開源 LLaMA 之后，Meta 在生成式 AI 方向又公布一項重大研究。我們知道，GPT、DALL-E 等大規(guī)模生成模型徹底改變了自然語言處理和計算機視覺研究。這些模型可以生成高保真文本或圖像

2023-06-18 21:30:02

1296

高通WAIC展示兩大終端側生成式AI技術 AI引擎獲獎

賦能等多個角度，描繪了混合AI賦能的智能未來。同期，第二代驍龍8的高通AI引擎獲得大會最高獎項——SAIL獎(卓越人工智能引領者獎);高通還在現(xiàn)場帶來了其強大終端側AI賦能的生成式AI用例技術演示。推動5G+AI邊緣側創(chuàng)新，夯實智能未來發(fā)展基礎高通技術

2023-07-07 19:58:51

1296

高通攜手Meta利用Llama 2賦能終端側AI應用

和服務相比，終端側AI部署能夠助力開發(fā)者以顯著降低的成本，提升用戶隱私保護、滿足用戶安全偏好、增強應用可靠性，并實現(xiàn)個性化。高通技術公司和Meta正在合作優(yōu)化Meta Llama 2大語言模型直接在終端側的執(zhí)行，無需僅依賴云服務。能夠在智能手機、PC、VR/AR頭顯和汽車等終

2023-07-19 10:00:02

1211

高通攜手Meta利用Llama 2賦能終端側AI應用

高通計劃從2024年起，在旗艦智能手機和PC上支持基于Llama 2的AI部署，賦能開發(fā)者使用驍龍平臺的AI能力，推出激動人心的全新生成式AI應用。

2023-07-19 10:00:03

1386

高通攜手Meta利用Llama 2賦能終端側AI應用

因此，高通技術公司計劃支持基于llama 2的終端ai部署，以創(chuàng)建新的、有趣的ai應用程序。通過這種方式，客戶、合作伙伴和開發(fā)者可以構建智能模擬器、生產(chǎn)力應用程序、內容制作工具和娛樂等的使用案例。驍龍?賦能實現(xiàn)的新終端ai體驗，即使在飛行模式下，也可以在沒有網(wǎng)絡連接的地區(qū)運行。

2023-07-19 10:26:38

1089

微軟聯(lián)合Meta發(fā)布免費商業(yè)應用的開源AI模型Llama 2

在 Meta 看來，「開放的方法是當今人工智能模型開發(fā)的正確方法，特別是在技術快速發(fā)展的生成領域。通過公開提供人工智能模型，它們可以使每個人受益。為企業(yè)、初創(chuàng)企業(yè)、企業(yè)家和研究人員提供其開發(fā)的工具，這些工具的開發(fā)規(guī)模是他們自己難以構建的

2023-07-19 16:22:15

1807

Meta推出免費大模型Llama 2，GPT要有危機感了

作為Meta首批合作伙伴之一，亞馬遜云科技宣布客戶可以通過Amazon SageMaker JumpStart來使用Meta開發(fā)的Llama 2基礎模型。

2023-07-21 16:10:59

1886

英特爾通過軟硬件為LIama 2大模型提供加速，持續(xù)發(fā)力推動AI發(fā)展

英特爾廣泛的AI硬件組合及開放的軟件環(huán)境，為Meta發(fā)布的Llama 2模型提供了極具競爭力的選擇，進一步助力大語言模型的普及，推動AI發(fā)展惠及各行各業(yè)。大語言模型（LLM）在生成文本、總結和翻譯

2023-07-21 18:15:04

1189

英特爾一系列AI解決方案，為Llama 2大模型提供實力之選

2023-07-24 19:31:56

912

Llama 2 登陸 Azure 和 Windows，微軟與 Meta 拓展人工智能合作伙伴關系

和 Windows 上支持 Llama 2 大型語言模型（LLM）系列。Llama 2 旨在幫助開發(fā)者和組織構建生成式人工智能工具和體驗。Meta 和微軟共同致力于實現(xiàn)“讓人工智能惠及更多人”的愿景

2023-07-26 10:35:01

1047

Meta推出Llama 2 免費開放商業(yè)和研究機構使用

與所有LLM一樣，Llama 2偶爾會產(chǎn)生不正確或不可用的答案，但Meta介紹Llama的論文聲稱，它在學術基準方面與OpenAI的GPT 3.5不相上下，如MMLU（衡量LLM在57門STEM科目中的知識）和GSM8K（衡量LLM對數(shù)學的理解）。

2023-08-02 16:17:25

1297

IBM 計劃在 watsonx 平臺上提供 Meta 的 Llama 2 模型

2-聊天模型，現(xiàn)在已經(jīng)可以提供給部分客戶搶先體驗。這是基于 IBM 與 Meta 在 AI 開放式創(chuàng)新方面的合作，包括就 Meta 的開源項目而展開的合作，例如在 watsonx.data 中使

2023-08-09 20:35:01

959

MediaTek 聯(lián)合百度發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計劃，以 AI 大模型賦能終端設備

MediaTek 正式宣布與百度聯(lián)合發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計劃，雙方將共同推進 MediaTek 硬件平臺與飛槳和文心大模型的適配。目前雙方正在合作優(yōu)化文心大模型在終端設備上的執(zhí)行效果，將

2023-08-16 17:40:02

1278

Meta即將推出開源代碼生成平臺Code Llama，劍指OpenAI Codex

Code Llama 的卓越功能源自行業(yè)領先的 AI 算法。其核心模型由包含編程語言、編碼模式和最佳實踐的大規(guī)模數(shù)據(jù)集訓練而成。自然語言處理（NLP）技術則讓 Code Llama 有能力理解開發(fā)者的輸入，并生成與上下文相匹配的代碼建議。

2023-08-21 15:15:02

1403

關于Llama 2的一切資源，我們都幫你整理好了

Meta 發(fā)布的 Llama 2，是新的 SOTA 開源大型語言模型（LLM）。Llama 2 代表著 LLaMA 的下一代版本，可商用。Llama 2 有 3 種不同的大小 —— 7B、13B 和 70B 個可訓練參數(shù)。

2023-08-23 15:40:09

2136

Meta發(fā)布一款可以使用文本提示生成代碼的大型語言模型Code Llama

今天，Meta發(fā)布了Code Llama，一款可以使用文本提示生成代碼的大型語言模型（LLM）。

2023-08-25 09:06:57

2439

Meta將推出編程人工智能工具：Code Llama，免費提供

據(jù)路透社報道，meta計劃推出全新編程人工智能模型：Code Llama，可以根據(jù)文字提示來編寫計算機代碼，或協(xié)助開發(fā)者編程。這一AI工具將免費提供。

2023-08-25 11:39:00

1291

Meta發(fā)布一種Code Llama工具用于生成新代碼和調試人工編寫工作

Meta公司表示，Meta發(fā)布了一種名為Code Llama的工具，該工具建立在其Llama 2大型語言模型的基礎上，用于生成新代碼和調試人工編寫的工作。 Code Llama將使用與Llama 2

2023-08-28 16:56:39

2062

亞馬遜云科技宣布推出生成式AI新服務加速創(chuàng)新

亞馬遜云科技全托管生成式AI服務Amazon Bedrock現(xiàn)已正式可用。客戶可以使用來自眾多領先AI公司的高性能基礎模型，以及構建生成式AI應用程序所需的一系列功能，在簡化開發(fā)過程的同時確保隱私

2023-10-08 05:40:28

781

高通在2023驍龍峰會上推動突破性的生成式AI落地多品類終端

要點 — ?? 全新驍龍平臺展現(xiàn)了面向眾多生成式AI終端和應用的絕佳終端側AI性能，更加注重即時性、可靠性、個性化和隱私。 ?? 驍龍X Elite專為生成式AI而全新打造，具備行業(yè)領先的NPU，在

2023-10-25 10:30:02

847

在線研討會 | 利用生成式 AI 改變視覺 AI 應用

研討會時間： 2023 年 11 月 3 日（周五）上午?11:00? （北京時間）生成式 AI、大語言模型（LLM）和視覺 Transformer 提供了前所未有的功能，世界各地的開發(fā)者們都在

2023-11-01 20:25:03

879

MediaTek 發(fā)布天璣 9300 旗艦 5G 生成式 AI 移動芯片，開啟全大核計算

MediaTek 發(fā)布天璣 9300 旗艦 5G 生成式 AI 移動芯片，憑借創(chuàng)新的全大核架構設計，提供遠超以往的高智能、高性能、高能效、低功耗卓越特性，以極具突破性的先進科技，在端側生成式 AI

2023-11-06 21:35:02

1156

利用 NVIDIA Jetson 實現(xiàn)生成式 AI

交互速率運行的 Llama-2-70B 模型。圖 1. 領先的生成式 AI 模型在? Jetson AGX Orin 上的推理性能如要在 Jetson 上快速測試最新的模型和應用，請使用 Jetson 生成式 AI 實驗室提供的教程和資源。

2023-11-07 21:25:01

2182

MediaTek 發(fā)布天璣 8300 移動芯片，全面革新推動端側生成式 AI 創(chuàng)新

MediaTek 發(fā)布天璣 8300 5G 生成式 AI 移動芯片，將天璣的旗艦級體驗引入天璣 8000 系列，賦能高端智能手機 AI 創(chuàng)新。作為天璣 8000 系列家族的新成員，天璣 8300

2023-11-21 20:30:02

1150

大語言模型簡介：基于大語言模型模型全家桶Amazon Bedrock

本文基于亞馬遜云科技推出的大語言模型與生成式AI的全家桶：Bedrock對大語言模型進行介紹。大語言模型指的是具有數(shù)十億參數(shù)（B+）的預訓練語言模型（例如：GPT-3, Bloom, LLaMA)。這種模型可以用于各種自然語言處理任務，如文本生成、機器翻譯和自然語言理解等。

2023-12-04 15:51:46

1470

AMD以技術賦能生成式AI算力解決方案

如今，AI是一個非常熱門的話題，人工智能也是AMD未來發(fā)展的重中之重，AMD正把AI貫穿所有產(chǎn)品線，從數(shù)據(jù)中心的大規(guī)模訓練與推理解決方案，到面向消費者的PC及游戲體驗，到嵌入式智能終端。針對生成式

2023-12-12 11:24:51

1385

Meta推出最新版AI代碼生成模型Code Llama70B

Meta近日宣布了其最新版本的AI代碼生成模型Code Llama70B，并稱其為“目前最大、最優(yōu)秀的模型”。這一更新標志著Meta在AI代碼生成領域的持續(xù)創(chuàng)新和進步。

2024-01-30 18:21:04

2138

Meta發(fā)布開源大模型Code Llama 70B

近日，Meta宣布推出了一款新的開源大模型Code Llama 70B，這是其“Code Llama家族中體量最大、性能最好的模型版本”。這款新模型提供三種版本，并免費供學術界和商業(yè)界使用。

2024-01-31 09:24:18

1731

Meta發(fā)布CodeLlama70B開源大模型

Meta發(fā)布CodeLlama70B開源大模型 Meta發(fā)布了開源大模型CodeLlama70B，號稱是CodeLlama系列體量最大、性能最強的大模型。 Code Llama 70B 有一個很出色

2024-01-31 10:30:18

1895

LLaMA 2是什么？LLaMA 2背后的研究工作

Meta 發(fā)布的 LLaMA 2，是新的 sota 開源大型語言模型 (LLM)。LLaMA 2 代表著 LLaMA 的下一代版本，并且具有商業(yè)許可證。

2024-02-21 16:00:21

2196

MediaTek將于MWC 2024展示多項率先亮相的智能手機生成式AI應用

2024 年2月21日 – 作為每年為全球超20億臺邊緣計算設備賦能的IC設計公司，MediaTek將參展2024世界移動通信大會（MWC 2024）?；谔飙^9300集成的新一代AI處理器

2024-02-21 17:35:12

678

MediaTek將在MWC 2024展示創(chuàng)新生成式AI技術和應用

MediaTek將亮相2024年世界移動通信大會（MWC 2024），此次大會上，MediaTek將基于其天璣9300集成的新一代AI處理器，展示一系列前沿的生成式AI技術和應用。值得一提的是，MediaTek將帶來多項業(yè)界領先的端側生成式AI應用的首發(fā)亮相，為與會者帶來全新的技術體驗。

2024-02-26 10:50:32

1293

Meta將推兩款迷你Llama 3 AI模型，為全尺寸模型夏季上市做鋪墊

克萊格明確表示，期待下個月或更早時間能亮相面向市場的全新一代 Llama 3。而在此基礎上，Meta 預計年內還會有一系列基于不同應用場景和特性開發(fā)的類似模型相繼面市。

2024-04-10 14:46:05

1000

生成式 AI 進入模型驅動時代

隨著ChatGPT和大型語言模型(LLM)呈現(xiàn)爆炸式增長，生成式人工智能(GenerativeAI)成為近來的一大熱詞。由此引發(fā)了一場爭論：哪種AI模型使用的訓練參數(shù)最多？與此同時，更多

2024-04-13 08:12:27

1132

Meta公司的Llama2語言模型4項測試通過率低，幻覺率高

據(jù)了解，人工智能安全企業(yè) DeepKeep日前發(fā)表了一份評估報告。報告指出，Meta公司旗下LlamA 2大型語言模型在13個風險評估類別中的表現(xiàn)僅為4項合格。

2024-04-18 14:45:26

1192

Meta推出新一代語言模型LLAMA 3，性能優(yōu)于GPT-3.5

Meta決定將Llama 3的80億參數(shù)版開源，以期讓更多人能夠接觸到尖端的AI技術。全球范圍內的開發(fā)者、研究員以及對AI充滿好奇的人士均可參與其中，進行游戲開發(fā)、模型構建與實驗探索。

2024-04-19 10:21:19

1456

Meta推出最強開源模型Llama 3 要挑戰(zhàn)GPT

Meta推出最強開源模型Llama 3 要挑戰(zhàn)GPT Facebook母公司Meta Platforms（META.US）推出了開源AI大模型“Llama”的最新升級版本“Llama 3”，Meta

2024-04-19 17:00:31

1518

高通支持Meta Llama 3大語言模型在驍龍旗艦平臺上實現(xiàn)終端側執(zhí)行

高通和Meta合作優(yōu)化Meta Llama 3大語言模型，支持在未來的驍龍旗艦平臺上實現(xiàn)終端側執(zhí)行。

2024-04-20 09:13:08

1331

高通與Meta合作優(yōu)化Meta Llama 3，實現(xiàn)終端側運行

高通技術公司高級副總裁兼技術規(guī)劃和邊緣解決方案業(yè)務總經(jīng)理馬德嘉表示：“我們對Meta開放Meta Llama 3的策略表示贊賞，高通與Meta均致力于賦能開發(fā)者，推動AI創(chuàng)新。

2024-04-22 09:51:04

980

Arm平臺賦能移動端生成式AI

生成式人工智能 (Generative AI) 涵蓋了當下廣為人知，且備受關注的大語言模型 (LLM)，如今也已落地邊緣側的移動設備。

2024-04-26 11:09:37

1509

MediaTek發(fā)布天璣汽車平臺新品，賦能智能汽車的體驗革新

MediaTek 發(fā)布天璣汽車平臺新品，以先進的生成式 AI 技術賦能智能汽車的體驗革新。天璣汽車座艙平臺 CT-X1 采用卓越的 3nm 制程，CT-Y1 和 CT-Y0 采用 4nm 制程，可為智能座艙帶來令人驚嘆的算力突破。

2024-04-28 10:02:00

1362

英特爾AI產(chǎn)品助力其運行Meta新一代大語言模型Meta Llama 3

英特爾豐富的AI產(chǎn)品——面向數(shù)據(jù)中心的至強處理器，邊緣處理器及AI PC等產(chǎn)品為開發(fā)者提供最新的優(yōu)化，助力其運行Meta新一代大語言模型Meta Llama 3

2024-04-28 11:16:42

1197

MediaTek攜手生態(tài)伙伴聯(lián)合發(fā)布《生成式AI手機產(chǎn)業(yè)白皮書》，共同定義生成式AI手機

Lab、騰訊混元、vivo等生態(tài)伙伴*，聯(lián)合發(fā)布《生成式AI手機產(chǎn)業(yè)白皮書》，共同定義了“生成式AI手機”的概念和典型特征。 MediaTek資深副總經(jīng)理、無線通信事業(yè)部總經(jīng)理徐敬全表示：“生成式AI

2024-05-07 10:25:07

528

MediaTek攜手生態(tài)伙伴聯(lián)合發(fā)布《生成式AI手機產(chǎn)業(yè)白皮書》

2024年5月7日，MediaTek在天璣開發(fā)者大會（MDDC 2024）上，與Counterpoint攜手阿里云通義千問、百川大模型、虎牙、酷狗、零一萬物、OPPO、Soul、騰訊AI Lab

2024-05-08 16:48:02

864

高通支持Meta Llama 3在驍龍終端上運行

高通與Meta攜手合作，共同推動Meta的Llama 3大語言模型（LLM）在驍龍驅動的各類終端設備上實現(xiàn)高效運行。此次合作致力于優(yōu)化Llama 3在智能手機、個人電腦、VR/AR頭顯及汽車等領域的執(zhí)行性能。

2024-05-09 10:37:58

872

Meta Llama 3基礎模型現(xiàn)已在亞馬遜云科技正式可用

亞馬遜云科技近日宣布，Meta公司最新發(fā)布的兩款Llama 3基礎模型——Llama 3 8B和Llama 3 70B，現(xiàn)已正式上線并集成至Amazon SageMaker JumpStart平臺。這兩款先進的生成文本模型，具備8k的上下文長度，經(jīng)過精心的預訓練和微調，旨在支持廣泛的AI應用場景。

2024-05-09 10:39:42

838

聯(lián)發(fā)科發(fā)布天璣AI開發(fā)套件，賦能終端生成式AI應用

聯(lián)發(fā)科近日推出了全新的天璣AI開發(fā)套件，旨在為合作伙伴打造一站式解決方案，以加速終端生成式AI應用的開發(fā)。這款套件集合了四大核心模塊，為AI應用開發(fā)者提供了全面的技術支持。

2024-05-10 11:19:25

1156

生成式AI醫(yī)療嶄露頭角:Meta Llama 3 NIM引數(shù)十公司關注

Meta推出的強大開源大語言模型——Meta Llama 3，運用NVIDIA加速計算訓練與優(yōu)化，助力醫(yī)療健康及生命科學領域工作流程的顯著提升，推動著對改善患者生活質量的應用的實現(xiàn)。目前，此模型已作

2024-06-07 15:25:03

2301

MediaTek NeuroPilot SDK整合NVIDIATAO

對 NVIDIA TAO 的支持將為開發(fā)者帶來無縫體驗，開發(fā)者可以為 MediaTek 芯片驅動的物聯(lián)網(wǎng)應用開發(fā)豐富的邊緣 AI 以及生成式 AI 功能，賦能各類企業(yè)在智能零售、制造、醫(yī)療、交通、智慧城市等多樣化的物聯(lián)網(wǎng)垂直領域，充分發(fā)揮邊緣 AI 的應用潛力。

2024-06-12 14:03:35

964

芯原AI專題技術研討會圓桌：大模型如何賦能終端設備？

軟件高級副總裁池元武，芯原執(zhí)行副總裁、IP 事業(yè)部總經(jīng)理戴偉進，電子科技大學教授顧舒航，小米產(chǎn)業(yè)投資部總經(jīng)理、管理合伙人孫昌旭，烏鎮(zhèn)智庫理事長張曉東、等重要AI產(chǎn)業(yè)的技術專家與投資人、學術專家等嘉賓一起探討“大模型如何賦能終端

2024-06-18 14:25:25

2721

MediaTek天璣9300+旗艦芯賦能iQOO Pad2 Pro超強性能

終端帶來高效與個性化兼具的生成式 AI 體驗，進一步解放生產(chǎn)力。與此同時，通過 MediaTek 與藍晶芯片技術棧的聯(lián)合研發(fā)，天璣 9300+ 旗艦芯在 iQOO Pad2 Pro 上得以深度釋放性能

2024-06-24 09:41:03

1664

MediaTek聯(lián)合快手推出高效端側視頻生成技術

的 AI 模型 I2V（image to video）Adapter 與 MediaTek 天璣 9300、天璣 8300 移動平臺強勁的 AI 算力，在端側實現(xiàn)由靜態(tài)圖像生成動態(tài)視頻的創(chuàng)新體驗。用戶

2024-07-05 11:23:59

13512

Meta即將發(fā)布超強開源AI模型Llama 3-405B

在人工智能領域的激烈競爭中，Meta公司再次擲出重磅炸彈，宣布將于7月23日正式發(fā)布其最新力作——Llama 3-405B，一個擁有驚人4050億參數(shù)的開源大模型。這一舉措不僅標志著Meta在AI研究領域的又一次重大突破，更預示著開源大模型即將邁入4000億參數(shù)的全新時代。

2024-07-18 09:58:23

1605

Meta不會在歐盟提供新的多模態(tài)AI模型

科技巨頭Meta近日宣布了一項重要決策，其即將推出的創(chuàng)新多模態(tài)Llama模型將不會在歐盟地區(qū)發(fā)布。這一決定背后，是Meta對歐洲復雜且不可預測的監(jiān)管環(huán)境的深刻考量，也為Meta與歐盟監(jiān)管機構之間的緊張關系再添一筆。

2024-07-19 16:04:57

1071

Meta發(fā)布全新開源大模型Llama 3.1

科技巨頭Meta近期震撼發(fā)布了其最新的開源人工智能（AI）模型——Llama 3.1，這一舉措標志著Meta在AI領域的又一重大突破。Meta創(chuàng)始人馬克·扎克伯格親自站臺，盛贊Llama 3.1為“業(yè)內頂尖水準”的AI模型，并自信地表示它能夠與OpenAI、谷歌等業(yè)界巨頭的同類產(chǎn)品一較高下。

2024-07-24 18:25:46

2084

NVIDIA攜手Meta推出AI服務，為企業(yè)提供生成式AI服務

NVIDIA近日宣布了一項重大舉措，正式推出NVIDIA AI Foundry服務與NVIDIA NIM（NVIDIA Inference Microservices）推理微服務，這兩項創(chuàng)新成果與同步問世的Llama 3.1系列開源模型強強聯(lián)合，為全球企業(yè)構建強大的生成式AI能力鋪設了堅實的基石。

2024-07-25 16:57:37

1068

Meta Llama 3.1系列模型可在Google Cloud上使用

我們很高興宣布，Llama 3.1 系列模型已添加到 Vertex AI Model Garden，這包括全新的 405B，即 Meta 迄今為止功能最強大、用途最廣泛的模型。這些模型的添加，表明

2024-08-02 15:42:42

1031

英偉達發(fā)布AI模型 Llama-3.1-Nemotron-51B AI模型

英偉達公司宣布推出 Llama-3.1-Nemotron-51B AI 模型，這個AI大模型是源自 Meta 公司的 Llama-3.1-70B?大模型，基于使用了神經(jīng)架構搜索（NAS）方法，推理

2024-09-26 17:30:06

1275

Meta發(fā)布多模態(tài)LLAMA 3.2人工智能模型

Meta Platforms近日宣布了一項重要技術突破，成功推出了多模態(tài)LLAMA 3.2人工智能模型。這一創(chuàng)新模型不僅能夠深度解析文本信息，還實現(xiàn)了對圖像內容的精準理解，標志著Meta在AI多模態(tài)處理領域邁出了堅實的一步。

2024-09-27 11:44:14

982

AMD發(fā)布首款小語言AI模型Llama-135m

近日，AMD在Huggingface平臺上正式推出了自家首款“小語言模型”——AMD-Llama-135m。這款模型以其獨特的推測解碼功能，吸引了業(yè)界的廣泛關注。

2024-09-30 16:38:23

1913

亞馬遜云科技正式上線Meta Llama 3.2模型

亞馬遜云科技宣布，Meta的新一代模型Llama 3.2，包括其首款多模態(tài)模型，現(xiàn)已在Amazon Bedrock和Amazon SageMaker中正式可用。

2024-10-11 09:20:01

1216

亞馬遜云科技上線Meta Llama 3.2模型

亞馬遜云科技近日宣布，Meta公司的新一代模型Llama 3.2已在其平臺上正式上線。該模型包括Meta首款多模態(tài)模型，現(xiàn)已在Amazon Bedrock和Amazon SageMaker中全面可用。

2024-10-11 18:08:02

1002

使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型

前面我們分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日，Meta又發(fā)布了Llama3.2：一個多語言大型語言模型（LLMs）的集合。

2024-10-12 09:39:15

2075

扎克伯格:聯(lián)想運用Meta Llama大模型打造個人AI助手AI Now

美國西部時間10月15日，聯(lián)想集團于美國西雅圖盛大舉辦了一年一度的Tech World大會。會上，聯(lián)想集團首席執(zhí)行官楊元慶攜手Meta創(chuàng)始人兼首席執(zhí)行官馬克·扎克伯格，共同揭曉了一項重大合作成果——基于Meta的Llama大模型，面向PC用戶的個人AI智能助手AI Now。

2024-10-16 14:58:09

1454

聯(lián)想與Meta合作推出AI Now個人AI智能體

聯(lián)想集團近日在美國西雅圖舉辦了年度Tech World大會，會上聯(lián)想CEO楊元慶與Meta創(chuàng)始人兼CEO馬克?扎克伯格共同宣布了一項重要合作。雙方基于Meta的Llama大模型，推出了面向PC的個人AI智能體——AI Now。

2024-10-17 16:58:49

1261

Llama 3 語言模型應用

在人工智能領域，語言模型的發(fā)展一直是研究的熱點。隨著技術的不斷進步，我們見證了從簡單的關鍵詞匹配到復雜的上下文理解的轉變。一、Llama 3 語言模型的核心功能上下文理解：Llama 3 能夠

2024-10-27 14:15:51

1221

Llama 3 模型與其他AI工具對比

Llama 3模型與其他AI工具的對比可以從多個維度進行，包括但不限于技術架構、性能表現(xiàn)、應用場景、定制化能力、開源與成本等方面。以下是對Llama 3模型與其他一些主流AI工具的對比分析：一

2024-10-27 14:37:04

1677

Meta發(fā)布Llama 3.2量化版模型

近日，Meta在開源Llama 3.2的1B與3B模型后，再次為人工智能領域帶來了新進展。10月24日，Meta正式推出了這兩個模型的量化版本，旨在進一步優(yōu)化模型性能，拓寬其應用場景。

2024-10-29 11:05:25

1251

高通與智譜推動多模態(tài)生成式AI體驗的終端側部署

此前，驍龍峰會首日，智譜與高通技術公司宣布合作將GLM-4V端側視覺大模型，面向驍龍8至尊版進行深度適配和推理優(yōu)化，支持豐富的多模態(tài)交互方式，進一步推動多模態(tài)生成式AI在終端側的部署和推廣，賦能更加情境化、個性化的終端側智能體驗。

2024-11-08 09:55:11

1295

在設備上利用AI Edge Torch生成式API部署自定義大語言模型

我們很高興地發(fā)布 AI Edge Torch 生成式 API，它能將開發(fā)者用 PyTorch 編寫的高性能大語言模型 (LLM) 部署至 TensorFlow Lite (TFLite) 運行時

2024-11-14 10:23:23

1899

用Ollama輕松搞定Llama 3.2 Vision模型本地部署

Ollama的安裝。一，Llama3.2 Vision簡介 Llama 3.2 Vision是一個多模態(tài)大型語言模型（LLMs）的集合，它包括預訓練和指令調整的圖像推理生成模型，有兩種參數(shù)規(guī)模

2024-11-23 17:22:25

4547

使用NVIDIA TensorRT提升Llama 3.2性能

Llama 3.2 模型集擴展了 Meta Llama 開源模型集的模型陣容，包含視覺語言模型（VLM)、小語言模型（SLM）和支持視覺的更新版 Llama Guard 模型。與 NVIDIA 加速

2024-11-20 09:59:47

1373

Meta推出Llama 3.3 70B，AI大模型競爭白熱化

在今年的AI領域，Meta也不甘落后，推出了其壓軸之作——Llama 3.3 70B大模型。與此同時，馬斯克的xAI也宣布其Grok模型從今天起全球免費開放(但存在一定的使用限制)。 Meta

2024-12-09 14:50:23

1053

Meta推出Metamate AI工具，進軍企業(yè)市場

基于Meta的大型語言模型Llama構建，集成了先進的自然語言處理技術和深度學習算法。它能夠幫助員工進行編程、開展研究，以及起草內部和外部的溝通文稿，極大地提高了工作效率和質量。據(jù)了解，Metamate以Meta集團員工的內部名稱命名，體現(xiàn)了Meta對于員工智慧和創(chuàng)意的重視。通過

2024-12-09 14:57:59

1456

Meta發(fā)布新AI模型Meta Motivo，旨在提升元宇宙體驗

Meta在人工智能領域邁出了重要一步。通過這款模型，Meta希望能夠為用戶提供更加自然、流暢的元宇宙交互體驗。數(shù)字代理在元宇宙中的動作將更加逼真，從而增強用戶的沉浸感和參與度。除了Meta Motivo，Meta還發(fā)布了多款其他AI模型，并供開發(fā)人員免費使用。Meta認為，通過開

2024-12-16 10:34:18

1416