91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

虹科干貨 | Redis?Enterprise?自動(dòng)分層技術(shù):大數(shù)據(jù)集高性能解決方案

廣州虹科電子 ? 來源:虹科云科技 ? 作者:虹科云科技 ? 2023-10-19 11:19 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

文章來源:虹科云科技

越來越多的應(yīng)用程序依賴于龐大的數(shù)據(jù)集合,而這些應(yīng)用程序必須快速響應(yīng)。借助自動(dòng)分層,Redis Enterprise 7.2 幫助開發(fā)人員輕松創(chuàng)建超快的應(yīng)用程序。何樂而不為?

Redis將數(shù)據(jù)存儲在內(nèi)存中,因此應(yīng)用程序能以最快的速度檢索和處理數(shù)據(jù)。然而,隨著應(yīng)用程序需要處理的數(shù)據(jù)越多,存儲數(shù)據(jù)集所需的內(nèi)存越大,所耗費(fèi)的成本則更高,Redis Enterprise自動(dòng)分層技術(shù)能很好地化解這個(gè)兩難的局面。

一、問題:內(nèi)存有限且昂貴

當(dāng)應(yīng)用程序訪問的數(shù)據(jù)量很大,例如達(dá)到TB級時(shí),開發(fā)人員就面臨著內(nèi)存有限的問題,他們一般使用基于磁盤的解決方案來在幕后支持 Redis。這樣一來,開發(fā)人員就不得不在應(yīng)用程序中構(gòu)建整個(gè)數(shù)據(jù)管理系統(tǒng),這意味著他們要把時(shí)間花在不相干的任務(wù)上。

利用Redis Enterprise 的自動(dòng)分層功能 ,開發(fā)人員可以使用固態(tài)硬盤(SSD)作為可用內(nèi)存的一部分,將大容量數(shù)據(jù)庫擴(kuò)展到SSD中。Redis Enterprise 可以隨時(shí)識別哪些數(shù)據(jù)應(yīng)留在內(nèi)存中,哪些數(shù)據(jù)應(yīng)留在固態(tài)硬盤上,從而將吞吐量提高一倍,并將延遲減半。

因此,開發(fā)人員無需編寫額外的代碼或?qū)W習(xí)其他新技術(shù)。通過將動(dòng)態(tài)RAM 與高速外部存儲相結(jié)合,Redis Enterprise 可以輕松高效地使用系統(tǒng)資源,同時(shí)還能快速訪問熱數(shù)據(jù)。

二、自動(dòng)分層的工作原理
image.png

自動(dòng)分層可自動(dòng)管理數(shù)據(jù)。它會將熱數(shù)據(jù)轉(zhuǎn)移到DRAM,并智能地將未使用的數(shù)據(jù)轉(zhuǎn)移到 SSD。這為依賴大型數(shù)據(jù)集的應(yīng)用帶來了新的可能性。

通過將訪問頻率較低的冷數(shù)據(jù)轉(zhuǎn)移到固態(tài)硬盤,開發(fā)人員可以優(yōu)化內(nèi)存使用,降低與大容量內(nèi)存需求相關(guān)的成本。

實(shí)際上,這可以使數(shù)據(jù)量大的應(yīng)用程序運(yùn)行得更快,而無需開發(fā)人員額外付出。與僅使用DRAM 的部署相比,它還能節(jié)省高達(dá) 70% 的基礎(chǔ)硬件設(shè)施成本。而且,由于自動(dòng)分層可以高效地自動(dòng)管理數(shù)據(jù)訪問模式,因此您無需花費(fèi)時(shí)間(計(jì)算或人工篩選)來識別熱數(shù)據(jù)和冷數(shù)據(jù)。

image.png

為了增強(qiáng)這一功能,Redis 與創(chuàng)新的鍵值存儲引擎 Speedb 建立了戰(zhàn)略合作伙伴關(guān)系。我們將其技術(shù)整合為默認(rèn)的自動(dòng)分層引擎。

集成Speedb 后,Redis Enterprise 的性能顯著提升,在訪問相同資源的情況下,吞吐量翻倍,延遲減半。這大大拓寬了可利用自動(dòng)分層優(yōu)勢的用例范圍。在這一改進(jìn)之后,Redis Enterprise 使用自動(dòng)分層的數(shù)據(jù)庫規(guī)模由每個(gè)內(nèi)核 5k ops/秒增至10k ops/秒。

image.png

三、數(shù)據(jù)案例

我們來看一個(gè)案例。

下圖展示了自動(dòng)分層在實(shí)際工作負(fù)載場景中的性能演變示例。藍(lán)色條代表使用以前的存儲引擎(RocksDB)的 Redis Enterprise 6.4,紅色條代表使用 Speedb 的 Redis Enterprise 7.2。在基礎(chǔ)設(shè)施方面,我們使用 I4i.8xlarge AWS 實(shí)例在 10 個(gè)分片上托管 1TB 數(shù)據(jù)庫,為實(shí)現(xiàn)高可用性,采用總共 20 個(gè)分片,為 1,024 個(gè)客戶端提供服務(wù)。

為了模擬最標(biāo)準(zhǔn)的Redis 用例,我們在 20% DRAM 和 80% SSD 的配置上定義了兩種不同的有效載荷(1KiB 和 10KiB),并提供了三種可能的使用模式:平衡讀/寫(1:1)、重讀(1:4)和重寫(4:1)。在這兩種情況下,我們測量了以每秒操作數(shù)為單位的吞吐量和相應(yīng)的延遲。以下圖表顯示了結(jié)果。

image.png

RAM/SSD數(shù)據(jù)占比2:8,單次操作1KB值

RS 6.4 (RocksDB) 相比,RS 7.2 (Speedb) 改進(jìn)了:

· 85% 命中率時(shí):每秒操作次數(shù)增加 1.4 倍至 1.6 倍,同時(shí)延遲降低高達(dá) 2.4 倍

· 50% 命中率時(shí):每秒操作次數(shù)增加 1.9 倍至 2.3 倍,同時(shí)延遲降低高達(dá) 3.8 倍image.png

RAM/SSD數(shù)據(jù)占比2:8,單次操作10KB值

與RS 6.4 (RocksDB) 相比,RS 7.2 (Speedb) 改進(jìn)了:

· 85% 命中率時(shí):每秒操作次數(shù)增加 2.3 倍至 3.0 倍,同時(shí)延遲降低高達(dá) 3.0 倍

· 50% 命中率時(shí):每秒操作次數(shù)增加 2.1 倍至 3.5 倍,同時(shí)延遲降低高達(dá) 3.5 倍

在所有情況下,帶有Speedb 的 Redis Enterprise 7.2 都具有更好的吞吐量,這意味著維持這種性能水平所需的應(yīng)用程序速度更快,基礎(chǔ)設(shè)施更少。

四、應(yīng)用場景

自動(dòng)分層尤其適用于將數(shù)據(jù)分為熱數(shù)據(jù)和冷數(shù)據(jù)的情況。

1.移動(dòng)銀行

讓我們來看看移動(dòng)銀行應(yīng)用的例子。

如今,每個(gè)人的移動(dòng)設(shè)備上都有銀行應(yīng)用程序。 用戶登錄應(yīng)用程序,獲取余額,查看最后一筆交易,并獲取其他相對較小和集中的信息。 每個(gè)人都希望這一過程流暢、簡單、即時(shí)。這些數(shù)據(jù)就是我們的熱數(shù)據(jù),存放在Redis Enterprise 數(shù)據(jù)庫的 DRAM 中。

用戶希望獲得更多信息的情況并不常見,例如舊交易記錄--也許是兩年前的稅務(wù)數(shù)據(jù)。用戶需要訪問這些數(shù)據(jù),但數(shù)據(jù)訪問速度并不那么重要。這種數(shù)據(jù)集是我們的冷數(shù)據(jù),可以保存在高速外部存儲如固態(tài)硬盤中。

2.游戲行業(yè)

速度在游戲行業(yè)也很重要。例如, 游戲應(yīng)用對延遲有嚴(yán)格要求 。另外,從本質(zhì)上講,游戲是一種潮流。隨著時(shí)間的推移,游戲公司會積累越來越多的用戶數(shù)據(jù),并將其存儲在用戶資料數(shù)據(jù)庫中,但并非所有用戶都是活躍用戶。通過自動(dòng)分層,活躍用戶的資料數(shù)據(jù)可以存儲在DRAM 中,而其他用戶的數(shù)據(jù)則存儲在 SSD 中。

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 內(nèi)存
    +關(guān)注

    關(guān)注

    9

    文章

    3209

    瀏覽量

    76357
  • 固態(tài)硬盤
    +關(guān)注

    關(guān)注

    12

    文章

    1634

    瀏覽量

    60487
  • 大數(shù)據(jù)
    +關(guān)注

    關(guān)注

    64

    文章

    9062

    瀏覽量

    143740
  • Redis
    +關(guān)注

    關(guān)注

    0

    文章

    392

    瀏覽量

    12185
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    owa5X 無線嵌入式計(jì)算機(jī) 工業(yè)級邊緣計(jì)算終端與車載網(wǎng)關(guān)優(yōu)選

    從工業(yè)級邊緣計(jì)算終端到車載高性能邊緣計(jì)算網(wǎng)關(guān),從工業(yè)級嵌入式計(jì)算機(jī)到邊緣智能解決方案, owa5X 無線嵌入式計(jì)算機(jī)以高性能、高可靠、高
    的頭像 發(fā)表于 02-10 17:08 ?101次閱讀
    <b class='flag-5'>虹</b><b class='flag-5'>科</b> owa5X 無線嵌入式計(jì)算機(jī) 工業(yè)級邊緣計(jì)算終端與車載網(wǎng)關(guān)優(yōu)選

    LMK5B33216:以太網(wǎng)網(wǎng)絡(luò)同步的高性能解決方案

    LMK5B33216:以太網(wǎng)網(wǎng)絡(luò)同步的高性能解決方案 在以太網(wǎng)網(wǎng)絡(luò)應(yīng)用中,時(shí)鐘同步和抖動(dòng)控制是確保數(shù)據(jù)準(zhǔn)確傳輸和系統(tǒng)穩(wěn)定運(yùn)行的關(guān)鍵因素。TI的LMK5B33216網(wǎng)絡(luò)同步器憑借其卓越的性能和豐
    的頭像 發(fā)表于 02-06 16:30 ?853次閱讀

    SRC4392:專業(yè)數(shù)字音頻系統(tǒng)的高性能解決方案

    SRC4392:專業(yè)數(shù)字音頻系統(tǒng)的高性能解決方案 在專業(yè)和廣播數(shù)字音頻系統(tǒng)的設(shè)計(jì)領(lǐng)域,音頻處理和傳輸?shù)馁|(zhì)量與穩(wěn)定性至關(guān)重要。德州儀器的SRC4392芯片,作為一款高度集成的CMOS設(shè)備,為這一
    的頭像 發(fā)表于 02-03 10:15 ?178次閱讀

    分享 | SocTek IP Cores:FPGA高端網(wǎng)絡(luò)與時(shí)間同步解決方案

    當(dāng)現(xiàn)代工業(yè)自動(dòng)化、航空航天和關(guān)鍵基礎(chǔ)設(shè)施系統(tǒng)對通信可靠性的要求達(dá)到「零容忍」級別時(shí),傳統(tǒng)解決方案往往力不從心。系統(tǒng)需要確保數(shù)據(jù)包精確準(zhǔn)時(shí)到達(dá),不容許毫秒級的延遲或丟失。
    的頭像 發(fā)表于 01-21 17:03 ?1920次閱讀
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>分享 | SocTek IP Cores:FPGA高端網(wǎng)絡(luò)與時(shí)間同步<b class='flag-5'>解決方案</b>

    國產(chǎn)高性能ONFI IP解決方案全解析

    )時(shí)代,數(shù)據(jù)存儲的吞吐量瓶頸日益凸顯,高性能的ONFI IP能夠確保大規(guī)模數(shù)據(jù)的高效存取,是SSD及先進(jìn)存儲系統(tǒng)的核心技術(shù)基石。2. 奎芯科技 ONFI IP 的核心
    發(fā)表于 01-13 16:15

    PEAK解決方案

    PEAK解決方案
    發(fā)表于 12-19 14:45 ?0次下載

    車載以太網(wǎng)解決方案:全面賦能智能汽車與無人駕駛通信

    車載以太網(wǎng)解決方案高性能硬件、全棧測試工具與專業(yè)服務(wù),成為車企實(shí)現(xiàn)無人駕駛、車隊(duì)管理的理想選擇。無論是高速物流還是礦山極端環(huán)境,
    的頭像 發(fā)表于 12-19 09:51 ?337次閱讀

    探索DLP4621-Q1:汽車外部照明的高性能解決方案

    探索DLP4621-Q1:汽車外部照明的高性能解決方案 在汽車電子領(lǐng)域,照明系統(tǒng)的性能和創(chuàng)新一直是關(guān)注的焦點(diǎn)。DLP4621-Q1作為一款適用于汽車外部照明的數(shù)字微鏡器件,為汽車前照燈系統(tǒng)
    的頭像 發(fā)表于 12-10 16:14 ?537次閱讀
    探索DLP4621-Q1:汽車外部照明的<b class='flag-5'>高性能解決方案</b>

    動(dòng)態(tài) | ×長城汽車技術(shù)交流日圓滿落幕!

    11月25日,攜手長城汽車在保定·長城技術(shù)中心成功舉辦“X長城汽車技術(shù)交流日”系列wor
    的頭像 發(fā)表于 11-28 17:07 ?2091次閱讀
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>動(dòng)態(tài) | <b class='flag-5'>虹</b><b class='flag-5'>科</b>×長城汽車<b class='flag-5'>技術(shù)</b>交流日圓滿落幕!

    方案 | 數(shù)據(jù)不缺位,監(jiān)控不滯后:車輛信息遠(yuǎn)程監(jiān)控系統(tǒng)

    不丟+解析直達(dá)」的設(shè)計(jì),給出了落地級解決方案。01.系統(tǒng)內(nèi)核全域捕獲,云端無縫同步車輛信息遠(yuǎn)程監(jiān)控系統(tǒng)旨在打破數(shù)據(jù)孤島,提供從車輛邊緣到云端的完整
    的頭像 發(fā)表于 09-18 17:33 ?830次閱讀
    <b class='flag-5'>虹</b><b class='flag-5'>科</b><b class='flag-5'>方案</b> | <b class='flag-5'>數(shù)據(jù)</b>不缺位,監(jiān)控不滯后:<b class='flag-5'>虹</b><b class='flag-5'>科</b>車輛信息遠(yuǎn)程監(jiān)控系統(tǒng)

    直播回顧 | 硬核干貨放送,CAN總線應(yīng)用層直播助您告別低效聯(lián)調(diào),破解車載網(wǎng)絡(luò)開發(fā)核心難題

    ?直播想要系統(tǒng)學(xué)習(xí)CAN總線知識,提升開發(fā)效率和項(xiàng)目交付質(zhì)量?想要了解行業(yè)成功案例和高效工具鏈,幫助團(tuán)隊(duì)評估新技術(shù)方案、控制風(fēng)險(xiǎn)?歡迎關(guān)注
    的頭像 發(fā)表于 09-17 17:39 ?813次閱讀
    直播回顧 | 硬核<b class='flag-5'>干貨</b>放送,<b class='flag-5'>虹</b><b class='flag-5'>科</b>CAN總線應(yīng)用層直播助您告別低效聯(lián)調(diào),破解車載網(wǎng)絡(luò)開發(fā)核心難題

    品牌故事 | 宏科技:工業(yè)物聯(lián)網(wǎng)和工業(yè)測量領(lǐng)域一站式解決方案提供商

    /測量等獨(dú)立的業(yè)務(wù)板塊,致力于為行業(yè)客戶提供創(chuàng)新及前沿的產(chǎn)品和技術(shù)解決方案,為科技社會發(fā)展助力加碼。無論是最初的工業(yè)物聯(lián)網(wǎng)事業(yè)部,還是現(xiàn)在的宏
    的頭像 發(fā)表于 08-08 18:24 ?589次閱讀
    品牌故事 | 宏<b class='flag-5'>集</b>科技:工業(yè)物聯(lián)網(wǎng)和工業(yè)測量領(lǐng)域一站式<b class='flag-5'>解決方案</b>提供商

    Redis集群部署與性能優(yōu)化實(shí)戰(zhàn)

    Redis作為高性能的內(nèi)存數(shù)據(jù)庫,在現(xiàn)代互聯(lián)網(wǎng)架構(gòu)中扮演著關(guān)鍵角色。作為運(yùn)維工程師,掌握Redis的部署、配置和優(yōu)化技能至關(guān)重要。本文將從實(shí)戰(zhàn)角度出發(fā),詳細(xì)介紹
    的頭像 發(fā)表于 07-08 17:56 ?847次閱讀

    快手上線鴻蒙應(yīng)用高性能解決方案數(shù)據(jù)反序列化性能提升90%

    近日,快手在Gitee平臺上線了鴻蒙應(yīng)用性能優(yōu)化解決方案“QuickTransformer”,該方案針對鴻蒙應(yīng)用開發(fā)中廣泛使用的三方庫“class-transformer”進(jìn)行了深度優(yōu)化,有效提升
    發(fā)表于 05-15 10:01

    快手上線鴻蒙應(yīng)用高性能解決方案

    近日,快手在Gitee平臺上線了鴻蒙應(yīng)用性能優(yōu)化解決方案“QuickTransformer”,該方案針對鴻蒙應(yīng)用開發(fā)中廣泛使用的三方庫“class-transformer”進(jìn)行了深度優(yōu)化,有效提升
    的頭像 發(fā)表于 05-14 09:11 ?1207次閱讀
    快手上線鴻蒙應(yīng)用<b class='flag-5'>高性能解決方案</b>