91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

或許我們都被分庫分表約束了思維

京東云 ? 來源:張俊杰 ? 作者:張俊杰 ? 2025-02-21 09:51 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

作者:張俊杰

概述

這篇文章沒什么太多的干貨,純純是一篇討論和思考帖。

從業(yè)數(shù)據(jù)庫領(lǐng)域三年有余了,從分庫分表中間件到數(shù)據(jù)庫團(tuán)隊(duì)內(nèi)核學(xué)到了很多東西。也接觸了很多項(xiàng)目,包括TiDB、Vitess、Polardb、StarDB等等。

國(guó)內(nèi)的項(xiàng)目好像很多都聚焦于分庫分表的概念,包括很多的數(shù)據(jù)庫團(tuán)隊(duì)都在嘗試這個(gè)概念的落地和沉溺于性能的跑分。

最近我在預(yù)覽MySQL官方,看到了Partitioning的概念,而且占據(jù)了很大的篇幅。不由得引人思考,為什么這個(gè)概念在我接觸的業(yè)務(wù)中沒有被廣泛的使用呢?或許我們將來可以有分庫分區(qū)的概念?

接下來從頭縷一下數(shù)據(jù)庫選型的問題吧(以下均以MySQL的Innodb場(chǎng)景為例):

分表、分區(qū)、分庫有什么用處

在那個(gè)遠(yuǎn)古的時(shí)代,物理機(jī)器的配置很低,當(dāng)數(shù)據(jù)量增大的時(shí)候,傳統(tǒng)的B+樹的高度會(huì)越來越高,我們對(duì)硬件資源的要求很高,機(jī)器往往內(nèi)存爆倉、IO打滿等等。

這導(dǎo)致:

查詢速度顯著下降。復(fù)雜的查詢、索引失效、全表掃描等操作變得緩慢。

在大表中創(chuàng)建和維護(hù)索引可能會(huì)消耗大量的時(shí)間和資源。插入、更新和刪除操作可能需要花費(fèi)更長(zhǎng)的時(shí)間來維護(hù)索引,導(dǎo)致性能下降。

讀寫操作可能導(dǎo)致鎖沖突,降低系統(tǒng)的并發(fā)處理能力,甚至引發(fā)死鎖問題。

備份、恢復(fù)、數(shù)據(jù)清理、空間管理等操作變得困難,維護(hù)成本和風(fēng)險(xiǎn)增加。

等等。。

后來我們引出了第一個(gè)概念:分表

分表

在 5.1版本以前,MySQL并沒有分區(qū)的概念,為了解決這個(gè)問題,無非是單表拆成雙表、多表之類的,這樣將一個(gè)表要面臨的問題分散成了兩個(gè)表或者多個(gè)表共同承受。

反思當(dāng)下,在當(dāng)前這個(gè)物理資源冗余的時(shí)代,大部分業(yè)務(wù)場(chǎng)景下我們的單表真的會(huì)比分表的性能差很多嗎?有多少時(shí)候我們是為了分表而分表?我們的分表邏輯或許需要我們支持更多的功能,比如彈性、事務(wù)、一些查詢語句的改寫,然后一遍一遍的造輪子給運(yùn)維帶來無盡的痛苦。

分庫

分表的解決能力還是有限的,我們一臺(tái)物理機(jī)器的能力也是有限的,這時(shí)候或許我們可以采用分表的形式,來避免熱點(diǎn)問題或者單機(jī)器壓力過載的問題。

將一個(gè)庫要面臨的問題分散成了兩個(gè)庫或者多個(gè)庫共同承受。

分區(qū)

?相關(guān)文檔

在5.1版本以后MySQL出了一個(gè)國(guó)內(nèi)幾乎無人問津的分區(qū)表的功能。

分區(qū)表的實(shí)現(xiàn)原理其實(shí)和分表差不太多,不過它更靠近文件系統(tǒng),而沒有經(jīng)過MySQL的應(yīng)用層或者引擎層。MySQL的物理數(shù)據(jù),存儲(chǔ)在表空間文件(.ibdata1和.ibd)中,這里講的分區(qū)的意思是指將同一表中不同行的記錄分配到不同的物理文件中,幾個(gè)分區(qū)就有幾個(gè).idb文件。

隨著 MySQL 版本的更新迭代,分區(qū)功能也在后續(xù)版本中不斷得到改進(jìn)和增強(qiáng)。具體的分區(qū)功能支持情況如下:

?MySQL 5.1:引入了 Range 和 List 兩種分區(qū)類型。支持基本的分區(qū)管理和查詢優(yōu)化。

?MySQL 5.5:對(duì)分區(qū)表的查詢優(yōu)化有所改進(jìn),提升了性能。

?MySQL 5.6:引入了更多的分區(qū)管理功能,包括 subpartition 子分區(qū)、分區(qū)交換操作、CHECK 約束等。

?MySQL 5.7:進(jìn)一步增強(qiáng)了分區(qū)表的功能,包括 hash 分區(qū)類型、NOWAIT 選項(xiàng)、ALTER TABLE ... EXCHANGE PARTITION 和 ALTER TABLE ... REBUILD PARTITION 等操作。

?MySQL 8.0:繼續(xù)對(duì)分區(qū)表進(jìn)行優(yōu)化和增強(qiáng),包括對(duì)于自動(dòng)生成分區(qū)鍵值、分區(qū)表的查詢性能提升等方面的改進(jìn)。

這樣看起來,這不完全Cover住了分表的概念嗎?甚至,這不比業(yè)界的分表做的還要好嗎。

那為什么我們還要癡迷于分表,或許我們可以采用分區(qū)的邏輯吧?

當(dāng)然,還有一些延伸到運(yùn)維操作,舉個(gè)例子:

分區(qū)表怎么擴(kuò)容

詳見 ALTER TABLE 語句

1.創(chuàng)建新分區(qū):使用 ALTER TABLE 命令添加新的分區(qū)。例如,如果是按照時(shí)間范圍分區(qū)的表,可以增加新的時(shí)間范圍的分區(qū)。

ALTER TABLE your_partitioned_table
ADD PARTITION (PARTITION p_new VALUES LESS THAN (new_value));

這里的 new_value 是新的分區(qū)范圍。

2. 數(shù)據(jù)遷移:使用 ALTER TABLE ... REORGANIZE PARTITION 命令將現(xiàn)有分區(qū)中的數(shù)據(jù)遷移到新的分區(qū)中。例如,可以通過將舊分區(qū)的數(shù)據(jù)移動(dòng)到新分區(qū)來實(shí)現(xiàn)。

ALTER TABLE your_partitioned_table
REORGANIZE PARTITION old_partition INTO
(PARTITION p_new VALUES LESS THAN (new_value));

這里的 old_partition 是要移動(dòng)數(shù)據(jù)的舊分區(qū)。

3. 數(shù)據(jù)清理(可選):在確認(rèn)數(shù)據(jù)遷移成功后,可以考慮清理不再需要的舊分區(qū)。使用 ALTER TABLE ... DROP PARTITION 命令可以刪除不再需要的舊分區(qū)。

ALTER TABLE your_partitioned_table
DROP PARTITION old_partition;

這里的 old_partition 是要?jiǎng)h除的舊分區(qū)。

顯而易見,這是一個(gè)原地?cái)U(kuò)容操作,我們或許不需要引入什么復(fù)雜的組建或者邏輯去做resharding。

落地方案猜測(cè)

我們或許可以在單表業(yè)務(wù)場(chǎng)景下遇到問題瓶頸后采用分區(qū)的概念,如果分區(qū)不夠可以采用原地?cái)U(kuò)容邏輯。當(dāng)機(jī)器達(dá)到瓶頸后采用分庫的概念達(dá)成分庫分區(qū)的邏輯。

這只是一個(gè)猜想,對(duì)于我們的數(shù)據(jù)庫廠商,其實(shí)只需要將這套邏輯維護(hù)好做到高可用的邏輯即可。

當(dāng)然,圍繞著分區(qū)和物理數(shù)據(jù)庫我們還有很多擴(kuò)展內(nèi)容可以去做,但是這篇文章旨在說明,或許我們不應(yīng)該被分庫分表約束了思維,或許我們不需要做分布式的邏輯,或許在機(jī)器性能良好的場(chǎng)景下我們單機(jī)器就可以cover住我們的數(shù)據(jù)量。

此外,一個(gè)數(shù)據(jù)庫產(chǎn)品或許應(yīng)該做到serverless的概念,我們用戶不需要理解這么多的邏輯,至于分區(qū)或許這個(gè)看MySQL文檔都可以學(xué)習(xí)到。

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • MySQL
    +關(guān)注

    關(guān)注

    1

    文章

    905

    瀏覽量

    29517
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    Vivado時(shí)序約束中invert參數(shù)的作用和應(yīng)用場(chǎng)景

    在Vivado的時(shí)序約束中,-invert是用于控制信號(hào)極性的特殊參數(shù),應(yīng)用于時(shí)鐘約束(Clock Constraints)和延遲約束(Delay Constraints)中,用于指定信號(hào)的有效邊沿或邏輯極性。
    的頭像 發(fā)表于 02-09 13:49 ?207次閱讀
    Vivado時(shí)序<b class='flag-5'>約束</b>中invert參數(shù)的作用和應(yīng)用場(chǎng)景

    vivado中常用時(shí)序約束指令介紹

    在vivado中,我們常用的時(shí)序約束指令主要包括如下幾個(gè)方面。
    的頭像 發(fā)表于 01-20 16:15 ?296次閱讀

    輸入引腳時(shí)鐘約束_Xilinx FPGA編程技巧-常用時(shí)序約束詳解

    一、輸入約束Input ConstraintOFFSET IN約束限定輸入數(shù)據(jù)和輸入時(shí)鐘邊沿的關(guān)系。 1. 系統(tǒng)同步輸入約束System Synchronous Input 在系
    發(fā)表于 01-16 08:19

    從軟件到硬件的轉(zhuǎn)場(chǎng):一場(chǎng)由OceanOS-CM0啟發(fā)的嵌入式思考

    編程的軟件開發(fā)者,初次接觸硬件時(shí),那種面對(duì)具體物理世界的“手足無措”感十強(qiáng)烈。然而,OceanOS-CM0開發(fā)板及其配套資料卻提供一種獨(dú)特的橋梁——它讓我看到,軟硬件之間的鴻溝并非不可逾越,關(guān)鍵在于
    發(fā)表于 01-04 15:52

    基于MCU200T的蜂鳥E203不上板跑教程

    : (1)System文件 地址:e203_hbirdv2-master/e203_hbirdv2-master/fpga/mcu200t/src/system.v (這里我們選用的是mcu200t
    發(fā)表于 10-24 11:54

    時(shí)序約束問題的解決辦法

    Time 是否滿足約束。 我們要留意的是 WNS 和 WHS 兩個(gè)數(shù)值,如果這兩個(gè)數(shù)值為紅色,就說明時(shí)序不滿足約束。下面將解釋怎么解決這個(gè)問題。 1. Setup Time 違例 Setup
    發(fā)表于 10-24 09:55

    關(guān)于綜合保持時(shí)間約束不滿足的問題

    clock interaction,得到以下結(jié)果: 5、異步時(shí)鐘設(shè)置完成后,再重新綜合得到時(shí)序報(bào)告如下: 時(shí)序約束滿足。
    發(fā)表于 10-24 07:42

    技術(shù)資訊 I Allegro 設(shè)計(jì)中的走線約束設(shè)計(jì)

    ,能夠在走線的時(shí)候清楚的知道目標(biāo)在哪里,允許的誤差是多少、最小間距等。上期我們介紹了如何使用cadenceAllegro的規(guī)則“約束”孔,實(shí)現(xiàn)一鍵式快速生成孔;本期我
    的頭像 發(fā)表于 09-05 15:19 ?1325次閱讀
    技術(shù)資訊 I Allegro 設(shè)計(jì)中的走線<b class='flag-5'>約束</b>設(shè)計(jì)

    技術(shù)資訊 I 圖文詳解約束管理器-差分對(duì)規(guī)則約束

    !Allegro約束管理器搞差分對(duì),簡(jiǎn)直是把高速設(shè)計(jì)的「地獄模式」切換成「新手村」!上期我們介紹盲/埋孔的使用,本期我們將教會(huì)大家如何使用Cadence的
    的頭像 發(fā)表于 08-08 17:01 ?1194次閱讀
    技術(shù)資訊 I 圖文詳解<b class='flag-5'>約束</b>管理器-差分對(duì)規(guī)則<b class='flag-5'>約束</b>

    RISC-V 的平臺(tái)思維和生態(tài)思維

    Doorn 認(rèn)為,RISC-V 擴(kuò)展要擁抱 “平臺(tái)思維” 和 “生態(tài)思維”。 ? 在 7 月 17 日舉辦的第五屆(2025)RISC-V 中國(guó)峰會(huì)主論壇上,Leendert van Doorn 談到
    發(fā)表于 07-17 14:04 ?4180次閱讀

    PCB Layout 約束管理,助力優(yōu)化設(shè)計(jì)

    本文重點(diǎn)PCBlayout約束管理在設(shè)計(jì)中的重要性Layout約束有助避免一些設(shè)計(jì)問題設(shè)計(jì)中可以使用的不同約束在PCB設(shè)計(jì)規(guī)則和約束管理方面,許多設(shè)計(jì)師試圖采用“一刀切”的方法,認(rèn)為同
    的頭像 發(fā)表于 05-16 13:02 ?1041次閱讀
    PCB Layout <b class='flag-5'>約束</b>管理,助力優(yōu)化設(shè)計(jì)

    PanDao:實(shí)際約束條件下成像系統(tǒng)的初始結(jié)構(gòu)的生成

    的平均RMS光斑尺寸約為55 μm,色差校正效果中等?;谕纫?guī)格與約束,我們采用自主研發(fā)的FTR初始透鏡生成器,在數(shù)分鐘內(nèi)即創(chuàng)建出多個(gè)更加優(yōu)質(zhì)的設(shè)計(jì)方案。圖1展示由FTR程序生成的五類不同透鏡系統(tǒng)
    發(fā)表于 05-07 08:57

    FPGA時(shí)序約束之設(shè)置時(shí)鐘組

    Vivado中時(shí)序分析工具默認(rèn)會(huì)分析設(shè)計(jì)中所有時(shí)鐘相關(guān)的時(shí)序路徑,除非時(shí)序約束中設(shè)置時(shí)鐘組或false路徑。使用set_clock_groups命令可以使時(shí)序分析工具不分析時(shí)鐘組中時(shí)鐘的時(shí)序路徑,使用set_false_path約束
    的頭像 發(fā)表于 04-23 09:50 ?1336次閱讀
    FPGA時(shí)序<b class='flag-5'>約束</b>之設(shè)置時(shí)鐘組

    一文詳解Vivado時(shí)序約束

    Vivado的時(shí)序約束是保存在xdc文件中,添加或創(chuàng)建設(shè)計(jì)的工程源文件后,需要?jiǎng)?chuàng)建xdc文件設(shè)置時(shí)序約束。時(shí)序約束文件可以直接創(chuàng)建或添加已存在的約束文件,創(chuàng)建
    的頭像 發(fā)表于 03-24 09:44 ?4828次閱讀
    一文詳解Vivado時(shí)序<b class='flag-5'>約束</b>

    VirtualLab Fusion應(yīng)用:使用自定義的評(píng)價(jià)函數(shù)優(yōu)化高NA束器

    ,我們演示兩種具有不同配置目標(biāo)和約束的優(yōu)化: ?在優(yōu)化#1中,優(yōu)先考慮均勻性誤差。 ?在優(yōu)化#2中,0級(jí)也要最小化。 關(guān)于評(píng)價(jià)函數(shù)約束,用戶可以指定 ?單獨(dú)的目標(biāo)值、范圍、下限或上限
    發(fā)表于 03-07 08:54