关于数据库:实现一个简单的Database10译文

71次阅读

共计 11411 个字符，预计需要花费 29 分钟才能阅读完成。

  • GreatSQL 社区原创内容未经受权不得随便应用，转载请分割小编并注明起源。
  • GreatSQL 是 MySQL 的国产分支版本，应用上与 MySQL 统一。
  • 作者：花家舍
  • 文章起源：GreatSQL 社区原创

前文回顾

  • 实现一个简略的 Database 系列

译注：cstack 在 github 保护了一个简略的、相似 sqlite 的数据库实现，通过这个简略的我的项目，能够很好的了解数据库是如何运行的。本文是第十篇，次要是实现 B -tree 中叶子节点决裂

Part 10 叶子节点决裂

咱们 B-Tree 只有一个节点，这看起来不太像一棵规范的 tree。为了解决这个问题，须要一些代码来实现决裂叶子节点。在那之后，须要创立一个外部节点，使其成为两个新的叶子节点的父节点。

基本上，咱们这个系列的文章的指标是从这里开始的：

one-node btree

到这样：

two-level btree

首先中的首先，先把解决节点写满谬误移除掉：

void leaf_node_insert(Cursor* cursor, uint32_t key, Row* value) {void* node = get_page(cursor->table->pager, cursor->page_num);

  uint32_t num_cells = *leaf_node_num_cells(node);
  if (num_cells >= LEAF_NODE_MAX_CELLS) {
    // Node full
-    printf("Need to implement splitting a leaf node.\n");
-    exit(EXIT_FAILURE);
+    leaf_node_split_and_insert(cursor, key, value);
+    return;
  }
ExecuteResult execute_insert(Statement* statement, Table* table) {void* node = get_page(table->pager, table->root_page_num);
   uint32_t num_cells = (*leaf_node_num_cells(node));
-  if (num_cells >= LEAF_NODE_MAX_CELLS) {
-    return EXECUTE_TABLE_FULL;
-  }

   Row* row_to_insert = &(statement->row_to_insert);
   uint32_t key_to_insert = row_to_insert->id;

决裂算法（Splitting Algorithm）

简略的局部完结了。以下是咱们须要做的事件的形容（出自：SQLite Database System: Design and Implementation）
原文：If there is no space on the leaf node, we would split the existing entries residing there and the new one (being inserted) into two equal halves: lower and upper halves. (Keys on the upper half are strictly greater than those on the lower half.) We allocate a new leaf node, and move the upper half into the new node.
翻译：如果在叶子节点中曾经没有空间，咱们须要将驻留在节点中的现有条目和新条目（正在插入）分成相等的两半：低半局部和高半局部（在高半局部中的键要严格大于低半局部中的键）。咱们调配一个新的节点，将高半局部的条目移到新的节点中。

当初来解决旧节点并创立一个新的节点：

+void leaf_node_split_and_insert(Cursor* cursor, uint32_t key, Row* value) {
+  /*
+  Create a new node and move half the cells over.
+  Insert the new value in one of the two nodes.
+  Update parent or create a new parent.
+  */
+
+  void* old_node = get_page(cursor->table->pager, cursor->page_num);
+  uint32_t new_page_num = get_unused_page_num(cursor->table->pager);
+  void* new_node = get_page(cursor->table->pager, new_page_num);
+  initialize_leaf_node(new_node);

接下来，拷贝节点中每一个单元格到新的地位：

+  /*
+  All existing keys plus new key should be divided
+  evenly between old (left) and new (right) nodes.
+  Starting from the right, move each key to correct position.
+  */
+  for (int32_t i = LEAF_NODE_MAX_CELLS; i >= 0; i--) {
+    void* destination_node;
+    if (i >= LEAF_NODE_LEFT_SPLIT_COUNT) {
+      destination_node = new_node;
+    } else {
+      destination_node = old_node;
+    }
+    uint32_t index_within_node = i % LEAF_NODE_LEFT_SPLIT_COUNT;
+    void* destination = leaf_node_cell(destination_node, index_within_node);
+
+    if (i == cursor->cell_num) {+      serialize_row(value, destination);
+    } else if (i > cursor->cell_num) {+      memcpy(destination, leaf_node_cell(old_node, i - 1), LEAF_NODE_CELL_SIZE);
+    } else {+      memcpy(destination, leaf_node_cell(old_node, i), LEAF_NODE_CELL_SIZE);
+    }
+  }

更新节点中头部标记的单元格的数量（更新 node’s header）

+  /* Update cell count on both leaf nodes */
+  *(leaf_node_num_cells(old_node)) = LEAF_NODE_LEFT_SPLIT_COUNT;
+  *(leaf_node_num_cells(new_node)) = LEAF_NODE_RIGHT_SPLIT_COUNT;

而后咱们须要更新节点的父节点。如果原始节点是一个根节点（root node），那么他就没有父节点。这种状况中，创立一个新的根节点来作为它的父节点。这里做另外一个存根（先不具体实现）：

+  if (is_node_root(old_node)) {+    return create_new_root(cursor->table, new_page_num);
+  } else {+    printf("Need to implement updating parent after split\n");
+    exit(EXIT_FAILURE);
+  }
+}

调配新的页面（Allocating New Pages）

让咱们回过头来定义一些函数和常量。当咱们创立一个新的叶子节点，咱们把它放进一个由 get_unused_page_num()函数决定 (返回) 的页中。

+/*
+Until we start recycling free pages, new pages will always
+go onto the end of the database file
+*/
+uint32_t get_unused_page_num(Pager* pager) {return pager->num_pages;}

当初，咱们假设在一个数据库中有 N 个数据页，页编码从 0 到 N-1 的页曾经被调配。因而咱们总是能够为一个新页调配页 N 编码。在咱们最终实现删除（数据）操作后，一些页可能会变成空页，并且他们的页编号可能没有被应用。为了更有效率，咱们会回收这些闲暇页。

叶子节点的大小（Leaf Node Sizes）

为了放弃的树的均衡，咱们在两个新的节点之间平等的散发单元格。如果一个叶子节点能够 hold 住 N 个单元格，那么在决裂期间咱们须要散发 N + 1 个单元格在两个节点之间（N 个原有的单元格和一个新插入的单元格）。如果 N+1 是奇数，我比拟随便地抉择了左侧节点获取多的那个单元格。

+const uint32_t LEAF_NODE_RIGHT_SPLIT_COUNT = (LEAF_NODE_MAX_CELLS + 1) / 2;
+const uint32_t LEAF_NODE_LEFT_SPLIT_COUNT =
+    (LEAF_NODE_MAX_CELLS + 1) - LEAF_NODE_RIGHT_SPLIT_COUNT;

创立新根节点（Creating a New Root）

这里是“SQLite Database System”形容的创立一个新根节点的过程：
原文：Let N be the root node. First allocate two nodes, say L and R. Move lower half of N into L and the upper half into R. Now N is empty. Add 〈L, K,R〉 in N, where K is the max key in L. Page N remains the root. Note that the depth of the tree has increased by one, but the new tree remains height balanced without violating any B+-tree property.
翻译：设 N 为根节点。先调配两个节点，比方 L 和 R。挪动 N 中低半局部的条目到 L 中，挪动高半局部条目到 R 中。当初 N 曾经空了。减少 〈L, K,R〉到 N 中，这里 K 是 L 中最大 key。页 N 依然是根节点。留神这时树的深度曾经减少了一层，然而在没有违反任何 B-Tree 属性的状况下，新的树依然放弃了高度上均衡。

此时，咱们曾经调配了右子节点并挪动高半局部的条目到这个子节点。咱们的函数把这个右子节点作为输出，并且调配一个新的页面来寄存左子节点。

+void create_new_root(Table* table, uint32_t right_child_page_num) {
+  /*
+  Handle splitting the root.
+  Old root copied to new page, becomes left child.
+  Address of right child passed in.
+  Re-initialize root page to contain the new root node.
+  New root node points to two children.
+  */
+
+  void* root = get_page(table->pager, table->root_page_num);
+  void* right_child = get_page(table->pager, right_child_page_num);
+  uint32_t left_child_page_num = get_unused_page_num(table->pager);
+  void* left_child = get_page(table->pager, left_child_page_num);

旧的根节点曾经被拷贝到左子节点，所以咱们能够重用根节点（无需重新分配）：

+  /* Left child has data copied from old root */
+  memcpy(left_child, root, PAGE_SIZE);
+  set_node_root(left_child, false);

最初咱们初始化根节点作为一个新的、有两个子节点的外部节点。

+  /* Root node is a new internal node with one key and two children */
+  initialize_internal_node(root);
+  set_node_root(root, true);
+  *internal_node_num_keys(root) = 1;
+  *internal_node_child(root, 0) = left_child_page_num;
+  uint32_t left_child_max_key = get_node_max_key(left_child);
+  *internal_node_key(root, 0) = left_child_max_key;
+  *internal_node_right_child(root) = right_child_page_num;
+}

外部节点格局（Internal Node Format）

当初咱们终于创立了外部节点，咱们就不得不定义它的布局了。它从通用 header 开始，而后是它蕴含的 key 的数量，接下来是它左边子节点的页号。外部节点的子节点指针始终比它的 key 的数量多一个。这个 子节点指针存储在 header 中。

+/*
+ * Internal Node Header Layout
+ */
+const uint32_t INTERNAL_NODE_NUM_KEYS_SIZE = sizeof(uint32_t);
+const uint32_t INTERNAL_NODE_NUM_KEYS_OFFSET = COMMON_NODE_HEADER_SIZE;
+const uint32_t INTERNAL_NODE_RIGHT_CHILD_SIZE = sizeof(uint32_t);
+const uint32_t INTERNAL_NODE_RIGHT_CHILD_OFFSET =
+    INTERNAL_NODE_NUM_KEYS_OFFSET + INTERNAL_NODE_NUM_KEYS_SIZE;
+const uint32_t INTERNAL_NODE_HEADER_SIZE = COMMON_NODE_HEADER_SIZE +
+                                           INTERNAL_NODE_NUM_KEYS_SIZE +
+                                           INTERNAL_NODE_RIGHT_CHILD_SIZE;

外部节点的 body 是一个单元格的数组，每个单元格蕴含一个子指针和一个 key。每个 key 都必须是它的右边子节点中蕴含的最大 key。

+/*
+ * Internal Node Body Layout
+ */
+const uint32_t INTERNAL_NODE_KEY_SIZE = sizeof(uint32_t);
+const uint32_t INTERNAL_NODE_CHILD_SIZE = sizeof(uint32_t);
+const uint32_t INTERNAL_NODE_CELL_SIZE =
+    INTERNAL_NODE_CHILD_SIZE + INTERNAL_NODE_KEY_SIZE;

基于这些常量，下边是外部节点布局看上去的样子：

Our internal node format

留神咱们微小的分支因子（也就是扇出）。因为每个子节点指针 / 键对儿（child pointer / key pair）太小了，咱们能够在每个外部节点中包容 510 个键和 511 个子指针（也就是每个外部节点能够有 510 个子节点）。这意味着咱们从来不用在查找 key 时遍历树的很多层。

# internal node layers max # leaf nodes Size of all leaf nodes
0 511^0 = 1 4 KB
1 511^1 = 512 ~2 MB
2 511^2 = 261,121 ~1 GB
3 511^3 = 133,432,831 ~550 GB

实际上，咱们不能在每个叶子节点中存储满 4KB 的数据，这是因为存储 header、keys 的开销和空间的节约。然而咱们能够通过从磁盘上加载 4 个 pages（树高四层，每层只需检索一页）来检索大概 500G 的数据。这就是为什么 B-Tree 对数据库来说是很有用的数据结构。

下边是读取和写入一个外部节点的办法：

+uint32_t* internal_node_num_keys(void* node) {
+  return node + INTERNAL_NODE_NUM_KEYS_OFFSET;
+}
+
+uint32_t* internal_node_right_child(void* node) {
+  return node + INTERNAL_NODE_RIGHT_CHILD_OFFSET;
+}
+
+uint32_t* internal_node_cell(void* node, uint32_t cell_num) {
+  return node + INTERNAL_NODE_HEADER_SIZE + cell_num * INTERNAL_NODE_CELL_SIZE;
+}
+
+uint32_t* internal_node_child(void* node, uint32_t child_num) {+  uint32_t num_keys = *internal_node_num_keys(node);
+  if (child_num > num_keys) {+    printf("Tried to access child_num %d > num_keys %d\n", child_num, num_keys);
+    exit(EXIT_FAILURE);
+  } else if (child_num == num_keys) {+    return internal_node_right_child(node);
+  } else {+    return internal_node_cell(node, child_num);
+  }
+}
+
+uint32_t* internal_node_key(void* node, uint32_t key_num) {+  return internal_node_cell(node, key_num) + INTERNAL_NODE_CHILD_SIZE;
+}

对于一个外部节点，最大 key 始终是其右键。对于一个叶子节点，最大 key 就是最大索引键。

+uint32_t get_node_max_key(void* node) {+  switch (get_node_type(node)) {
+    case NODE_INTERNAL:
+      return *internal_node_key(node, *internal_node_num_keys(node) - 1);
+    case NODE_LEAF:
+      return *leaf_node_key(node, *leaf_node_num_cells(node) - 1);
+  }
+}

追踪根节点（Keeping Track of the Root）

咱们终于在通用的节点 header 中应用了 is_root 字段。回调它是咱们用它来决定怎么来决裂一个叶子节点：

    if (is_node_root(old_node)) {return create_new_root(cursor->table, new_page_num);
    } else {printf("Need to implement updating parent after split\n");
        exit(EXIT_FAILURE);
    }
}

上面是 getter & setter：

+bool is_node_root(void* node) {+  uint8_t value = *((uint8_t*)(node + IS_ROOT_OFFSET));
+  return (bool)value;
+}
+
+void set_node_root(void* node, bool is_root) {
+  uint8_t value = is_root;
+  *((uint8_t*)(node + IS_ROOT_OFFSET)) = value;
+}

初始化这两种类型的节点（外部节点 & 叶子节点）应默认设置 is_root 为 false。

void initialize_leaf_node(void* node) {set_node_type(node, NODE_LEAF);
+  set_node_root(node, false);
  *leaf_node_num_cells(node) = 0;
}

+void initialize_internal_node(void* node) {+  set_node_type(node, NODE_INTERNAL);
+  set_node_root(node, false);
+  *internal_node_num_keys(node) = 0;
+}

当创立表的第一个节点时咱们须要设置 is_root 为 true。

// New database file. Initialize page 0 as leaf node.
void* root_node = get_page(pager, 0);
initialize_leaf_node(root_node);
+    set_node_root(root_node, true);
}

return table;

打印树（Printing the Tree）

为了帮忙咱们可视化数据库的状态，咱们应该更新咱们的 .btree 元命令以打印多级树。

我要替换以后的 print_leaf_node（）函数：

-void print_leaf_node(void* node) {-  uint32_t num_cells = *leaf_node_num_cells(node);
-  printf("leaf (size %d)\n", num_cells);
-  for (uint32_t i = 0; i < num_cells; i++) {-    uint32_t key = *leaf_node_key(node, i);
-    printf("- %d : %d\n", i, key);
-  }
-}

实现一个递归函数，能够承受任何节点，而后打印它和它的子节点。它承受一个缩进级别作为参数，缩进级别每次在每次递归时会递增。我还在缩进中增加了一个很小的辅助函数。

+void indent(uint32_t level) {+  for (uint32_t i = 0; i < level; i++) {+    printf(" ");
+  }
+}
+
+void print_tree(Pager* pager, uint32_t page_num, uint32_t indentation_level) {+  void* node = get_page(pager, page_num);
+  uint32_t num_keys, child;
+
+  switch (get_node_type(node)) {+    case (NODE_LEAF):
+      num_keys = *leaf_node_num_cells(node);
+      indent(indentation_level);
+      printf("- leaf (size %d)\n", num_keys);
+      for (uint32_t i = 0; i < num_keys; i++) {+        indent(indentation_level + 1);
+        printf("- %d\n", *leaf_node_key(node, i));
+      }
+      break;
+    case (NODE_INTERNAL):
+      num_keys = *internal_node_num_keys(node);
+      indent(indentation_level);
+      printf("- internal (size %d)\n", num_keys);
+      for (uint32_t i = 0; i < num_keys; i++) {+        child = *internal_node_child(node, i);
+        print_tree(pager, child, indentation_level + 1);
+
+        indent(indentation_level + 1);
+        printf("- key %d\n", *internal_node_key(node, i));
+      }
+      child = *internal_node_right_child(node);
+      print_tree(pager, child, indentation_level + 1);
+      break;
+  }
+}

并更新对 print 函数的调用，传递缩进级别为零。

} else if (strcmp(input_buffer->buffer, ".btree") == 0) {printf("Tree:\n");
-    print_leaf_node(get_page(table->pager, 0));
+    print_tree(table->pager, 0, 0);
  return META_COMMAND_SUCCESS;

上面是一个对新的打印函数的测例

+  it 'allows printing out the structure of a 3-leaf-node btree' do
+    script = (1..14).map do |i|
+      "insert #{i} user#{i} person#{i}@example.com"
+    end
+    script << ".btree"
+    script << "insert 15 user15 person15@example.com"
+    script << ".exit"
+    result = run_script(script)
+
+    expect(result[14...(result.length)]).to match_array([
+      "db > Tree:",
+      "- internal (size 1)",
+      "- leaf (size 7)",
+      "- 1",
+      "- 2",
+      "- 3",
+      "- 4",
+      "- 5",
+      "- 6",
+      "- 7",
+      "- key 7",
+      "- leaf (size 7)",
+      "- 8",
+      "- 9",
+      "- 10",
+      "- 11",
+      "- 12",
+      "- 13",
+      "- 14",
+      "db > Need to implement searching an internal node",
+    ])
+  end

新格局有点简化，所以咱们须要更新现有的 .btree 测试：

"db > Executed.",
"db > Executed.",
"db > Tree:",
-      "leaf (size 3)",
-      "- 0 : 1",
-      "- 1 : 2",
-      "- 2 : 3",
+      "- leaf (size 3)",
+      "- 1",
+      "- 2",
+      "- 3",
"db >"
])
end

这是新测试自身的 .btree 输入：

Tree:
- internal (size 1)
  - leaf (size 7)
    - 1
    - 2
    - 3
    - 4
    - 5
    - 6
    - 7
  - key 7
  - leaf (size 7)
    - 8
    - 9
    - 10
    - 11
    - 12
    - 13
    - 14

在缩进最小的级别，咱们看到根节点（一个外部节点）。它输入的 size 为 1 因为它有一个 key。缩进一个级别，咱们看到叶子节点，一个 key，和一个叶子节点。根节点中的 key（7）是第一个左子节点中最大的 key。每个大于 7 的 key 寄存在第二个子节点中。

一个次要问题（A Major Problem）

如果你始终亲密关注，你可能会留神到咱们错过了一些小事。看看如果咱们尝试插入额定一行会产生什么：

db > insert 15 user15 person15@example.com
Need to implement searching an internal node

哦吼！是谁写的 TODO 信息？（作者在弄虚作假！明明是他本人在 table_find() 函数中把外部节点搜寻的性能存根的！）

下次咱们将通过在多级树上实现搜寻来持续史诗般的 B 树传奇。

Enjoy GreatSQL :)

## 对于 GreatSQL

GreatSQL 是由万里数据库保护的 MySQL 分支，专一于晋升 MGR 可靠性及性能，反对 InnoDB 并行查问个性，是实用于金融级利用的 MySQL 分支版本。

相干链接：GreatSQL 社区 Gitee GitHub Bilibili

GreatSQL 社区：

社区博客有奖征稿详情：https://greatsql.cn/thread-10…

技术交换群：

微信：扫码增加 GreatSQL 社区助手 微信好友，发送验证信息 加群。

正文完
数据库
发表至： 数据库
2023-02-15
 0
关于数据库:NFT数字藏品平台遭薅羊毛如何处理
关于数据库:从一条更新-SQL-的执行过程窥探-InnoDB-之-REDOLOG
关于数据库:使用pgBackRest并行归档解决wal堆积问题
关于数据库:KaiwuDB-亮相-2023-可信数据库发展大会