关于go:Go-语言使用-MySQL-的常见故障分析和应对方法

112次阅读

共计 13493 个字符，预计需要花费 34 分钟才能阅读完成。

导读：很多同学在应用 Go 和数据库打交道的过程中，常常会遇到一些异样不晓得为什么，本文从 SQL 连接池的原理进行剖析，模仿了一些例子对异样的景象进行解读剖析，并给出一些常见的应答伎俩，冀望能帮忙到大家。

全文 12795 字，预计浏览工夫 32 分钟

有很多同学遇到了 MySQL 查问迟缓的问题，其可能体现为 SQL 语句很简略，然而查问耗时很长。可能是因为这样一些起因所致。

1、资源未及时开释

Go 的 sql 包应用的是长连贯形式让 Client 和 SQL Server 交互，为了防止 SQL Server 链接过多，个别会在 Client 端限定最大连接数。

上面是 sql 的连接池的状态图（设置了最大关上连接数的状况）：

SQL Client 和 Server 交互后，有些后果返回的是一个流 (Stream)，此时的网络连接(Conn) 是被 Stream 对象持续应用的，Client 须要迭代读取后果，读取实现后应立即敞开流以回收资源(开释 conn)。

比方最长用的 DB.QueryContext 办法即是如此：

// QueryContext 查问一些后果
// query：select * from test limit 10
func (db *DB) QueryContext(ctx context.Context, query string, args ...any) (*Rows, error)
type Rows struct{Close() error 
    ColumnTypes() ( []*ColumnType, error) 
    Columns() ( []string, error) 
    Err( ) error 
    Next( ) bool 
    NextResultSet( ) bool 
    Scan(dest ...any) error
}

当还有后果的时候(即 Rows.Next()==true 时)，阐明还有后果未读取进去，此时必须调用 Rows.Close() 办法来对流进行敞开以开释连贯（让以后连贯变为闲暇状态以 让其余逻辑能够应用该连贯）。

1.1 试验 1 - 不调用 Rows.Close()

若不调用 Close 又会怎么呢？上面做一个试验来察看一下：

select * from user;
+----+-------+---------------------+----------+--------+
| id | email | register_time       | password | status |
+----+-------+---------------------+----------+--------+
|  2 | dw    | 2011-11-11 11:01:00 | d        |      0 |
+----+-------+---------------------+----------+--------+
1 row in set (0.03 sec)
package main
import (
   "context"
   "database/sql"
   "encoding/json"
   "fmt"
   "sync"
   "time"
   _ "github.com/go-sql-driver/mysql"
)
func main() {db, err := sql.Open("mysql", "root:@tcp(127.0.0.1:3306)/test")
   if err != nil {panic(err)
   }
   db.SetMaxOpenConns(1)
   // 启动一个独自的协程，用于输入 DB 的状态信息
   go func() {tk := time.NewTicker(3 * time.Second)
      defer tk.Stop()
      for range tk.C {bf, _ := json.Marshal(db.Stats())
         fmt.Println("db.Stats=", string(bf))
      }
   }()
   // 启动 10 个协程，同时查问数据
   var wg sync.WaitGroup
   for i := 0; i < 10; i++ {wg.Add(1)
      go func(id int) {defer wg.Done()
         queryOne(id, db)
      }(i)
   }
   wg.Wait()
   fmt.Println("finish")
}
func queryOne(id int, db *sql.DB) {start := time.Now()
   rows, err := db.QueryContext(context.Background(), "select * from user limit 1")
   if err != nil {panic(err)
   }
   // defer rows.Close() 
   // 没有从 Rows 里读取后果，也没有调用 rows.Close
   fmt.Println("id=", id, "hasNext=", rows.Next(), "cost=", time.Since(start))
}

执行后将输出如下内容：

id= 0 hasNext= true cost= 9.607371ms
db.Stats= {"MaxOpenConnections":1,"OpenConnections":1,"InUse":1,"Idle":0,"WaitCount":9,"WaitDuration":0,"MaxIdleClosed":0,"MaxIdleTimeClosed":0,"MaxLifetimeClosed":0}
db.Stats= {"MaxOpenConnections":1,"OpenConnections":1,"InUse":1,"Idle":0,"WaitCount":9,"WaitDuration":0,"MaxIdleClosed":0,"MaxIdleTimeClosed":0,"MaxLifetimeClosed":0}
db.Stats= {"MaxOpenConnections":1,"OpenConnections":1,"InUse":1,"Idle":0,"WaitCount":9,"WaitDuration":0,"MaxIdleClosed":0,"MaxIdleTimeClosed":0,"MaxLifetimeClosed":0}
db.Stats= {"MaxOpenConnections":1,"OpenConnections":1,"InUse":1,"Idle":0,"WaitCount":9,"WaitDuration":0,"MaxIdleClosed":0,"MaxIdleTimeClosed":0,"MaxLifetimeClosed":0}
db.Stats= {"MaxOpenConnections":1,"OpenConnections":1,"InUse":1,"Idle":0,"WaitCount":9,"WaitDuration":0,"MaxIdleClosed":0,"MaxIdleTimeClosed":0,"MaxLifetimeClosed":0}
db.Stats= {"MaxOpenConnections":1,"OpenConnections":1,"InUse":1,"Idle":0,"WaitCount":9,"WaitDuration":0,"MaxIdleClosed":0,"MaxIdleTimeClosed":0,"MaxLifetimeClosed":0}
db.Stats= {"MaxOpenConnections":1,"OpenConnections":1,"InUse":1,"Idle":0,"WaitCount":9,"WaitDuration":0,"MaxIdleClosed":0,"MaxIdleTimeClosed":0,"MaxLifetimeClosed":0}
db.Stats= {"MaxOpenConnections":1,"OpenConnections":1,"InUse":1,"Idle":0,"WaitCount":9,"WaitDuration":0,"MaxIdleClosed":0,"MaxIdleTimeClosed":0,"MaxLifetimeClosed":0}
db.Stats= {"MaxOpenConnections":1,"OpenConnections":1,"InUse":1,"Idle":0,"WaitCount":9,"WaitDuration":0,"MaxIdleClosed":0,"MaxIdleTimeClosed":0,"MaxLifetimeClosed":0}

解读一下状态数据：

{
    "MaxOpenConnections": 1,  // 最大关上连接数，和代码设置的统一，是 1
    "OpenConnections": 1,     // 已关上的连接数    
    "InUse": 1,               // 正在应用的连接数
    "Idle": 0,                // 闲暇连接数
    "WaitCount": 9,           // 期待连接数
    "WaitDuration": 0,        // 期待总耗时（在期待退出时才计数）"MaxIdleClosed": 0,       // 超过最大 idle 数所敞开的连贯总数 
    "MaxIdleTimeClosed": 0,   // 超过追到 idle 工夫所敞开的连贯总数
    "MaxLifetimeClosed": 0    // 超过最大生命周期所敞开的连贯总数
}

从下面的输入能够看出，总共启动了 10 个协程，只有一个协程的 queryOne 办法胜利执行了，其余 9 个协程的都是处于期待状态。

1.2 试验 2 - 调用 Rows.Close()

若将 queryOne 办法的，“// defer rows.Close()”的正文去掉，即变为：

func queryOne(id int, db *sql.DB) {start := time.Now()    
    rows, err := db.QueryContext(context.
Background(), "select * from user limit 1")    
    if err != nil {panic(err)    
    }    
    defer rows.Close() // 关上了此处的正文，Close 办法会开释资源    
    fmt.Println("id=", id, "hasNext=", rows.Next(), "cost=", time.Since(start)) 
}

执行后，会输入如下内容：

# go run main.go
id= 9 hasNext= true cost= 4.082448ms
id= 3 hasNext= true cost= 5.670052ms
id= 8 hasNext= true cost= 5.745443ms
id= 5 hasNext= true cost= 6.238615ms
id= 6 hasNext= true cost= 6.520818ms
id= 7 hasNext= true cost= 6.697782ms
id= 4 hasNext= true cost= 6.953454ms
id= 1 hasNext= true cost= 7.1079ms
id= 0 hasNext= true cost= 7.3036ms
id= 2 hasNext= true cost= 7.464726ms
finish

上述输入后果阐明所有的 10 个协程都胜利执行实现。

1.3 试验 3 - 应用带超时的 Context

补充，上述调用 QueryContext 办法的时候，应用的是 context.Background()，所以是统一阻塞的成果。理论在应用的时候，传入的 context 个别是有超时工夫或者反对勾销的，相似这样：

func  queryOne(id int, db *sql.DB) {start := time.Now() 
    ctx,cancel:=context.WithTimeout(context.Background(),time.Second) // 要害     
    defer cancel()  // 要害。若将此行替换为 _=cancel, 又是另外一种后果了
    rows, err := db.QueryContext(ctx , "select * fro m user  limit 1") 
     if err != nil {// panic (err) 
       fmt.Println("BeginTx failed:",err)        
       return 
    } 
    // defer rows.Close () // 关上了此处的注 释，Close  办法会开释资源     
    fmt.Println("id=" , id, "hasNext=", rows.Next(), "cost=", time.Since (start)) 
}

运行后能够察看到，所有的 10 个协程也都执行胜利了：

id= 9 hasNext= true cost= 1.483715ms
id= 3 hasNext= true cost= 175.675µs
id= 6 hasNext= true cost= 1.277596ms
id= 1 hasNext= true cost= 174.307µs
id= 7 hasNext= true cost= 108.061µs
id= 4 hasNext= true cost= 115.072µs
id= 2 hasNext= true cost= 104.046µs
id= 0 hasNext= true cost= 96.833µs
id= 8 hasNext= true cost= 123.758µs
id= 5 hasNext= true cost= 92.791µs
finish

因为 context 是带超时的，而且执行实现后会调用 defer cancel() 将 ctx 勾销，所以即便没有应用 rows.Close 开释资源，ctx 在被 cancel 后也会立刻开释资源。

若是将 defer cancel() 换为 \_=cancel , 又是另外一种后果了，咱们将看到的是：

d= 9 hasNext= true cost= 2.581813ms
BeginTx failed: context deadline exceeded
BeginTx failed: context deadline exceeded
BeginTx failed: context deadline exceeded
BeginTx failed: context deadline exceeded
BeginTx failed: context deadline exceeded
BeginTx failed: context deadline exceeded
BeginTx failed: context deadline exceeded
BeginTx failed: context deadline exceeded
BeginTx failed: context deadline exceeded

1.4 解决方案

小结：

  • 咱们应该应用 QueryContext 这类反对传入 context 的函数，并且传入带超时管制的 context，并且在逻辑执行实现后，应应用 defer 办法将 context 勾销。
  • 对于返回一个流类型的后果，应用实现后肯定须要调用 Close 办法以开释资源。
  • 所有 *sql.DB、*sql.Tx、*sql.Stmt 的返回 *Conn、*Stmt、*Rows 这几种类型的都须要 Close：
type DB/Tx/Stmt struct{Conn(ctx context.Context) (*Conn, error)
   Prepare(query string) (*Stmt, error)
   PrepareContext(ctx context.Context, query string) (*Stmt, error)
   Query(query string, args ...any) (*Rows, error)
   QueryContext(ctx context.Context, query string, args ...any) (*Rows, error)
}

要防止该问题呈现，个别只须要如上例，增加上 defer rows.Close() 即可。

若是应用的 GDP 框架，读取 Rows 后果，能够应用 mysql.ReadRowsClose 办法，在读取实现后，会主动的 Close。比方：

type user struct {     
   ID           int64     `ddb:"id"`     
   Status       uint8     `ddb:"status"` 
}
func readUsers(ctx context.Context)([]*user,error)
    rows, err := cli.QueryContext(ctx, "select * from user where status=1 limit 5")     
    if err != nil {return nil,err}     
    var userList []*user     
    err=mysql.ReadRowsClose(rows, &userList)     
    return   userList,err
}

或者是 QueryWithBuilderScan：

b := &SimpleBuilder{SQL: "SELECT id,name from user where id=1",}
 type user struct{
  Name string `ddb:"name"`
  ID int `ddb:"id"`
 }
 var us []*user
 err = mysql.QueryWithBuilderScan(ctx, client, b, &us)

2、事务不残缺

关上一个事务 (Tx) 后，必须提交 (Commit) 或者回滚 (Rollback)，否则会事务不残缺，也会导致 Client 端资源(连贯) 不开释。

func (db *DB) BeginTx(ctx context.Context, opts *TxOptions) (*Tx, error)
type Tx 
func (tx *Tx) Commit() error    // 提交事务
func (tx *Tx) Rollback ( ) error  // 回滚事务
func (tx *Tx) Exec(query string, args ...any) (Result, error) 
func (tx *Tx) ExecContext(ctx context.Context, query string, args ...any) (Result, error) 
func (tx *Tx) Prepare(query string) (*Stmt, error) 
func (tx *Tx) PrepareContext(ctx context.Context, query string) (*Stmt, error) 
func (tx *Tx) Query(query string, args ...any) (*Rows, error) 
func (tx *Tx) QueryContext(ctx context.Context, query string, args ...any) (*Rows, error) 
func (tx *Tx) QueryRow(query string, args ...any) *Row 
func (tx *Tx) QueryRowContext(ctx context.Context, query string, args ...any) *Row 
func (tx *Tx) Stmt(stmt *Stmt) *Stmt 
func (tx *Tx) StmtContext(ctx context.Context, stmt *Stmt) *Stmt

2.1 和 PHP 的区别

另外须要留神的是，应用 Go 规范库的 DB.BeginTx 办法开启一个事务后，会失去一个事务对象 Tx，要让一批 SQL 在一个事务里执行须要让这些 SQL 在此 Tx 对象上执行。这点和 PHP 的是不一样的，比方在 PHP 中是这样应用事务：

  <?php
/* 开始一个事务，敞开主动提交 */
$dbh->beginTransaction(); 
 /* 在全有或全无的根底上插入多行记录（要么全副插入，要么全副不插入）*/
$sql = 'INSERT INTO fruit(name, colour, calories) VALUES (?, ?, ?)';
$sth = $dbh->prepare($sql);
foreach ($fruits as $fruit) {
    $sth->execute(array(
        $fruit->name,
        $fruit->colour,
        $fruit->calories,
    ));
}
/* 提交更改 */
$dbh->commit();
// 此代码来自 https://www.php.net/manual/zh/pdo.commit.php

而应用 Go 的事务是这样的：

import (
  "context"
  "database/sql"
  "log"
)
var (
  ctx context.Context
  db  *sql.DB
)
func main() {tx, err := db.BeginTx(ctx, &sql.TxOptions{Isolation: sql.LevelSerializable})
  if err != nil {log.Fatal(err)
  }
  id := 37
    // 应用 Tx 执行 Update 语句，而不是持续应用 db.Exec
  _, execErr := tx.Exec(`UPDATE users SET status = ? WHERE id = ?`, "paid", id)
  if execErr != nil {_ = tx.Rollback()
    log.Fatal(execErr)
  }
  if err := tx.Commit(); err != nil {log.Fatal(err)
  }
}
// 此代码来自于：https://pkg.go.dev/database/sql@go1.18.3#example-DB.BeginTx

2.2 试验

上面持续试验事务不残缺的影响，主体局部和上述一样，queryOne 办法变成如下这样：

func queryOne(id int, db *sql.DB) {tx,err:=db.BeginTx(context.Background(),nil)
   if err!=nil{panic(err)
   }
   // defer tx.Rollback()
   start := time.Now()
   rows, err := tx.QueryContext(context.Background(), "select * from user limit 1")
   if err != nil {panic(err)
   }
   defer rows.Close()
   // 事务没有回滚、提交
   fmt.Println("id=", id, "hasNext=", rows.Next(), "cost=", time.Since(start))
}

执行后输出和上述没有 rows.Close 相似：

id= 9 hasNext= true cost= 11.670369ms
db.Stats= {"MaxOpenConnections":1,"OpenConnections":1,"InUse":1,"Idle":0,"WaitCount":9,"WaitDuration":0,"MaxIdleClosed":0,"MaxIdleTimeClosed":0,"MaxLifetimeClosed":0}
db.Stats= {"MaxOpenConnections":1,"OpenConnections":1,"InUse":1,"Idle":0,"WaitCount":9,"WaitDuration":0,"MaxIdleClosed":0,"MaxIdleTimeClosed":0,"MaxLifetimeClosed":0}
db.Stats= {"MaxOpenConnections":1,"OpenConnections":1,"InUse":1,"Idle":0,"WaitCount":9,"WaitDuration":0,"MaxIdleClosed":0,"MaxIdleTimeClosed":0,"MaxLifetimeClosed":0}
db.Stats= {"MaxOpenConnections":1,"OpenConnections":1,"InUse":1,"Idle":0,"WaitCount":9,"WaitDuration":0,"MaxIdleClosed":0,"MaxIdleTimeClosed":0,"MaxLifetimeClosed":0}

同样，总共启动了 10 个协程，只有一个协程的 queryOne 办法胜利执行了，其余 9 个协程的都是处于期待状态。

若将上述 queryOne 办法中的 // defer tx.Rollback() 的正文关上，则所有 10 个协程都能够胜利执行实现。

2.3 解决方案

要防止事务不残缺，要保障事务要么被 Commit，要么被 Rollback。

若是应用的 GDP 框架，能够应用 mysql.BeginTx 办法来应用事务。该计划能够更平安的应用事务，会主动的根据 函数返回值来决定是 Commit 还是 Rollback，若业务函数呈现了 panic 也会主动的 Rollback。

// 业务逻辑函数的定义，在此函数内实现事务内的增删改查
// 返回 error==nil 则 tx.Commit(), 否则 tx.Rollback()
type doFunc func(ctx context.Context, qe QueryExecuto r) error 
func BeginTx(ctx context.Context, cli CanBeginTx, opts *sql.TxOptions, do doFunc) error
var cli mysql.Client
updateUserNameByID := func(ctx context.Context, id uint64, name string) error {
   //  应用 BeginTx 办法，能更省心的处理事务
   err := mysql.BeginTx(ctx, cli, nil, func(ctx context.Context, qe mysq.QueryExecutor) error {
      // 其余的数据库更新逻辑略
      b1 := &mysql.SimpleBuilder{}
      b1.Append("select name from user where uid=?", id)
      var oldName string
      if err := mysql.QueryRowWithBuilderScan(ctx, qe, b1, &oldName); err != nil {return err}
      if oldName == "诸葛亮" || oldName == name {
         // 返回 err，mysql.BeginTx 办法将会回滚事务
         return fmt.Errorf("不须要更新，事务整体回滚")
      }
      b2 := &mysql.SimpleBuilder{}
      b2.Append("update user set name=? where id=?", name, id)
      _, err := mysql.ExecWithBuilder(ctx, qe, b2)
      if err != nil {return err}
      // 返回 nil，mysql.BeginTx 办法将会提交事务
      return nil
   })
   return err
}

3、其余起因

3.1 不反对预处理

默认个别会应用预处理的形式来晋升 SQL 的安全性，防止产生 SQL 注入的问题。

若是在厂内应用集群版 MySQL：DDBS(DRDS)，其对 prepare 反对的并不好，应用后会导致性能特地差。可能体现为，本应该几毫秒返回的查问，实际上要数百毫秒甚至数秒能力返回。此时须要在参数中增加上配置项 interpolateParams=true，敞开 prepare 性能来解决。

Name = "demo"
# 其余配置项略
[MySQL] 
Username     = "example"
# 其余参数略
DSNParams ="charset=utf8&timeout=90s&collation=utf8mb4_unicode_ci&parseTime=true&interpolateParams=true"

4、如何排查

咱们能够利用 DB 的 Stats() 接口返回的数据来剖析是否存在上述问题。在上述章节中，咱们就是打印此数据来察看 Client 的状态信息。

{    
"MaxOpenConnections" : 1 ,  // 最大关上连接数，和代码设置的统一，是 1    
"OpenConnections" : 1 ,     // 已关上的连接数        
"InUse" : 1 ,               // 正在应用的连接数    
"Idle" : 0 ,                // 闲暇连接数    
"WaitCount" : 9 ,           // 期待连接数    
"WaitDuration" : 0 ,        // 期待总耗时（在期待退出时才计数）"MaxIdleClosed" : 0 ,       // 超过最大 idle 数所敞开的连贯总数     
"MaxIdleTimeClosed" : 0 ,   // 超过追到 idle 工夫所敞开的连贯总数    
"MaxLifetimeClosed" : 0    // 超过最大生命周期所敞开的连贯总数
}

若应用的是 GDP 框架，咱们能够通过如下几种伎俩来察看此数据。

4.1 集成 GDP 利用面板

在百度厂内，GDP 框架（百度外部的  Go Develop Platform，具备易用性好、易扩大、易察看、稳固牢靠的特点，被数千模块应用）提供了一个叫做 ”GDP 利用面板 ” 的功能模块，该模块提供了可视化的 UI 让咱们能够十分不便的查看、察看利用的各种状态信息。比方能够查看零碎信息、文件系统信息、网络状态信息、编译信息、go runtime 信息、框架里各种组件的状态信息（如服务发现的运行状态、MySQL、Redis 等 各种 Client 的连接池信息等）。

集成该性能非常简单，只须要增加 2 行配置性代码。

实现集成后，能够通过 http://ip:port/debug/panel/?t… 来拜访此面板，找到对应的 servicer 后（页面的地址是 /debug/panel/?tab=servicer&key={servicer\_name}），页面上的“MySQL ClientStats”段落即为以后 MySQL Client 的 Stats 信息。比方：

4.2 集成监控

GDP 框架的标准化指标监控能力曾经将所有 MySQL Client 的 Stats 信息进行了采集输入。能够以 prometheus 或者 bvar 格局输入。

实现集成后，拜访 http://ip:port/metrics/service 即可查看到对应的指标项，大抵是这样的：

client_connpool{servicer="demo_mysql",stats="ConnType"} 1
client_connpool{servicer="demo_mysql",stats="IPTotal"} 1
client_connpool{servicer="demo_mysql",stats="InUseAvg"} 0
client_connpool{servicer="demo_mysql",stats="InUseMax"} 0
client_connpool{servicer="demo_mysql",stats="InUseTotal"} 0
client_connpool{servicer="demo_mysql",stats="NumOpenAvg"} 0
client_connpool{servicer="demo_mysql",stats="NumOpenCfg"} 100
client_connpool{servicer="demo_mysql",stats="NumOpenMax"} 0
client_connpool{servicer="demo_mysql",stats="NumOpenTotal"} 0

能够对上述指标增加报警，以帮咱们更快发现并定位到问题。

4.3 输入到日志

若不采纳上述 2 种计划，还能够采纳启动一个异步协程，定期将 Stats 信息输入到日志的计划，以不便咱们剖析定位问题。

————————END————————

举荐浏览：

百度交易中台之钱包零碎架构浅析

基于宽表的数据建模利用

百度评论中台的设计与摸索

基于模板配置的数据可视化平台

如何正确的评测视频画质

小程序启动性能优化实际

咱们是如何穿过低代码“⽆⼈区”的：amis 与爱速搭中的要害设计

挪动端异构运算技术 -GPU OpenCL 编程（根底篇）

正文完
go
发表至： go
2022-06-23
 0
关于go:go使用jwt入门教程
关于go:API网关开源Apinto网关访问策略一
关于go:不背锅运维上篇Go并发编程
关于go:Go渗透测试编程二TCP扫描器和代理