关于go:用-Go-写一个简单消息队列五协议与后台队列实现

63次阅读

共计 9128 个字符，预计需要花费 23 分钟才能阅读完成。

协定

本篇咱们先来实现一下协定，所谓的协定，说白了就是规定了消费者的行为，并将这些行为转化成对 topic、channel 或者 message 的操作。例如，客户端发送 SUB order pay，咱们就创立一个名为 order 的 topic，再在 topic 上面创立一个名为 pay 的 channel，最初将该客户端与该 channel 绑定，后续该客户端就能接管到生产者的音讯了。

现阶段咱们筹备实现四种协定，别离是 SUB（订阅）、GET（读取）、FIN（实现）和 REQ（重入），有需要的话前期再加。因为这种不确定性，咱们能够在运行时再确定咱们要调用的办法，这样能够保障不必改变咱们的外围代码。所以咱们在这里应用 Go 语言的反射机制来实现协定的外围代码，等到前期协定成熟了之后，咱们能够用 switch 重构外围，毕竟反射的性能还是比拟差的。

咱们先来定义一些客户端的谬误以及须要用到的常量和接口等等，对立放在 protocol/client_error 文件下了：

package protocol
 
import ("io")
 
const (
    ClientInit = iota
    ClientWaitGet
    ClientWaitResponse
)
 
type StatefulReadWriter interface {
    io.ReadWriter
    GetState() int
    SetState(state int)
    String() string}
 
type ClientError struct {errStr string}
 
func (e ClientError) Error() string {return e.errStr}
 
var (ClientErrInvalid    = ClientError{"E_INVALID"}
    ClientErrBadTopic   = ClientError{"E_BAD_TOPIC"}
    ClientErrBadChannel = ClientError{"E_BAD_CHANNEL"}
    ClientErrBadMessage = ClientError{"E_BAD_MESSAGE"}
)

执行代码

咱们来看一下协定的执行代码：

type Protocol struct {channel *message.Channel}
 
func (p *Protocol) IOLoop(client StatefulReadWriter) error {
    var (
        err  error
        line string
        resp []byte)
 
    client.SetState(ClientInit)
 
    reader := bufio.NewReader(client)
    for {line, err = reader.ReadString('\n')
        if err != nil {break}
 
        line = strings.Replace(line, "\n", "", -1)
        line = strings.Replace(line, "\r", "", -1)
        params := strings.Split(line, " ")
 
        log.Printf("PROTOCOL: %#v", params)
 
        resp, err = p.Execute(client, params...)
        if err != nil {_, err = client.Write([]byte(err.Error()))
            if err != nil {break}
            continue
        }
 
        if resp != nil {_, err = client.Write(resp)
            if err != nil {break}
        }
    }
 
    return err
}
 
// Execute use reflection to call the appropriate method for this command
func (p *Protocol) Execute(client StatefulReadWriter, params ...string) ([]byte, error) {
    var (
        err  error
        resp []byte)
 
    typ := reflect.TypeOf(p)
    args := make([]reflect.Value, 3)
    args[0] = reflect.ValueOf(p)
    args[1] = reflect.ValueOf(client)
 
    cmd := strings.ToUpper(params[0])
 
    if method, ok := typ.MethodByName(cmd); ok {args[2] = reflect.ValueOf(params)
        returnValues := method.Func.Call(args)
 
        if !returnValues[0].IsNil() {resp = returnValues[0].Interface().([]byte)
        }
 
        if !returnValues[1].IsNil() {err = returnValues[1].Interface().(error)
        }
 
        return resp, err
    }
 
    return nil, ClientErrInvalid
}

IOLoop 办法比较简单，就是循环从客户端逐行读取输出，简略地过滤后，拆分成各个参数传递给 Execute 办法，而后将后果往客户端写入。因而，Execute 办法才是真正的外围代码，它的思路就是以传入的 params 的第一项作为办法名，判断有无实现该函数并执行发射调用。例如客户端发送 SUB order pay，就是先判断 &Protocol 有没有实现 SUB 办法，有的话就将 client 和 params 数组一起作为参数传给 SUB 办法执行调用，并返回调用后果。

有的同学可能会好奇为什么在 client 之前又加了个参数 p，也就是办法实现者自身。这是因为在 Go 语言中，类型 A 的办法实质上就是一个以 A 为第一个参数的函数，所以咱们反射调用的时候必须将 &Protocol 作为第一个参数。

具体实现

SUB

获取 topic，再获取 channel，最初绑定客户端连贯和 channel。

func (p *Protocol) SUB(client StatefulReadWriter, params []string) ([]byte, error) {if client.GetState() != ClientInit {return nil, ClientErrInvalid}
 
    if len(params) < 3 {return nil, ClientErrInvalid}
 
    topicName := params[1]
    if len(topicName) == 0 {return nil, ClientErrBadTopic}
 
    channelName := params[2]
    if len(channelName) == 0 {return nil, ClientErrBadChannel}
 
    client.SetState(ClientWaitGet)
 
    topic := message.GetTopic(topicName)
    p.channel = topic.GetChannel(channelName)
 
    return nil, nil
}

GET

向绑定的 channel 发送音讯，而后批改状态，就是这么简略。

func (p *Protocol) GET(client StatefulReadWriter, params []string) ([]byte, error) {if client.GetState() != ClientWaitGet {return nil, ClientErrInvalid}
 
    msg := p.channel.PullMessage()
    if msg == nil {log.Printf("ERROR: msg == nil")
        return nil, ClientErrBadMessage
    }
 
    uuidStr := util.UuidToStr(msg.Uuid())
    log.Printf("PROTOCOL: writing msg(%s) to client(%s) - %s", uuidStr, client.String(), string(msg.Body()))
 
    client.SetState(ClientWaitResponse)
 
    return msg.Data(), nil}

FIN

解释都算多余 …

func (p *Protocol) FIN(client StatefulReadWriter, params []string) ([]byte, error) {if client.GetState() != ClientWaitResponse {return nil, ClientErrInvalid}
 
    if len(params) < 2 {return nil, ClientErrInvalid}
 
    uuidStr := params[1]
    err := p.channel.FinishMessage(uuidStr)
    if err != nil {return nil, err}
 
    client.SetState(ClientWaitGet)
 
    return nil, nil
}

REQ

同样也不必解释。

func (p *Protocol) REQ(client StatefulReadWriter, params []string) ([]byte, error) {if client.GetState() != ClientWaitResponse {return nil, ClientErrInvalid}
 
    if len(params) < 2 {return nil, ClientErrInvalid}
 
    uuidStr := params[1]
    err := p.channel.RequeueMessage(uuidStr)
    if err != nil {return nil, err}
 
    client.SetState(ClientWaitGet)
 
    return nil, nil
 
}

最初别忘了在 client.go 中加一个办法，将咱们的协定用起来：

// Handle reads data from the client, keeps state, and responds.
func (c *Client) Handle() {defer c.Close()
    proto := &protocol.Protocol{}
    err := proto.IOLoop(c)
    if err != nil {log.Printf("ERROR: client(%s) - %s", c.String(), err.Error())
        return
    }
}

有仔细的同学可能发现了，咱们是在协定中关联了 channel，在 channel 构造中保护的消费者数组仿佛并没有用到。这个没有关系，因为咱们设计的这个音讯队列实现的是“拉”模式，是由消费者被动拉取数据。如果咱们要扩大“推”模式，要向消费者被动推送数据的话，channel 中保护的消费者就能够派上用场了。

后盾队列

咱们之前在实现 channel 和 topic 时，会应用一个有缓冲管道 msgChan 作为内存队列暂存音讯，缓冲区满的时候就抉择抛弃音讯，当初咱们就来实现一个长久化的队列来保障这些音讯不失落。

接口和字段定义

老规矩，还是定义一个后盾队列的接口：queue/backend_queue.go

type Queue interface {Get() ([]byte, error)
    Put([]byte) error
    ReadReadyChan() chan struct{}
    Close() error}

工夫无限，这里只提供一个磁盘队列 DiskQueue 的实现，字段定义如下：

const maxFileSize = 1024 * 1024 * 100
 
type DiskQueue struct {
    name         string
    readPos      int64
    writePos     int64
    readFileNum  int64
    writeFileNum int64
    readFile     *os.File
    writeFile    *os.File
    readChan     chan struct{}
    inChan       chan util.ChanReq
    outChan      chan util.ChanRet
    exitChan     chan util.ChanReq
}

后面几个字段就是读写的文件以及地位信息，前面的几个管道用于收发音讯，同时限度了单个文件的大小下限为 100 MB。

辅助函数

辅助函数分为三类：

  • 长久化和重载元数据
  • 生成和获取文件名
  • 判断是否有数据可读

注：当读写的文件超过单个文件大小下限或者敞开队列时，咱们须要将读写的文件名和地位信息保留下来，不便下次启动时从新定位持续读写，须要保留的文件名和读写地位就称之为元数据。

func (d *DiskQueue) persistMetaData() (err error) {metaFileName := d.metaDataFileName()
    tmpFileName := metaFileName + ".tmp"
    f, err := os.OpenFile(tmpFileName, os.O_RDWR|os.O_CREATE, 0600)
    if err != nil {return}
 
    _, err = fmt.Fprintf(f, "%d,%d\n%d,%d\n", d.readFileNum, d.readPos, d.writeFileNum, d.writePos)
    if err != nil {f.Close()
        return
    }
    f.Close()
 
    log.Printf("DISK: persisted meta data for (%s) - readFileNum=%d writeFileNum=%d readPos=%d writePos=%d",
        d.name, d.readFileNum, d.writeFileNum, d.readPos, d.writePos)
 
    return os.Rename(tmpFileName, metaFileName)
}
 
func (d *DiskQueue) retrieveMetaData() (err error) {metaFileName := d.metaDataFileName()
    f, err := os.OpenFile(metaFileName, os.O_RDONLY, 0600)
    if err != nil {return}
    defer f.Close()
 
    _, err = fmt.Fscanf(f, "%d,%d\n%d,%d\n", &d.readFileNum, &d.readPos, &d.writeFileNum, &d.writePos)
    if err != nil {return}
 
    log.Printf("DISK: retrieved meta data for (%s) - readFileNum=%d writeFileNum=%d readPos=%d writePos=%d",
        d.name, d.readFileNum, d.writeFileNum, d.readPos, d.writePos)
 
    return
}
 
func (d *DiskQueue) metaDataFileName() string {return fmt.Sprintf("%s.diskqueue.meta.dat", d.name)
}
 
func (d *DiskQueue) fileName(fileNum int64) string {return fmt.Sprintf("%s.diskqueue.%06d.dat", d.name, fileNum)
}
 
func (d *DiskQueue) hasDataToRead() bool {return (d.writeFileNum > d.readFileNum) || (d.writePos > d.readPos)
}

读写音讯

读写音讯的逻辑就是对文件的读写，没有什么浏览难度，这里就不一一介绍了：

func (d *DiskQueue) readOne() ([]byte, error) {
    var (
        err     error
        msgSize int32
    )
    if d.readPos > maxFileSize {
        d.readFileNum++
        d.readPos = 0
        d.readFile.Close()
        d.readFile = nil
 
        if err = d.persistMetaData(); err != nil {return nil, err}
    }
 
    if d.readFile == nil {d.readFile, err = os.OpenFile(d.fileName(d.readFileNum), os.O_RDONLY, 0600)
        if err != nil {return nil, err}
        if d.readPos > 0 {_, err = d.readFile.Seek(d.readPos, 0)
            if err != nil {return nil, err}
        }
    }
 
    err = binary.Read(d.readFile, binary.BigEndian, &msgSize)
    if err != nil {d.readFile.Close()
        d.readFile = nil
        return nil, err
    }
 
    readBuf := make([]byte, msgSize)
    _, err = d.readFile.Read(readBuf)
    if err != nil {return nil, err}
 
    d.readPos += int64(msgSize + 4)
 
    return readBuf, nil
}
 
func (d *DiskQueue) writeOne(msg []byte) (err error) {
    var buf bytes.Buffer
 
    if d.writePos > maxFileSize {
        d.writeFileNum++
        d.writePos = 0
        d.writeFile.Close()
        d.writeFile = nil
 
        if err = d.persistMetaData(); err != nil {return}
    }
 
    if d.writeFile == nil {d.writeFile, err = os.OpenFile(d.fileName(d.writeFileNum), os.O_RDWR|os.O_CREATE, 0600)
        if err != nil {return}
 
        if d.writePos > 0 {_, err = d.writeFile.Seek(d.writePos, 0)
            if err != nil {return}
        }
    }
 
    dataLen := len(msg)
    err = binary.Write(&buf, binary.BigEndian, dataLen)
    if err != nil {return}
 
    _, err = buf.Write(msg)
    if err != nil {return}
 
    _, err = d.writeFile.Write(buf.Bytes())
    if err != nil {d.writeFile.Close()
        d.writeFile = nil
        return
    }
 
    d.writePos += int64(dataLen + 4)
 
    return
}

事件调度

后盾队列的事件调度和 channel、topic 的逻辑一模一样，就是裸露的管道操作方法加上后盾的 for + select 监听组合：

func (d *DiskQueue) Get() ([]byte, error) {
    ret := <-d.outChan
    return ret.Variable.([]byte), ret.Err
}
 
func (d *DiskQueue) Put(bytes []byte) error {errChan := make(chan interface{})
    d.inChan <- util.ChanReq{
        Variable: bytes,
        RetChan:  errChan,
    }
    err, _ := (<-errChan).(error)
    return err
}
 
func (d *DiskQueue) ReadReadyChan() chan struct{} {return d.readChan}
 
func (d *DiskQueue) Close() error {errChan := make(chan interface{})
    d.exitChan <- util.ChanReq{RetChan: errChan,}
 
    err, _ := (<-errChan).(error)
    return err
}
 
func (d *DiskQueue) router() {
    for {if d.hasDataToRead() {
            select {
            // in order to read only when we actually want a message
            case d.readChan <- struct{}{}:
                msg, err := d.readOne()
                d.outChan <- util.ChanRet{
                    Err:      err,
                    Variable: msg,
                }
            case writeRequest := <-d.inChan:
                err := d.writeOne(writeRequest.Variable.([]byte))
                writeRequest.RetChan <- err
            case closeReq := <-d.exitChan:
                if d.readFile != nil {d.readFile.Close()
                }
                if d.writeFile != nil {d.writeFile.Close()
                }
 
                closeReq.RetChan <- d.persistMetaData()
 
                return
            }
        } else {
            select {
            case writeRequest := <-d.inChan:
                err := d.writeOne(writeRequest.Variable.([]byte))
                writeRequest.RetChan <- err
            case closeReq := <-d.exitChan:
                if d.readFile != nil {d.readFile.Close()
                }
                if d.writeFile != nil {d.writeFile.Close()
                }
 
                closeReq.RetChan <- d.persistMetaData()
 
                return
            }
        }
    }
}

Get 办法就是读取音讯，Put 是发送音讯，Close 是发送敞开信号。值得一提的是 ReadReadyChan 办法，它返回的是 readChan 这个管道，那么这个管道有什么用？答案是 readChan 是为了确保当真正有读取后盾队列需要的时候才往 outChan 发送数据，毕竟咱们读取数据应该用拉模式，而不是一旦有数据可读就发送的推模式。

使用后盾队列

咱们的后盾队列设计好后，就能够在之前 channel 和 topic 的设计中学以致用防止失落数据的问题，次要批改的中央有三处：

  • 接管音讯时，当 msgChan 缓冲区已满，写入后盾队列
  • 推送音讯时，当 msgChan 无数据但后盾队列有数据时，读取队列组装音讯发送
  • 敞开 channel 和 topic 的时候，一并将后盾队列敞开

须要改变的中央不多，这里就不贴代码了，本篇的残缺代码能够参考：SMQ。

到这里咱们的外围组件大抵设计实现了，下一篇咱们就来实现收尾工作。

正文完
go
发表至： go
2023-03-15
 0
关于go:gocarbon-228-版本发布-轻量级语义化对开发者友好的-Golang-时间处理库
关于go:2022最新慕课网实战课程大全资料完整百度网盘分享
关于go:开源-IM-系统-tinode-部署教程｜-WSL-环境
关于go:golang泛型实现skiplist