• 微信公众号:美女很有趣。 工作之余,放松一下,关注即送10G+美女照片!

golang中使用kafka客户端sarama消费时需要注意的一个点

开发技术 开发技术 3周前 (04-21) 12次浏览
  1. kafka消费者的Consume()方法会阻塞;
  2. 当Consume()方法返回err时,不确定继续消费有没有问题;保险起见,退出进程,然后重新初始化。
  3. 当Consume()方法返回nil是,是可以继续消费的,亲测有效。

需要注意的点写在了注释里:

//StartKafkaConsumer 启动kafka消费者
func StartKafkaConsumer(ctx context.Context) {
    //defer utils.ForPanic()   //当消费者出现问题的时候,通过panic退出进程。然后重新启动初始化
          //因此代码里不要加panic处理的机制
    config := sarama.NewConfig()
    config.Version = sarama.V2_1_0_0 // specify appropriate version
    config.Consumer.Return.Errors = true
    cfg := ReaderConfig.Config()
    group, err := sarama.NewConsumerGroup(
        []string{cfg.GetString("kafka.addr")},
        cfg.GetString("kafka.group_id"), config)
    if err != nil {
        my_logger.Errorf("sarama.NewConsumerGroup error, err=%s", err.Error())
        panic(err)
        //return
    }
    defer func() { _ = group.Close() }()

    // Track errors
    go func() {
        defer utils.ForPanic()
        for err := range group.Errors() {
            if err != nil {
                my_logger.Errorf("consumer error:%s", err.Error())
            }
        }
    }()
    topics := []string{cfg.GetString("kafka.topics")}
    queueSize := cfg.GetInt64("kafka.queue_size")
    if queueSize <= 0 {
        my_logger.Errorf("queueSize <= 0")
        panic("queue_size error")
    }
    log.Printf("queue size:%dn", queueSize)
    handler := ConsumerGroupHandler{
        Pipe: make(chan []byte, queueSize),
    }
    coroutineCount := cfg.GetInt64("kafka.co_count")
    if coroutineCount <= 0 {
        my_logger.Errorf("coroutineCount <= 0")
        panic("coroutineCount error")
    }
    for i := 0; i < int(coroutineCount); i++ {
        go handler.Do()
    }
    log.Println("start success!")
    for {
        //关键代码
        //正常情况下:Consume()方法会一直阻塞
        //我测试发现,约30分钟左右,Consume()会返回,但没有error
        //无error的情况下,可以重复调用Consume()方法
        //当有error产生的时候,不确定Consume()是否能够继续完善的执行。
        //因此保险的办法是抛出panic,让进程重启。
        err = group.Consume(context.Background(), topics, &handler)
        if err != nil {
            my_logger.Errorf("group.Consume error: err=%s", err.Error())
            panic(err)
        } else {
            my_logger.Info("group.Consume exit")
        }
    }
}

程序员灯塔
转载请注明原文链接:golang中使用kafka客户端sarama消费时需要注意的一个点
喜欢 (0)