获取kafka的lag, offset, logsize的shell和python脚本

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了获取kafka的lag, offset, logsize的shell和python脚本，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含1791字，纯文字阅读大概需要3分钟。

内容图文

python脚本

#!/usr/bin/env python

import os
import re
import sys

group_id=sys.argv[1]
pn=sys.argv[2]

kafka_ip=os.popen('sudo docker inspect elements_kafka_1 | grep KAFKA_ADVERTISED_HOST_NAME').read()
kafka_ip=re.match('^.*=(.*)",', kafka_ip).group(1)
kafka_port=9092

def kafka_value():

    content=os.popen('sudo docker exec -it elements_kafka_1 /opt/kafka_2.12-2.2.0/bin/kafka-consumer-groups.sh --bootstrap-server kafka_ip:kafka_port --group group_id  --describe | grep -v LAG').read()
    content=content.split()

    length=len(content)
    item_num=length/8

    Offset="0"
    Logsize="0"
    Lag="0"

    for i in range(0, item_num):
        Logsize = content[8*i+3]
        if Logsize == "0":
            continue
        else:
            Offset = content[8*i+2]
            Lag = content[8*i+4]

    if pn in (lag, Lag):
        print(Lag)
    if pn in (offset, Offset):
        print(Offset)
    if pn in (logsize, Logsize):
        print(Logsize)

kafka_value()     

shell脚本

#!/bin/bash

#NIC=ens3
#kafka_ip=`ifconfig $NIC | awk '/inet addr:/ {print $2}' | awk -F: '{print $2}'`
kafka_ip=`sudo docker inspect elements_kafka_1 | grep KAFKA_ADVERTISED_HOST_NAME | awk -F "[=,\"]" '{print $3}'`
kafka_port=9092
group_id=$1
pn=$2

sudo docker exec -it elements_kafka_1 /opt/kafka_2.12-2.2.0/bin/kafka-consumer-groups.sh --bootstrap-server $kafka_ip:$kafka_port --group $group_id --describe | grep -v LAG > /tmp/kafka-tp-${group_id}.info

# modify format problem
sed -i 's/\r//g' /tmp/kafka-tp-${group_id}.info

Offset=0
logsize=0
Lag=0

while read line
do   
    current_logsize=`echo $line | awk '{print $4}'`
    if [ $current_logsize = "0" ];then
      continue     
    else
      current_lag=`echo $line | awk '{print $5}'`
      current_offset=`echo $line | awk '{print $3}'`
      Offset=$((Offset+current_offset))
      logsize=$((logsize+current_logsize))
      Lag=$((Lag+current_lag))
    fi
done < /tmp/kafka-tp-${group_id}.info

case $pn in
    offset|Offset)
    echo $Offset
    ;;
    logsize|logSize)
    echo $logsize
    ;;
    lag|Lag)
    echo $Lag
    ;;
    *)
    echo Error
    ;;
esac

内容总结

以上是互联网集市为您收集整理的获取kafka的lag, offset, logsize的shell和python脚本全部内容，希望文章能够帮你解决获取kafka的lag, offset, logsize的shell和python脚本所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端