k8s

需求

日常工作中，所有項(xiàng)目都不是完美的，筆者就經(jīng)常遇到這種情況，pod狀態(tài)是running，但是程序卻沒(méi)有響應(yīng)。發(fā)生這種情況的原因有很多種，有可能是因?yàn)閗8s健康檢查的原因，比如使用ps檢查進(jìn)程;或者是程序內(nèi)部死循環(huán)，但是不退出;再或者網(wǎng)絡(luò)閃斷，程序無(wú)法重連等等。

無(wú)論什么原因，都會(huì)有解決辦法，但是優(yōu)化需要時(shí)間，在未完全解決之前，問(wèn)題不能不解決，于是想到了一個(gè)臨時(shí)方案，因?yàn)楣P者公司項(xiàng)目日志是直接打印在stdout的，發(fā)生了程序無(wú)響應(yīng)的情況，比較簡(jiǎn)單的一個(gè)辦法是判斷日志輸出的時(shí)間。基于此，可以簡(jiǎn)單寫一個(gè)小腳本，發(fā)現(xiàn)日志長(zhǎng)時(shí)間不輸出的時(shí)候，重啟pod。

思路

使用kubectl logs命令查看最后一條日志輸出的時(shí)間戳，與服務(wù)器時(shí)間對(duì)比，差值大于閾值，則重啟相應(yīng)POD。當(dāng)然，這只是一個(gè)簡(jiǎn)單的思路，并不適用于大部分場(chǎng)景，但是適合筆者公司，因?yàn)楹诵捻?xiàng)目請(qǐng)求量很大，但凡是超過(guò)1分鐘日志不刷新，基本可以斷定100%出現(xiàn)問(wèn)題了。

此思路其實(shí)也是拋磚引玉，希望能給大家一些靈感，如果有什么更好的辦法，也可以與筆者溝通交流。

簡(jiǎn)單實(shí)現(xiàn)

shell比較簡(jiǎn)單，直接與服務(wù)器交互也比較友好，就是用shell來(lái)寫吧。

#!/bin/sh 
# 獲取當(dāng)前UTC時(shí)間utc_now=`date -u` 
# 將時(shí)間轉(zhuǎn)換為timestamptimestamp_now=`date -d "$utc_now" +%s` 
function restart_pod() { 
    for i in `kubectl get pod -n iot|grep PODNAME|awk '{print $1}'`;do 
        for time in `kubectl logs  --tail=1 --timestamps $i -n iot | awk '{print $1}'`;do 
            timestamp_pod=`date -d "$time" +%s` 
            delay=$(($timestamp_now-$timestamp_pod))            echo $i:$delay            if [ "$delay" -ge "30" ];then 
                echo "Pod $i 30S內(nèi)沒(méi)有最新日志產(chǎn)生，重啟pod!" 
                echo $i                kubectl delete pod $i -n iot --force --grace-period=0 
                curlwxFunc "Pod $i 30S內(nèi)沒(méi)有最新日志產(chǎn)生，重啟pod!(生產(chǎn)環(huán)境)" 
            fi        done    done}function curlwxFunc() { 
    JSON='{ 
            "msgtype": "text", 
            "text": { 
                "content": "'$1'" 
            } 
        }' 
    curl 'https://qyapi.weixin.qq.com/cgi-bin/webhook/send?key=xxx' \ 
    -H 'Content-Type:application/json' \ 
    -d "${JSON}" 
}restart_pod 

腳本很簡(jiǎn)單，先查詢pod，然后看pod最后一條日志時(shí)間，與服務(wù)器時(shí)間對(duì)比，延遲超過(guò)30s就重啟pod，并且調(diào)用企業(yè)微信接口發(fā)一條通知。

后記

此方法也是治標(biāo)不治本，治標(biāo)還需要從源頭解決，不過(guò)需要時(shí)間，再?zèng)]有解決之前，先用這個(gè)小腳本抗一抗吧。也歡迎大家拍磚。