校园春色亚洲色图_亚洲视频分类_中文字幕精品一区二区精品_麻豆一区区三区四区产品精品蜜桃

主頁 > 知識庫 > Python 實時獲取任務請求對應的Nginx日志的方法

Python 實時獲取任務請求對應的Nginx日志的方法

熱門標簽:外賣地址有什么地圖標注 煙臺電話外呼營銷系統 如何地圖標注公司 電銷機器人錄音要學習什么 預覽式外呼系統 上海正規的外呼系統最新報價 長春極信防封電銷卡批發 企業彩鈴地圖標注 銀川電話機器人電話

需求描述

項目需求測試過程中,需要向Nginx服務器發送一些用例請求,然后查看對應的Nginx日志,判斷是否存在特征內容,來判斷任務是否執行成功。為了提升效率,需要將這一過程實現自動化。

實踐環境

Python 3.6.5

代碼設計與實現

#!/usr/bin/env python
# -*- coding:utf-8 -*-


'''
@CreateTime: 2021/06/26 9:05
@Author : shouke
'''


import time
import threading
import subprocess
from collections import deque


def collect_nginx_log():
    global nginx_log_queue
    global is_tasks_compete
    global task_status


    args = 'tail -0f /usr/local/openresty/nginx/logs/access.log'
    while task_status != 'req_log_got':
        with subprocess.Popen(args, stdout=subprocess.PIPE, stderr=subprocess.PIPE, shell=True, universal_newlines = True) as proc:
            log_for_req = ''
            outs, errs = '', ''

            try:
                outs, errs = proc.communicate(timeout=2)
            except subprocess.TimeoutExpired:
                print('獲取nginx日志超時,正在重試')
                proc.kill()
                try:
                    outs, errs = proc.communicate(timeout=5)
                except subprocess.TimeoutExpired:
                    print('獲取nginx日志超時,再次超時,停止重試')
                    break
            finally:
                for line in outs.split('\n'):
                    flag = '\"client_ip\":\"10.118.0.77\"' # 特征
                    if flag in line: # 查找包含特征內容的日志
                        log_for_req += line

                if task_status == 'req_finished':
                    nginx_log_queue.append(log_for_req)
                    task_status = 'req_log_got'



def run_tasks(task_list):
    '''
    運行任務
    :param task_list 任務列表
    '''

    global nginx_log_queue
    global is_tasks_compete
    global task_status


    for task in task_list:
        thread = threading.Thread(target=collect_nginx_log,
                                    name="collect_nginx_log")
        thread.start()
        time.sleep(1) # 執行任務前,讓收集日志線程先做好準備

        print('正在執行任務:%s' % task.get('name'))

        # 執行Nginx任務請求
        # ...

        task_status = 'req_finished'
        time_to_wait = 0.1
        while task_status != 'req_log_got': # 請求觸發的nginx日志收集未完成
            time.sleep(time_to_wait)
            time_to_wait += 0.01
        else:# 獲取到用例請求觸發的nginx日志
            if nginx_log_queue:
                nginx_log = nginx_log_queue.popleft()
                task_status = 'req_ready'
                # 解析日志
                # do something here
                # ...
            else:
                print('存儲請求日志的隊列為空')
                # do something here
                # ...


if __name__ == '__main__':
    nginx_log_queue = deque()
    is_tasks_compete = False # 所有任務是否執行完成

    task_status = 'req_ready' # req_ready,req_finished,req_log_got  # 存放執行次任務任務的一些狀態
    print('###########################任務開始###########################')

    tast_list = [{'name':'test_task', 'other':'...'}]
    run_tasks(tast_list)

    is_tasks_compete = True

    current_active_thread_num = len(threading.enumerate())
    while current_active_thread_num != 1:
        time.sleep(2)
        current_active_thread_num = len(threading.enumerate())
    print('###########################任務完成###########################')

注意:

1、上述代碼為啥不一步到位,直接 tail -0f /usr/local/openresty/nginx/logs/access.log | grep "特征內容"呢?這是因為這樣做無法獲取到Nginx的日志

2、實踐時發現,第一次執行proc.communicate(timeout=2)獲取日志時,總是無法獲取,會超時,需要二次獲取,并且timeout設置太小時(實踐時嘗試過設置為1秒),也會導致第二次執行時無法獲取Nginx日志。

到此這篇關于Python 實時獲取任務請求對應的Nginx日志的文章就介紹到這了,更多相關Python獲取Nginx日志內容請搜索腳本之家以前的文章或繼續瀏覽下面的相關文章希望大家以后多多支持腳本之家!

您可能感興趣的文章:
  • python實現的分析并統計nginx日志數據功能示例
  • python+pandas分析nginx日志的實例
  • Python解析nginx日志文件
  • python實現分析apache和nginx日志文件并輸出訪客ip列表的方法
  • Python 分析Nginx訪問日志并保存到MySQL數據庫實例

標簽:上饒 盤錦 湖北 西寧 宜昌 珠海 佳木斯 潮州

巨人網絡通訊聲明:本文標題《Python 實時獲取任務請求對應的Nginx日志的方法》,本文關鍵詞  Python,實時,獲取,任務,請求,;如發現本文內容存在版權問題,煩請提供相關信息告之我們,我們將及時溝通與處理。本站內容系統采集于網絡,涉及言論、版權與本站無關。
  • 相關文章
  • 下面列出與本文章《Python 實時獲取任務請求對應的Nginx日志的方法》相關的同類信息!
  • 本頁收集關于Python 實時獲取任務請求對應的Nginx日志的方法的相關信息資訊供網民參考!
  • 推薦文章
    主站蜘蛛池模板: 榕江县| 武邑县| 卓尼县| 垫江县| 会泽县| 延庆县| 新津县| 平果县| 普宁市| 体育| 大关县| 龙南县| 读书| 英德市| 湾仔区| 建始县| 理塘县| 阳原县| 泽州县| 淮滨县| 南部县| 三台县| 景宁| 大竹县| 天柱县| 福建省| 卢氏县| 湟中县| 铅山县| 达日县| 临江市| 长武县| 武义县| 南川市| 朝阳县| 涞水县| 扬州市| 西乌珠穆沁旗| 榆中县| 福贡县| 耒阳市|