ElasticSearch CronJob странное поведение - PullRequest
Новая
       45

ElasticSearch CronJob странное поведение

0 голосов
/ 04 апреля 2020

Я реализовал пример стека ELK для централизации ведения журнала моего кластера k8s с использованием minikube . Я также развернул задание cron для удаления 1-дневных журналов каждый час в качестве заголовка примера.

Поскольку оно запланировано на начало каждого часа (расписание: "0 * * * * "), Я заметил, что в первом приложении, когда начался новый час, папка эластичного поиска / data перешла из 14M в 2.1M мгновенно отметьте, что cronjob только что удалил старые журналы файлов.

Дело в том, что через несколько сгустков секунд папка / data перешла из 2.1M в 2,7M и затем обратно к 2,4M , как журналы удалялись каждые 15-20 секунд, а не в начале каждого часа. Если я продолжу следить за папкой / data , она будет постоянно увеличиваться и уменьшаться.

В любом случае / logs папка имеет размер 13M, а быстро растет через несколько дней, но задание cron вообще не удаляло свои файлы. Это тоже нормально?

Это базовый модуль ведения журнала c, который я развернул в default пространстве имен:

https://k8s.io/examples/debug/counter-pod.yaml

Это elasti c развертывание поиска развернуто в logging пространство имен: 

apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: elasticsearch-pvc # name of PVC essential for identifying the storage data 
  labels:
    k8s-app: elasticsearch-logging 
spec:
  accessModes:
    - ReadWriteOnce
  resources:
    requests:
      storage: 1Gi
---      
apiVersion: apps/v1
kind: Deployment
metadata:
  name: elasticsearch-logging
  namespace: logging
  labels:
    k8s-app: elasticsearch-logging
spec:
  replicas: 1
  selector:
    matchLabels:
      k8s-app: elasticsearch-logging
  template:
    metadata:
      labels:
        k8s-app: elasticsearch-logging
    spec:
      containers:
      - name: elasticsearch-logging
        image: docker.elastic.co/elasticsearch/elasticsearch-oss:6.3.0
        resources:
          limits:
            cpu: 500m
            memory: 2400Mi
          requests:
            cpu: 100m
            memory: 2350Mi
        ports:
        - containerPort: 9200
          name: db
          protocol: TCP
        - containerPort: 9300
          name: transport
          protocol: TCP
        volumeMounts:
        - name: elasticsearch-logging
          mountPath: /data
        env:
        - name: "NAMESPACE"
          valueFrom:
            fieldRef:
              fieldPath: metadata.namespace
        - name: MINIMUM_MASTER_NODES
          value: "1"
      initContainers:
      - image: registry.hub.docker.com/library/alpine:3.6
        command: ["/sbin/sysctl", "-w", "vm.max_map_count=262144"]
        name: elasticsearch-logging-init
        securityContext:
          privileged: true
      volumes:
      - name: elasticsearch-logging
        persistentVolumeClaim:
          claimName: elasticsearch-pvc   
---
apiVersion: v1
kind: Service
metadata:
  name: elasticsearch-logging
  namespace: logging
  labels:
    k8s-app: elasticsearch-logging
spec:
  ports:
  - port: 9200
    protocol: TCP
    targetPort: db
  selector:
    k8s-app: elasticsearch-logging

Это cronjob развернуто в logging пространство имен: 

apiVersion: batch/v1beta1
kind: CronJob
metadata:
  name: elasticsearch-curator
  namespace: logging
  labels:
    k8s-app: elasticsearch-logging
spec:
  schedule: "0 * * * *"
  jobTemplate:
    spec:
      template:
        metadata:
          name: elasticsearch-curator
          labels:
            k8s-app: elasticsearch-logging
        spec:
          restartPolicy: "Never"
          containers:
          - name: ingestor
            image: python:3.6-alpine
            args: ["sh", "-c", "pip install elasticsearch-curator && curator_cli --host elasticsearch-logging delete_indices --filter_list '[{\"filtertype\":\"age\",\"source\":\"creation_date\",\"direction\":\"older\",\"unit\":\"days\",\"unit_count\":1},{\"filtertype\":\"pattern\",\"kind\":\"prefix\",\"value\":\"logstash\"}]' || true"]
      backoffLimit: 1

Что не так с моей работой cron?

...