Используйте строгость журналов с Google Compute Engine и агентом Cloud Logging - PullRequest
3 голосов
/ 24 апреля 2020

Я хотел бы использовать серьезность журналов с агентом Google Cloud Logging и виртуальной машиной linux (Debian), работающей на Compute Engine.

Экземпляр Compute Engine - это компьютер debian-9 n2-standard-4.

Я установил агент облачного ведения журнала, следуя документации .

$ curl -sSO https://dl.google.com/cloudagents/add-logging-agent-repo.sh
$ sudo bash add-logging-agent-repo.sh
$ sudo apt-get install google-fluentd
$ sudo apt-get install -y google-fluentd-catch-all-config-structured
$ sudo service google-fluentd start

И в соответствии с этого параграфа мы можем использовать серьезность журнала, если строка журнала является сериализованным объектом JSON и если для параметра detect_ json задано значение true.

Так что я веду что-то вроде ниже, но, к сожалению, у меня нет серьезности в GCP.

$ logger '{"severity":"ERROR","message":"This is an error"}'

enter image description here

Но я бы ожидал что-то вроде этого:

enter image description here

Я не против типа записи в журнале textPayload или jsonPayload.

Файл /etc/google-fluentd/google-fluentd.conf с обнаружением_ json, включающим:

$ cat /etc/google-fluentd/google-fluentd.conf 
# Master configuration file for google-fluentd

# Include any configuration files in the config.d directory.
#
# An example "catch-all" configuration can be found at
# https://github.com/GoogleCloudPlatform/fluentd-catch-all-config
@include config.d/*.conf

# Prometheus monitoring.
<source>
  @type prometheus
  port 24231
</source>
<source>
  @type prometheus_monitor
</source>

# Do not collect fluentd's own logs to avoid infinite loops.
<match fluent.**>
  @type null
</match>

# Add a unique insertId to each log entry that doesn't already have it.
# This helps guarantee the order and prevent log duplication.
<filter **>
  @type add_insert_ids
</filter>

# Configure all sources to output to Google Cloud Logging
<match **>
  @type google_cloud
  buffer_type file
  buffer_path /var/log/google-fluentd/buffers
  # Set the chunk limit conservatively to avoid exceeding the recommended
  # chunk size of 5MB per write request.
  buffer_chunk_limit 512KB
  # Flush logs every 5 seconds, even if the buffer is not full.
  flush_interval 5s
  # Enforce some limit on the number of retries.
  disable_retry_limit false
  # After 3 retries, a given chunk will be discarded.
  retry_limit 3
  # Wait 10 seconds before the first retry. The wait interval will be doubled on
  # each following retry (20s, 40s...) until it hits the retry limit.
  retry_wait 10
  # Never wait longer than 5 minutes between retries. If the wait interval
  # reaches this limit, the exponentiation stops.
  # Given the default config, this limit should never be reached, but if
  # retry_limit and retry_wait are customized, this limit might take effect.
  max_retry_wait 300
  # Use multiple threads for processing.
  num_threads 8
  # Use the gRPC transport.
  use_grpc true
  # If a request is a mix of valid log entries and invalid ones, ingest the
  # valid ones and drop the invalid ones instead of dropping everything.
  partial_success true
  # Enable monitoring via Prometheus integration.
  enable_monitoring true
  monitoring_type opencensus
  detect_json true
</match>

Файл /etc/google-fluentd/config.d/syslog.conf:

$ cat /etc/google-fluentd/config.d/syslog.conf
<source>
  @type tail

  # Parse the timestamp, but still collect the entire line as 'message'
  format syslog

  path /var/log/syslog
  pos_file /var/lib/google-fluentd/pos/syslog.pos
  read_from_head true
  tag syslog
</source>

Чего мне не хватает?

Примечание: я знаю об обходном пути glcoud , но он не идеален, так как он регистрирует все под ресурсом введите «Global», но не в моей виртуальной машине.

1 Ответ

0 голосов
/ 01 мая 2020

Logger использует syslog, а syslog "анализирует метку времени, но все же собирает всю строку как" message "*

, как описано в / etc / google-fluentd / config.d /syslog.conf

В вашем случае вы можете использовать серьезность журналов путем потоковой передачи структурированных журналов через файлы структурированных журналов в формате json.

Вот результат

echo '{"severity": "ERROR", "message": "Это ошибка"}' >> / tmp / test- structd-log.log

enter image description here

...