인프라 에이전트를 사용하여 로그 전달

Elasticsearch elasticsearch-log.yml.example 파일을 Elasticsearch elasticsearch-log.yml 로 복사(또는 이름 변경)하여 자동 Elasticsearch JSON 형식 로그 구문 분석 및 New Relic으로 전달을 활성화합니다. 에이전트를 다시 시작할 필요가 없습니다.

예시:

sudo cp /etc/newrelic-infra/logging.d/elasticsearch-log.yml.example /etc/newrelic-infra/logging.d/elasticsearch-log.yml

mysql-log.yml.example 파일을 mysql-log.yml 에 복사(또는 이름 변경)하여 자동 MySQL 오류 로그 구문 분석을 활성화하고 New Relic으로 전달합니다. 에이전트를 다시 시작할 필요가 없습니다.

예시:

sudo cp /etc/newrelic-infra/logging.d/mysql-log.yml.example /etc/newrelic-infra/logging.d/mysql-log.yml

nginx-log.yml.example 파일을 nginx-log.yml 에 복사(또는 이름 변경)하여 자동 NGINX 액세스 및 오류 로그 구문 분석 및 New Relic으로의 전달을 활성화합니다. 에이전트를 다시 시작할 필요가 없습니다.

예시:

sudo cp /etc/newrelic-infra/logging.d/nginx-log.yml.example /etc/newrelic-infra/logging.d/nginx-log.yml

로그 파일 또는 파일에 대한 경로입니다. 에이전트는 tail -f shell과 유사한 방식으로 로그 파일의 변경사항을 추적합니다.

예시:

logs:
  - name: example-log
    file: /var/log/example.log # Path to a single log file
  - name: example-log-two
    file: /var/log/example-two.log # Path to another single log file

file 매개변수는 이름과 확장자에 와일드카드를 사용하여 특정 로그 파일이나 여러 파일을 가리킬 수 있습니다. 예: /logs/*.log . 파일 경로의 디렉토리 대신 와일드카드를 사용할 수 있습니다. 이 와일드카드는 다른 디렉토리에 있는 파일을 꼬리말하는 데 사용할 수 있습니다.

예시:

logs:
  - name: docker-logs
    file: /var/lib/docker/containers/*/*.log # Path to multiple folders and files

Linux 환경에서 journald 데몬이 수집한 로그 메시지를 전달하려면 systemd 매개변수를 사용하십시오. 이 입력 유형을 사용하려면 에이전트가 루트 모드 에서 실행되어야 합니다.

예시:

logs:
  - name: systemd-example
    systemd: cupsd

시스템 로그 데이터 소스입니다.

매개변수:

• uri: Syslog 소켓. 형식은 프로토콜에 따라 다릅니다.

  • TCP/UDP 네트워크 소켓: [tcp/udp]://LISTEN_ADDRESS:PORT
  • Unix 도메인 소켓: unix_ [tcp/udp]: //+/socket/path

• parser: Syslog 파서. 기본값은 rfc3164 입니다. 메시지에 소수 자릿수 초가 포함된 경우 rfc5424 를 사용하십시오. 참고: rfc3164 는 현재 SuSE에서 작동하지 않습니다.

• unix_permissions: 도메인 소켓의 경우 기본값은 0644 입니다. 이는 루트로 실행되는 프로세스에 대한 항목을 제한합니다. 0666 을 사용하여 사용자 자신의 위험에 따라 루트가 아닌 프로세스를 청취할 수 있습니다.

  권한 모드에서 에이전트를 실행하는 경우 다른 프로세스가 소켓에 로그를 기록할 수 있도록 0666 파일 권한과 함께 nri-agent가 포트 및 소켓을 사용하거나 소유해야 합니다.

  logs:
    # TCP network socket
    - name: syslog-tcp-test
      syslog:
        uri: tcp://0.0.0.0:5140 # Use the tcp://LISTEN_ADDRESS:PORT format
        parser: rfc5424 # Default syslog parser is rfc3164
    # UDP network socket
    - name: syslog-udp-test
      syslog:
        uri: udp://0.0.0.0:6140 # Use the udp://LISTEN_ADDRESS:PORT format
      max_line_kb: 35
    # Unix TCP domain socket
    - name: syslog-unix-tcp-test
      syslog:
        uri: unix_tcp:///var/unix-tcp-socket-test
        unix_permissions: 0666 # Default is 0644. Change at your own risk
    # Unix UDP domain socket
    - name: syslog-unix-udp-test
      syslog:
        uri: unix_udp:///var/unix-udp-socket-test
        parser: rfc5424

  카피

TCP 연결을 통해 검색된 로그.

매개변수:

• uri: 들어오는 데이터를 수신 대기하는 TCP/IP 소켓입니다. URI 형식은 tcp://LISTEN_ADDRESS:PORT

• format: 데이터 형식. json 또는 none일 수 있습니다.

• separator: format: none 을 사용하는 경우 레코드 분할을 위한 구분자 문자열을 정의할 수 있습니다(기본값: \n ).

  logs:
    - name: tcp-simple-test
      tcp:
        uri: tcp://0.0.0.0:1234 # Use the tcp://LISTEN_ADDRESS:PORT format
        format: none # Raw text - this is default for 'tcp'
        separator: \t # String for separating raw text entries
      max_line_kb: 32
    - name: tcp-json-test
      tcp:
        uri: tcp://0.0.0.0:2345 # Use the tcp://LISTEN_ADDRESS:PORT format
        format: json

  카피

Windows 로그 채널에서 이벤트를 수집한다.

매개변수:

• channel: 채널 로그의 이름이 수집됩니다.

• collect-eventids: 수집하여 New Relic에 전달할 Windows 이벤트 ID 목록입니다. 이벤트 ID 범위가 지원됩니다.

• exclude-eventids: 콜렉션에서 제외할 Windows 이벤트 ID 목록. 이벤트 ID 범위가 지원된다.

  기본적으로 모든 이벤트가 지정된 채널에서 수집됩니다. 원하지 않는 로그를 New Relic 계정에 보내지 않도록 collect-eventids 및 exclude-eventids 섹션을 구성하십시오.

  이벤트 ID 또는 범위를 collect-eventids 또는 exclude-eventids 에 추가하여 특정 이벤트를 전달하거나 삭제합니다. 두 섹션에 동일한 이벤트 ID가 있는 경우 exclude-eventids 가 collect-eventids 보다 우선합니다.

  예시:

  logs:
   # Winlog log ingestion with eventId filters.
    - name: windows-security
      winlog:
        channel: Security
        collect-eventids:
          - 4624
          - 4265
          - 4700-4800
        exclude-eventids:
          - 4735
  
   # entries for the application, system, powershell, and SCOM channels
    - name: windows-application
      winlog:
        channel: Application
    - name: windows-system
      winlog:
        channel: System
    - name: windows-pshell
      winlog:
        channel: Windows Powershell
    - name: scom
      winlog:
        channel: Operations Manager
  
   # Entry for Windows Defender Logs
    - name: windows-defender
      winlog:
        channel: Microsoft-Windows-Windows Defender/Operational
  
   # Entry for Windows Clustering Logs
    - name: windows-clustering
      winlog:
        channel: Microsoft-Windows-FailoverClustering/Operational
  
   # Entry for IIS logs with logtype attribute for automatic parsing
    - name: iis-log
      file: C:\inetpub\logs\LogFiles\w3svc.log
      attributes:
        logtype: iis_w3c

  카피

쿼리할 수 있는 로그와 함께 추가 데이터를 보내는 데 사용할 수 있는 키-값 쌍으로 지정된 사용자 지정 속성 목록입니다. attributes 구성 매개변수는 모든 로그 소스와 함께 사용할 수 있습니다.

attributes 구성 매개변수의 한 가지 일반적인 사용은 logtype 속성을 지정하는 것입니다. 이 속성을 사용하면 새 릴릭 로그에서 지원하는 기본 제공 구문 분석 규칙 중 하나를 활용할 수 있습니다.

예시:

logs:
 - name: example-file-attributes
   file: /var/log/example.log
   attributes:
     logtype: nginx
     region: example-us-02
     team: A-team
 - name: example-tcp-attributes
   tcp:
     uri: tcp://0.0.0.0:2345
     format: json
   attributes:
     logtype: nginx
     region: example-us-02
     team: B-team

인프라 에이전트는 사용자의 편의를 위해 자동으로 로그 속성을 삽입합니다. 로그 레코드의 일부는 로그 레코드에 삽입되는 반면, 다른 일부는 로그 전달기를 설정하는 동안 사용한 구성 매개변수에 따라 다릅니다.

레코드 필터링에 대한 정규식입니다. tail, systemd, syslog및 tcp (형식이 none인 경우에만) 에 대해서만 지원됩니다.

이 필드는 Unix 시스템에서 grep -E 와 유사한 방식으로 작동합니다. 예를 들어, 캡처되는 주어진 파일의 경우 다음을 사용하여 WARN 또는 ERROR 를 포함하는 레코드를 필터링할 수 있습니다.

- name: only-records-with-warn-and-error
  file: /var/log/logFile.log
  pattern: WARN|ERROR

기본적으로 필터링이 적용되지 않습니다.

로그 항목/줄의 최대 크기(KB)입니다. 로그 항목이 제한을 초과하면 건너뜁니다. 기본값은 128 입니다.

외부 유동성 비트 구성 및 구문 분석기 파일. 정의된 경우, 인프라 에이전트가 생성한 기존 구성 및 구문 분석기 파일과 병합됩니다.

인프라 에이전트는 logging.d 디렉토리에 있는 구성 파일을 처리하고 적절한 [INPUT], [FILTER] 및 [OUTPUT] 섹션이 포함된 런타임 F넉넉 Bit 구성 파일을 생성합니다. 선택적으로 fluentbit 옵션을 통해 외부 F유동성 비트 구성 파일을 제공한 경우에도 @INCLUDE 를 선언합니다.

런타임 파일은 [SERVICE] 섹션 을 정의하지 않고 모든 기본 Fluent Bit 구성 값을 유지합니다. 외부 Fluent Bit 구성 파일에서 고유한 [SERVICE] 섹션을 정의하고 fluentbit 옵션을 통해 포함하여 Fluent Bit의 기본 설정을 무시할 수 있습니다.

매개변수:

config_file: 기존의 유동성 비트 구성 파일에 대한 경로입니다. 겹치는 소스를 사용하면 새 릴릭 로그에 중복 메시지가 생성됩니다.

parsers_file: 기존 Fluent Bit 파서 파일의 경로입니다. 다음 파서 이름이 예약되어 있습니다: rfc3164 , rfc3164-local 및 rfc5424 .

로그 관리 기능을 활성화한 후에도 데이터가 나타나지 않으면 표준 로그 문제 해결 절차 를 따르십시오.

로그 전달 기능을 사용하려면 에이전트에 데이터 소스를 읽을 수 있는 권한이 있어야 합니다. 인프라 에이전트를 특권 또는 비특권 모드 로 실행할 때 전달하려는 로그 파일(및 해당 경로의 모든 중간 디렉토리)을 nri-agent 를 실행하는 사용자가 읽을 수 있는지 확인하십시오.

예: Linux에서 파일 액세스 확인

nri-agent 사용자가 /var/log/restrictedLogs/logFile.log 파일을 모니터할 수 있는지 확인하십시오. Linux에서는 namei 명령을 사용하여 빠른 확인을 수행할 수 있습니다.

sudo -u nri-agent namei -ml /var/log/restrictedLogs/logFile.log
f: /var/log/restrictedLogs/logFile.log
drwxr-xr-x root root /
drwxr-xr-x root root var
drwxrwxr-x root syslog log
drwxr--r-- root root restrictedLogs
logFile.log - No such file or directory

파일이 nri-agent 사용자에게 표시되지 않으므로 이 명령이 실패했습니다. 이전 출력을 검사하여 restrictedLogs 디렉토리에 others의 실행 플래그가 누락되었음을 발견할 수 있습니다.

이를 수정하려면 다음을 실행하십시오.

sudo chmod 755 /var/log/restrictedLogs

그런 다음 파일 액세스를 다시 확인하십시오.

# sudo -u nri-agent namei -ml /var/log/restrictedLogs/logFile.log
f: /var/log/restrictedLogs/logFile.log
drwxr-xr-x root root /
drwxr-xr-x root root var
drwxrwxr-x root syslog log
drwxr-xr-x root root restrictedLogs
-rw-r----- vagrant vagrant logFile.log

이제 파일이 nri-agent 사용자에게 표시됩니다. nri-agent 사용자도 파일을 읽을 수 있는지 확인해야 합니다. 이를 확인하려면 다음을 사용하십시오.

# sudo -u nri-agent head /var/log/restrictedLogs/logFile.log
head: cannot open '/var/log/restrictedLogs/logFile.log' for reading: Permission denied

이 예제에서 파일에는 others 그룹 ( vagrant 및 vagrant 사용자 그룹 이외의 사용자) 에 대한 읽기 권한이 없습니다. others에게 읽기 권한을 부여하여 이를 수정할 수 있지만, 응용프로그램은 다시 시작할 때 이러한 권한을 변경할 수 있습니다.

이를 피하려면 vagrant 사용자 그룹에 nri-agent 사용자를 추가하는 것이 더 좋습니다.

로그 전달 기능을 사용하려면 에이전트에 데이터 소스를 읽을 수 있는 권한이 있어야 합니다. 특권 또는 권한이 부여되지 않은 모드에서 인프라스트럭처 에이전트를 실행하는 경우:

• Unix 도메인 소켓 파일을 사용하는 경우, nri-agent 사용자가 이 파일에 액세스할 수 있는지 확인하고 (이전 섹션을 참조하십시오.) nri-agent 가 아닌 다른 사용자가 이 파일에 쓸 수 있도록 읽기 및 쓰기 권한 (666) 이 있는지 확인하십시오.

• IP 소켓을 사용하는 경우, 사용 중인 포트가 시스템 예약 포트 (예: 포트 80) 가 아닌지 확인하십시오.

  로그 관리를 사용 가능하게 한 후 데이터가 표시되지 않으면 표준 로그 관리 문제점 해결 프로시저를 따르십시오.

인프라 에이전트 구성 지침 에 설명된 대로 proxy 매개변수는 HTTP 또는 HTTPS를 사용해야 하며 https :// user : password @ hostname : port 형식이어야 합니다. 에이전트는 HTTP 또는 HTTPS 없이 매개변수를 구문 분석할 수 있지만 로그 전달자는 할 수 없습니다. 에이전트 상세 로그에 다음과 같은 오류가 표시됩니다.

[ERROR] building HTTP transport: parse \"hostname:port\":
first path segment in URL cannot contain colon

이 문제를 해결하려면 newrelic-infra.yml 파일을 확인하고 proxy 매개변수가 이 형식을 준수하는지 확인하십시오.

인증서를 지정하기 위해 caBundleFile 또는 caBundleDir 을 사용하는 경우 각 OS에 대해 아래 규칙을 따르는 것이 좋습니다.

Linux HTTP 프록시의 경우 인증서를 설정할 필요가 없습니다. 플러그인은 시스템 인증서를 로드하고 새 릴릭은 로깅 엔드포인트로 로그를 전송합니다. 그러나 caBundleFile 또는 caBundleDir 매개변수를 사용하여 프록시 자체 서명 인증서 (PEM 파일) 를 지정할 수 있습니다.

윈도우

• HTTP 프록시의 경우 인증서를 설정할 필요가 없습니다. 플러그인은 시스템 인증서를 로드합니다.

• HTTPS 의 경우 다음 방법 중 하나로 구성할 수 있습니다.

• 프록시 인증서를 시스템 풀로 가져오십시오 (권장) MMC 도구를 사용하여 프록시 자체 서명 인증서 (PEM 파일) 를 가져오십시오. 이 링크를 참조하고 단계 2 에서 Intermediate Certification Authorities대신 Trusted Root Certification Authorities으로 가져오도록 하십시오.

• Windows에서 caBundleFile 및 caBundleDir 매개변수를 사용하여, 시스템 인증 풀과 caBundleFile caBundleDir 매개변수로 지정된 인증서를 둘 다 로드할 수 없습니다. 따라서 caBundleFile 또는 caBundleDir을 사용하는 경우, 다음 인증서가 동일한 PEM 파일 ( caBundleFile을 사용하는 경우) 또는 동일한 디렉토리 ( caBundleDir사용 시) 에 있는지 확인하십시오.

• 프록시 인증서 ( HTTPS 프록시이므로).

• 로깅 엔드포인트 인증서 (예: https://log-api.newrelic.com/log/v1) 를 참조하십시오.

• Infrastructure Agent 인증서(예: https://infra-api.newrelic.com ).

  다음을 실행하여 인증서를 확인할 수 있습니다.

  # openssl s_client -connect log-api.newrelic.com:443 -servername log-api.newrelic.com

  카피

자체 로그를 New Relic에 전송하도록 인프라 에이전트를 구성할 수 있다. 이는 로그 전달, 에이전트 또는 지원에 문의할 때 문제점을 해결하는 데 유용합니다.

인프라 에이전트 로그를 새 항목으로 전달하려면 다음을 수행하십시오.

1. newrelic-infra.yml 파일을 편집하십시오.

2. 자세한 정보를 추가하여 문제 해결 모드에서 에이전트 로깅을 활성화합니다 verbose: 3 .

3. systemd 를 사용하지 않거나 journald 에 액세스할 수 없는 Windows및 시스템에서 verbose: 3 은 에이전트가 디스크에 로그를 기록하게 합니다. 이를 방지하려면 verbose: 0 로 되돌립니다.

4. (권장): JSON 형식의 에이전트 로깅을 log_format: json 으로 활성화합니다.

5. 새 설정을 로드하려면 에이전트를 다시 시작하십시오 .

   이 구성은 에이전트를 문제 해결 모드로 설정하지만 로그 전달자( Fluent Bit 기반)는 상세하지 않은 모드에서 계속됩니다.

   때로는 로그 전달자 자체에 문제가 있을 수 있습니다. 예를 들어, Windows 로그 이벤트를 전달할 때나 특정 로그 파일에 액세스할 때 특정 채널에 액세스하는 데 문제가 있을 수 있습니다. 이러한 상황에서는 로그 전달자에 대해 자세한 정보 표시 모드를 활성화할 수도 있습니다.

6. verbose 를 0이외의 값으로 설정하십시오.

7. 구성 옵션 trace: ["log.fw"]을 추가하십시오.

   주의

   [fluentbit] 옵션을 사용 중인지 확인하십시오. verbose: 3 및 trace: ["log.fw"]을 설정할 때 외부 F유동성 비트 구성 파일에서 stdout 을 가리키는 [OUTPUT] 섹션을 정의하지 않았는지 확인하십시오.

2016년 이전 Linux 버전의 경우 OpenSSL 라이브러리를 1.1.0(또는 그 이상)으로 업데이트해야 할 수 있습니다. 이 문제가 있는지 확인하려면:

1. infra-agent 를 실행하여 유동성 비트를 시작했는지 확인하십시오.

   ps -aux | grep td-agent-bit

   카피

2. 실행 중이 아니면 /var/db/newrelic-infra/newrelic-integrations/logging으로 이동하여 다음을 실행합니다:

   ./fluent-bit -i systemd -o stdout

   카피

3. 다음 오류가 발생하면 OpenSSL을 1.1.0이상으로 업데이트한다:

   error while loading shared libraries: libssl.so.1.1: cannot open shared object file: No such file or directory

   카피

Windows에서 로그 전달을 활성화할 때 다음 오류 메시지 중 하나가 나타날 수 있습니다.

The code execution cannot proceed because VCRUNTIME140.dll was not found.

또는

error="exit status 3221225781" process=log-forwarder

이는 누락된 DLL에 의해 야기된다.

이 문제를 해결하려면 해당하는 경우 Microsoft Visual C++ 재배포 가능 패키지를 설치하십시오.

• x64
• x86

많은 양의 파일을 테일링하려고 할 때 다음 오류 메시지 중 하나에 직면하는 것이 일반적입니다.

• 열려 있는 파일이 너무 많음

• inotify 감시의 총 수에 대한 사용자 제한에 도달했거나 커널이 필요한 리소스를 할당하지 못했습니다.

  운영 체제는 할당 가능한 파일 디스크립터의 최대량 (일반적으로 1024기본) 및 최대 할당 가능한 Inotify 시계 (일반적으로 기본적으로 8192) 를 정의합니다. 위의 오류 중 하나를 리턴하여 이러한 한계를 넘으려는 모든 프로세스가 실패합니다.

  로그를 전달하는 데 사용하는 기본 기술인 Fluent Bit 은 하나의 파일 설명자를 열고 전달하도록 구성한 각 파일에 대해 inotify 감시를 설정합니다. 게다가, 이 섹션을 작성하는 시점에서 Fluent Bit는 정상 작동을 위해 32개의 추가 파일 디스크립터 세트를 사용하고 종료될 때 또 다른 추가 파일 디스크립터를 사용합니다. 따라서 많은 양의 파일을 캡처하려면 파일 설명자와 inotify 감시 제한이 모두 추적하려는 로그 파일의 양보다 약간 더 큰지 확인해야 합니다 .

  다음 지침은 10,000개의 로그 파일을 추적하려는 경우 이러한 제한을 늘리는 방법을 요약합니다. 또한 인프라 에이전트가 root 실행 모드 로 설치되어 있다고 가정하므로 root 사용자를 사용하여 실행해야 합니다.

1. 프로세스당 파일 디스크립터의 양에 대한 현재 하드 한계를 확인하십시오. 일반적으로 이 한계는 상당히 높아야 하며 수정할 필요가 없습니다.

   ulimit -Hn

   카피

2. /etc/security/limits.conf에 다음 행을 추가하십시오. 10000 대신 여기에 10100 한계를 지정하여 작업해야 할 수 있는 여분의 파일 설명자를 할당할 수 있습니다.

   root    soft    nofile  10100  # replace root by nri-agent for non-root (privileged and unprivileged) installations

   카피

3. 다음 행을 /etc/pam.d/common-session 에 추가하여 재시작 시 이전 한계가 적용되도록 하십시오.

   session required pam_limits.so

   카피

4. /etc/sysctl.conf 에 다음 행을 추가하여 사용자당 허용되는 Inotify 관측자의 양을 늘리십시오. root 사용자에게 여전히 8192 사용 가능한 Inotify 시계 (기본값) 가 있도록 18192 의 한계를 10000 으로 지정했습니다.

   fs.inotify.max_user_watches=18192

   카피

5. 시스템을 다시 시작하십시오.

6. 다음을 실행하여 새 한계가 적용되었는지 확인하십시오.

   ulimit -Sn                                    # Should return 10100
   cat /proc/sys/fs/inotify/max_user_watches     # Should return 18192

   카피

   파일 열기 제한 을 늘리거나 inotify 감시를 늘리는 방법에 대해 자세히 알아보세요 .

버전 1.19.0 (또는 SLES 12.5의 경우 버전 1.20.3 ) 이전에 Linux 인프라 에이전트가 유동성 비트 바이너리로 번들되었습니다. 이 버전에서 시작하여, F넉넉 Bit는 이제 별도의 recommended 패키지 종속성으로 포함됩니다.

이는 에이전트와 별도로 유동성 비트를 설치, 업데이트 또는 다운그레이드할 수 있음을 의미합니다. 사용자의 편의를 위해 인프라가 생활하는 동일한 저장소에 여러 개의 부유한 비트 패키지를 포함시켰으므로, 유동성 있는 비트를 업그레이드하기 위해 추가 저장소를 설치할 필요가 없습니다.

에이전트는 사용 가능한 최신 버전을 사용하여 처음 설치할 때 Fluent Bit를 자동으로 설치합니다. 처음 설치한 후에는 일반적으로 Linux 패키지를 사용하는 것처럼 Fluent Bit를 업그레이드할 수 있습니다.

다음을 실행하여 사용 가능한 여유 비트 버전을 나열할 수 있습니다.

예:

sudo yum check-update
yum list td-agent-bit --showduplicates

뎁:

sudo apt update
apt-cache showpkg td-agent-bit

특정 F부유층 Bit 버전으로 업그레이드하려면 다음 예제에서는 1.8.12 버전이 사용됩니다.

예:

# Remove command only required when downgrading to a previous version
sudo yum remove td-agent-bit
sudo yum install td-agent-bit-1.8.12-1

뎁:

sudo apt install td-agent-bit=1.8.12