乐趣区

关于运维:iLogtail使用入门K8S环境日志采集到SLS

简介:iLogtail 是阿里云中简略日志服务又名“SLS”的采集局部。它用于收集遥测数据,例如日志、跟踪和指标,目前曾经正式开源
(https://github.com/alibaba/il…)。本文通过介绍 ilogtail 如何在 K8S 环境进行装置、配置、应用的最简流程,帮忙用户应用预编译版本疾速上手 ilogtail 日志采集。

应用前筹备

  • 开明阿里云日志服务并创立了 Project(具体步骤参见上一节《ilogtail 应用入门 - 主机环境日志采集到 SLS》)
  • 筹备一个具备公网拜访权限的 K8S 集群,服务器架构为 X86-64。

创立日志配置

1. 跳转到日志服务控制台(sls.console.aliyun.com),点击上一节中曾经创立的 project。

2. 进入 Project 查问页面后,点击左侧边栏的“放大镜”图标,开展 logstore 治理界面,点击“+”,弹出“创立 Logstore”右侧边栏。依照提醒进行配置,输出 logstore 名称后,点击“确认”。

3.logstore 创立胜利后,勾销数据接入向导。点击左侧边栏中的“立方体”按钮,在弹出的“资源”浮层中抉择“机器组”。在开展的“机器组”右边栏中,点击右上角的“四方格”图标,在弹出的浮层中抉择“创立机器组”。

4. 在“创立机器组”有侧边栏中按提醒配置,“机器组标识”抉择“用户自定义标识”,“名称”、“机器组 Topic”、“用户自定义标识”倡议保持一致。“用户自定义标识”是其中最为重要的一个配置,本教程中应用“my-k8s-group”,后续在装置 ilogtail 时会再次用到。“点击”确认保留机器组。

5. 再次点击左侧边栏的“放大镜”图标,开展 logstore 治理界面,点击第 2 步中创立的 logstore 的“向下开展”图标,弹出“配置 Logstore”菜单。点击“logtail 配置”的“+”按钮。

6. 在弹出的“疾速接入数据”对话框中搜寻“kube”,并抉择“Kubernertes- 文件”。在弹出的“提醒”框中单机“持续”。

7. 在“Kubernertes 文件”配置界面,间接抉择“应用现有机器组”。

8. 跳转到“机器组配置”界面,抉择第 4 步中创立的机器组,点击“>”按钮将其退出到“利用机器组”中,而后点击“下一步”。

9. 在 ilogtail 配置中仅批改“配置名称”和“日志门路”两个必填项,点击“下一步”确认。

10. 实现索引配置。这一步不对任何选项进行批改,间接点击下一步实现配置。

此时,整个日志配置曾经实现。请放弃页面关上。

装置 ilogtail

1. 登陆能够管制 K8S 集群的中控机。编辑 ilogtail 的 ConfigMap YAML。

$ vim alicloud-log-config.yaml

在 Vim 中粘贴如下内容并保留(留神,批改正文中提醒的字段,7-11 行)。

apiVersion: v1
kind: ConfigMap
metadata:
  name: alibaba-log-configuration
  namespace: kube-system
data:
    log-project: "my-project" #批改为理论 project 名称
    log-endpoint: "cn-wulanchabu.log.aliyuncs.com" #批改为理论 endpoint
    log-machine-group: "my-k8s-group" #能够自定义机器组名称
    log-config-path: "/etc/ilogtail/conf/cn-wulanchabu_internet/ilogtail_config.json" #批改 cn-wulanchabu 为理论 project 地区
    log-ali-uid: "*********" #批改为阿里云 UID
    access-key-id: "" #本教程用不上
    access-key-secret: "" #本教程用不上
    cpu-core-limit: "2"
    mem-limit: "1024"
    max-bytes-per-sec: "20971520"
    send-requests-concurrency: "20"

2. 计算 alicloud-log-config.yaml 的 sha256 hash,并编辑 ilogtail 的 DaemonSet YAML。

$ sha256sum alicloud-log-config.yaml
f370df37916797aa0b82d709ae6bfc5f46f709660e1fd28bb49c22da91da1214  alicloud-log-config.yaml
$ vim logtail-daemonset.yaml

在 Vim 中粘贴如下内容并保留(留神,批改正文中提醒的字段,21、25 行)。

apiVersion: apps/v1
kind: DaemonSet
metadata:
  name: logtail-ds
  namespace: kube-system
  labels:
    k8s-app: logtail-ds
spec:
  selector:
    matchLabels:
      k8s-app: logtail-ds
  updateStrategy:
    type: RollingUpdate
  template:
    metadata:
      labels:
        k8s-app: logtail-ds
        kubernetes.io/cluster-service: "true"
        version: v1.0
      annotations:
        checksum/config: f370df37916797aa0b82d709ae6bfc5f46f709660e1fd28bb49c22da91da1214 #必须批改为 alicloud-log-config.yaml 的 hash
    spec:
      containers:
      - name: logtail
        image: registry.cn-wulanchabu.aliyuncs.com/log-service/logtail:latest #能够批改为间隔 k8s 集群最近的地区
        resources:
          limits:
            cpu: 2
            memory: 1024Mi
          requests:
            cpu: 100m
            memory: 256Mi
        livenessProbe:
          httpGet:
            path: /liveness
            port: 7953
            scheme: HTTP
          initialDelaySeconds: 30
          periodSeconds: 60
        securityContext:
          privileged: true
        env:
          - name: HTTP_PROBE_PORT
            value: "7953"
          - name: "ALIYUN_LOGTAIL_CONFIG"
            valueFrom:
              configMapKeyRef:
                name: alibaba-log-configuration
                key: log-config-path
          - name: "ALIYUN_LOGTAIL_USER_ID"
            valueFrom:
              configMapKeyRef:
                name: alibaba-log-configuration
                key: log-ali-uid
          - name: "ALIYUN_LOGTAIL_USER_DEFINED_ID"
            valueFrom:
              configMapKeyRef:
                name: alibaba-log-configuration
                key: log-machine-group
          - name: "ALICLOUD_LOG_ACCESS_KEY_ID"
            valueFrom:
              configMapKeyRef:
                name: alibaba-log-configuration
                key: access-key-id
          - name: "ALICLOUD_LOG_ACCESS_KEY_SECRET"
            valueFrom:
              configMapKeyRef:
                name: alibaba-log-configuration
                key: access-key-secret
          - name: "ALICLOUD_LOG_DOCKER_ENV_CONFIG"
            value: "true"
          - name: "ALICLOUD_LOG_ECS_FLAG"
            value: "false"
          - name: "ALICLOUD_LOG_DEFAULT_PROJECT"
            valueFrom:
              configMapKeyRef:
                name: alibaba-log-configuration
                key: log-project
          - name: "ALICLOUD_LOG_ENDPOINT"
            valueFrom:
              configMapKeyRef:
                name: alibaba-log-configuration
                key: log-endpoint
          - name: "ALICLOUD_LOG_DEFAULT_MACHINE_GROUP"
            valueFrom:
              configMapKeyRef:
                name: alibaba-log-configuration
                key: log-machine-group
          - name: "ALIYUN_LOG_ENV_TAGS"
            value: "_node_name_|_node_ip_"
          - name: "_node_name_"
            valueFrom:
              fieldRef:
                fieldPath: spec.nodeName
          - name: "_node_ip_"
            valueFrom:
              fieldRef:
                fieldPath: status.hostIP
          # resource limit for logtail self process
          - name: "cpu_usage_limit"
            valueFrom:
              configMapKeyRef:
                name: alibaba-log-configuration
                key: cpu-core-limit
          - name: "mem_usage_limit"
            valueFrom:
              configMapKeyRef:
                name: alibaba-log-configuration
                key: mem-limit
          - name: "max_bytes_per_sec"
            valueFrom:
              configMapKeyRef:
                name: alibaba-log-configuration
                key: max-bytes-per-sec
          - name: "send_request_concurrency"
            valueFrom:
              configMapKeyRef:
                name: alibaba-log-configuration
                key: send-requests-concurrency
        volumeMounts:
        - name: sock
          mountPath: /var/run/
        - name: root
          mountPath: /logtail_host
          readOnly: true
          mountPropagation: HostToContainer
      terminationGracePeriodSeconds: 30
      tolerations:
      - operator: "Exists"
      hostNetwork: true
      dnsPolicy: "Default"
      volumes:
      - name: sock
        hostPath:
          path: /var/run/
      - name: root
        hostPath:
          path: /

3. 利用 YAML 配置,创立 ConfigMap 和 DaemonSet。

$ kubectl apply -f alicloud-log-config.yaml
configmap/alibaba-log-configuration created
$ kubectl apply -f logtail-daemonset.yaml
daemonset.apps/logtail-ds created

4. 期待 1 分钟,查看 DeamonSet 是否失常运行

$ kubectl get -f logtail-daemonset.yaml

这个时候控制台应该打印出相似以下的音讯,代表装置胜利

NAME         DESIRED   CURRENT   READY   UP-TO-DATE   AVAILABLE   NODE SELECTOR   AGE
logtail-ds   3         3         3       3            3           <none>          2m1s

上报日志并查看

1. 创立一个用于继续生成日志的 Pod。

$ vim demo-pod.yaml

在 Vim 中粘贴如下内容并保留(留神,可能须要批改正文中提醒的字段,8- 9 行)。

apiVersion: v1
kind: Pod
metadata:
  labels:
    name: demo-pod
  name: demo-pod
spec:
#  imagePullSecrets:          # Comment out to enable specific image pull secret
#    - name: myregistrykey    # repleace it to specific registry key containers
containers:
    - image: busybox
      imagePullPolicy: IfNotPresent
      name: demo-pod
      command: ["/bin/sh"]
      args: ["-c", "while true; do echo $(date) >>/tmp/demo.log; sleep 10; done"]
      resources: {}
      securityContext:
        capabilities: {}
        privileged: false
      terminationMessagePath: /dev/termination-log
  dnsPolicy: ClusterFirst
  restartPolicy: Always

利用 YAML 配置,创立 Pod

$ kubectl apply -f demo-pod.yaml
pod/demo-pod created

回到 Web 控制台,点击配置实现界面的“查问日志”跳转到日志查问界面。点击页面左侧的“放大镜”图标,选中 logstore,点击“眼睛”图标,在左侧呈现的“生产预览”侧边栏中尝试调整 Shard 和工夫范畴,点击预览查看上报的日志。


What’s Next

你能够进入下一节学习《ilogtail 应用入门 -iLogtail 本地部署计划》

理解容器采集原理《通过 DaemonSet- 控制台形式采集容器规范输入》

也能够学习 ilogtail 采集的更多用法:

  • 通过 DaemonSet- 控制台形式采集容器文本日志
  • 采集容器日志
  • 如何获取容器的 Label 和环境变量

原文链接
本文为阿里云原创内容,未经容许不得转载。

退出移动版