- Xây dựng một hệ sinh thái quan sát dựa trên việc thu thập các chỉ số thời gian và trực quan hóa đồ họa các chỉ số đó.
- Triển khai các tác nhân xuất dữ liệu chuyên dụng cho môi trường GNU/Linux và Windows để thu thập dữ liệu hệ thống.
- Các chiến lược mở rộng quy mô tiên tiến sử dụng Thanos và VictoriaMetrics để lưu trữ dữ liệu khổng lồ.
Ngày nay, việc theo dõi sát sao những gì đang diễn ra trong cơ sở hạ tầng công nghệ của chúng ta không còn là điều xa xỉ mà là một nhu cầu thiết yếu. Giám sát hệ thống liên tục cho phép chúng ta dự đoán các vấn đề trước khi người dùng cuối nhận thấy bất cứ điều gì bất thường, ngăn chặn một lỗi nhỏ leo thang thành sự cố ngừng hoạt động hoàn toàn khiến chúng ta mất ngủ.
Để đạt được điều này, một sự kết hợp hiệu quả đã được áp dụng: sự kết hợp giữa Prometheus và Grafana. Trong khi Prometheus thu thập và lưu trữ các chỉ số trong cơ sở dữ liệu chuỗi thời gian, Grafana cung cấp giao diện trực quan mạnh mẽ giúp chuyển đổi những con số đó thành các biểu đồ dễ hiểu.
Nguyên tắc cơ bản của giám sát toàn diện
Khi nói về giám sát chủ động, chúng ta không muốn chờ đến khi máy chủ gặp sự cố mới hành động. Phương pháp giám sát Quản lý Hiệu suất Ứng dụng (APM) cho phép bạn quan sát toàn bộ đường đi của một yêu cầu, phát hiện các điểm nghẽn hoặc lỗi hiệu suất trong thời gian thực. Điều này rất quan trọng bởi vì, trong lịch sử, chúng ta đã chuyển từ việc kiểm tra thủ công các chỉ số vật lý vào những năm 80 sang sử dụng các công cụ tự động hiện nay cung cấp cho chúng ta cái nhìn toàn diện về cơ sở hạ tầng.
Việc triển khai loại hình giám sát này không chỉ giảm thời gian ngừng hoạt động mà còn tối ưu hóa chi phí vận hành. Hơn nữa, để mọi thứ vận hành trơn tru, việc quản lý API hiệu quả là rất cần thiết , đảm bảo khả năng mở rộng và bảo mật giao tiếp giữa các ứng dụng, từ đó bổ sung cho chiến lược giám sát.
Xây dựng hệ thống: Prometheus và Grafana trên Linux
Để triển khai hệ thống này trong môi trường Linux, chúng ta cần ba thành phần chính. Đầu tiên là prometheus-node-exporter , chịu trách nhiệm công bố các chỉ số của hệ thống trên cổng 9100. Điều quan trọng cần lưu ý là, trong một số bản phân phối như Ubuntu, trình thu gom rác systemd có thể tạo ra lượng dữ liệu quá lớn (độ phân giải cao), vì vậy đôi khi nên vô hiệu hóa một số trình thu gom bằng Ansible để tránh quá tải hệ thống, theo hướng dẫn tối ưu hóa máy chủ Linux toàn diện.
Bước tiếp theo là máy chủ Prometheus, nơi chúng ta cấu hình tệp. prometheus.ymlĐây là nơi chúng tôi sẽ cho bạn biết chính xác. Những thiết bị nào cần được giám sát? định nghĩa scrape_configs và các mục tiêu (địa chỉ IP và cổng). Khi Prometheus bắt đầu thu thập dữ liệu sau mỗi vài giây, Grafana sẽ được sử dụng. Công cụ này thường được cài đặt bằng các gói .deb và cho phép chúng ta Kết nối Prometheus như một nguồn dữ liệu. Sau đó, chúng ta có thể nhập các bảng điều khiển được thiết kế sẵn, giúp tiết kiệm công sức tạo từng biểu đồ từ đầu.
Giải pháp thay thế nhanh chóng với Docker Compose
Nếu bạn không muốn thực hiện cài đặt thủ công, bạn có thể thiết lập toàn bộ môi trường bằng cách sử dụng container. Sử dụng tệp docker-compose.yml , chúng ta có thể điều phối hình ảnh Prometheus, hình ảnh Grafana và Node Exporter trên cùng một mạng ảo. Để tránh mất dữ liệu khi container khởi động lại, điều cần thiết là phải cấu hình các volume lưu trữ dữ liệu trên hệ thống tệp của máy chủ.
Trong cấu hình này, việc thiết lập được đơn giản hóa đáng kể. Chúng ta có thể sử dụng các tệp YAML để tự động cung cấp các nguồn dữ liệu của Grafana , tránh việc phải truy cập giao diện web để cấu hình URL Prometheus. Hơn nữa, đối với người dùng nâng cao, có các tùy chọn trong tệp JSON cấu hình cho phép thay đổi phương thức truy vấn thành POST hoặc quản lý cảnh báo trực tiếp từ Grafana.
Mở rộng khả năng giám sát sang môi trường Windows.
Không phải mọi thứ trong thế giới doanh nghiệp đều dùng Linux; Windows vẫn là hệ điều hành chủ lực trong nhiều trung tâm dữ liệu. Để tích hợp các máy chủ Windows chuyên dụng này , chúng tôi sử dụng windows_exporter , công cụ này hiển thị các chỉ số trên cổng 9182. Quy trình tương tự: chúng tôi cài đặt tác nhân trên máy Windows, thêm tác vụ tương ứng trong Prometheus và tìm một bảng điều khiển dành riêng cho Windows (chẳng hạn như ID 14694 trong thư viện Grafana) để trực quan hóa trạng thái của CPU, bộ nhớ và ổ đĩa.
Các giải pháp lưu trữ dung lượng lớn và khả năng mở rộng
Khi một công ty phát triển và bắt đầu quản lý hàng triệu chỉ số, Prometheus có thể bắt đầu gặp trục trặc. Để giải quyết vấn đề này, các công cụ như Thanos ra đời , cho phép chuyển dữ liệu lên bộ nhớ đám mây như AWS S3 hoặc Google Cloud Storage, từ đó cung cấp tính khả dụng cao và khả năng lưu trữ dài hạn . Thanos sử dụng một sidecar đi kèm với Prometheus và một thành phần Query để thực hiện các truy vấn liên kết.
Một giải pháp thay thế rất mạnh mẽ khác là VictoriaSố liệuGiải pháp này đặc biệt hiệu quả trong việc sử dụng CPU và bộ nhớ. Trong các kiến trúc phức tạp, nó có thể được sử dụng. Prometheus-Operator trên Kubernetes Hệ thống này quản lý việc thu thập dữ liệu cục bộ và sau đó gửi tất cả các số liệu đến cụm VictoriaMetrics. Hệ thống được chia thành các thành phần như sau: vmstorage để lưu dữ liệu, vminsert để viết chúng và vmselect để tham khảo ý kiến, cho phép quản lý hàng tỷ điểm dữ liệu mà hệ thống không bị chậm lại.
Việc lựa chọn giữa các công cụ này thường phụ thuộc vào khối lượng dữ liệu. Trong khi Prometheus lý tưởng cho việc xử lý ngắn hạn, việc kết hợp nó với VictoriaMetrics hoặc Thanos là lựa chọn an toàn hơn cho môi trường đa đám mây, nơi cần tập trung hóa thông tin từ hàng chục cụm máy chủ và đảm bảo lưu lượng dữ liệu luôn được mã hóa và xác thực bằng các máy chủ proxy bảo mật.
Việc triển khai một hệ sinh thái dựa trên Prometheus và Grafana, được củng cố bằng các tác nhân dành cho Linux và Windows và mở rộng quy mô bằng VictoriaMetrics hoặc Thanos, sẽ biến việc quản lý CNTT thành một quy trình hiệu quả và dễ dự đoán. Bằng cách tập trung hóa các chỉ số và tự động hóa cảnh báo, các tổ chức có được cái nhìn toàn diện về cơ sở hạ tầng của mình, tối ưu hóa hiệu suất và đảm bảo tính liên tục của hoạt động kinh doanh khi đối mặt với bất kỳ sự cố kỹ thuật nào không lường trước được.
