Chuyển đến nội dung chính

Đo độ trễ dữ liệu từ hệ thống nguồn đến báo cáo

Cách đo độ trễ đầu cuối qua từng chặng, phân biệt thời gian chờ nguồn với thời gian xử lý và kiểm tra bản ghi đến muộn bằng dữ liệu mẫu.

Sơ đồ đo độ trễ dữ liệu qua bốn chặng từ nguồn đến báo cáo trong BMB DataHub

Đăng ngày

Độ trễ dữ liệu phải được đo từ thời điểm phát sinh đến lúc báo cáo có thể sử dụng

Có. Độ trễ của một luồng dữ liệu không nên chỉ tính bằng thời gian chạy ETL. Chỉ số có ý nghĩa nghiệp vụ phải bắt đầu từ lúc bản ghi phát sinh tại hệ thống nguồn và kết thúc khi người dùng có thể nhìn thấy giá trị đã kiểm tra trên báo cáo. Nếu chỉ đo thời gian xử lý trong BMB DataHub, đơn vị có thể thấy tác vụ hoàn thành trong 8 phút nhưng không biết dữ liệu nguồn đã nằm chờ 90 phút trước khi được lấy, hoặc datamart đã cập nhật nhưng bộ nhớ đệm báo cáo còn giữ phiên bản cũ.

Phân tách độ trễ thành các chặng có thể truy vết

Một luồng nên lưu ít nhất bốn mốc thời gian. Mốc phát sinh cho biết giao dịch được tạo tại nguồn. Mốc tiếp nhận là lúc DataHub nhận bản ghi hoặc tệp. Mốc sẵn sàng là lúc bản ghi đã qua kiểm tra chất lượng và được đưa vào vùng dữ liệu phục vụ. Mốc hiển thị là lúc báo cáo hoặc API khai thác có thể đọc phiên bản mới. Hiệu giữa hai mốc liên tiếp giúp tìm đúng chặng gây chậm, còn hiệu giữa mốc đầu và mốc cuối phản ánh độ trễ đầu cuối.

Các mốc phải dùng cùng quy ước múi giờ. Nếu nguồn ghi giờ địa phương còn nền tảng tích hợp ghi UTC, so sánh trực tiếp có thể tạo độ trễ âm. DataHub nên giữ thời gian nguồn, múi giờ và thời gian chuẩn hóa. Nguồn chỉ có ngày phải được gắn nhãn “độ chính xác theo ngày”.

Tình huống nghiệp vụ bằng dữ liệu mẫu

Một doanh nghiệp mẫu có 24 chi nhánh, mỗi giờ phát sinh khoảng 48.000 dòng bán hàng. Cam kết nội bộ là báo cáo điều hành phản ánh ít nhất 95% giao dịch trong vòng 45 phút. Trong một phiên kiểm tra, thời gian trung vị từ phát sinh đến tiếp nhận là 12 phút, từ tiếp nhận đến sẵn sàng là 9 phút và từ sẵn sàng đến hiển thị là 4 phút. Độ trễ trung vị đầu cuối bằng 25 phút, tưởng như đạt yêu cầu.

Tuy nhiên, phân vị 95 đạt 73 phút. Khi tách theo chi nhánh, 21 chi nhánh có phân vị 95 dưới 40 phút, hai chi nhánh ở mức 52 phút và một chi nhánh ở mức 108 phút. Nhật ký cho thấy chi nhánh cuối gửi tệp theo lô 60 phút một lần; DataHub chỉ mất 7 phút xử lý. Nếu chỉ nhìn thời gian ETL, nhóm vận hành sẽ tối ưu sai chỗ. Đây là toàn bộ dữ liệu mẫu để minh họa cách đo, không phải kết quả của khách hàng thực tế.

Quy trình thiết lập chỉ số độ trễ

Trước hết, nhóm nghiệp vụ xác định “dữ liệu sẵn sàng” có nghĩa gì với từng báo cáo. Báo cáo doanh thu có thể cần đủ giao dịch, danh mục cửa hàng và tỷ giá; việc bảng giao dịch cập nhật chưa đồng nghĩa số doanh thu đã dùng được. Mốc kết thúc nên được ghi khi tất cả phụ thuộc bắt buộc đã đạt điều kiện, hoặc báo cáo phải hiển thị rõ phần dữ liệu nào còn thiếu.

Tiếp theo, nhóm tích hợp lập bản đồ các chặng từ nguồn, vùng tiếp nhận, vùng chuẩn hóa, core, datamart đến lớp khai thác. Mỗi chặng tạo dấu thời gian và mã phiên chạy. Dấu thời gian không được sửa khi chạy lại; lần chạy lại cần một mã riêng và liên kết với bản ghi gốc để vẫn phân biệt độ trễ thực tế với thời gian khắc phục.

Sau đó, DataHub tính chỉ số theo cửa sổ, nguồn và đơn vị. Trung vị cho biết trải nghiệm thông thường nhưng không phát hiện phần đuôi chậm. Nên theo dõi thêm phân vị 95, tỷ lệ vượt ngưỡng và số bản ghi chưa có mốc kết thúc.

Cuối cùng, cảnh báo phải chỉ đến chặng chịu trách nhiệm. Cảnh báo “báo cáo chậm” quá chung chung. Cảnh báo tốt hơn nêu nguồn nào, cửa sổ nào, số bản ghi ảnh hưởng, chặng chậm nhất và phiên gần nhất đã thành công. Người vận hành có thể kiểm tra kết nối nguồn nếu thời gian chờ tiếp nhận tăng, hoặc kiểm tra tài nguyên xử lý nếu chặng chuẩn hóa tăng.

Xử lý bản ghi đến muộn và chạy lại

Bản ghi đến muộn không nên làm sai lịch sử chỉ số. Nếu giao dịch phát sinh lúc 09:00 nhưng đến DataHub lúc 14:00, độ trễ tiếp nhận là 5 giờ dù phiên ETL lúc 14:05 hoàn tất nhanh. Hệ thống có thể phân nhóm “đến muộn do nguồn” để vận hành không nhầm với lỗi DataHub. Khi nguồn sửa lại thời gian phát sinh, cần lưu giá trị trước và sau cùng lý do thay đổi.

Với tác vụ chạy lại, cần tách độ trễ phục vụ, tức thời gian người dùng chờ dữ liệu đúng, khỏi thời gian xử lý kỹ thuật của từng lần chạy. Nếu báo cáo từng hiển thị số sai trong 30 phút rồi được sửa, nhật ký phải giữ cả khoảng ảnh hưởng.

Tiêu chí kiểm tra trước khi đưa vào vận hành

Bộ kiểm thử nên tạo các bản ghi có thời gian bình thường, bản ghi đến muộn, bản ghi sai múi giờ, phiên chạy lại và trường hợp báo cáo giữ bộ nhớ đệm. Kết quả đạt khi từng mốc có thể truy ngược tới nhật ký nguồn; tổng độ trễ bằng tổng các chặng trong sai số cho phép; không xuất hiện giá trị âm mà không có cảnh báo; và phân vị được tính trên đúng tập bản ghi.

Nhóm nghiệp vụ cũng cần đối chiếu thủ công một mẫu nhỏ, chẳng hạn 30 giao dịch từ ba chi nhánh qua bốn mốc. Dashboard phải giải thích được mỗi trường hợp vượt ngưỡng. Khi thay đổi lịch lấy dữ liệu hoặc bộ nhớ đệm, bộ thử cần chạy lại.

Câu hỏi thường gặp

Có thể dùng thời gian hoàn thành ETL làm độ trễ không?

Chỉ dùng được cho hiệu năng của riêng tác vụ ETL. Độ trễ nghiệp vụ phải tính thêm thời gian chờ tại nguồn và thời gian dữ liệu đi từ vùng xử lý đến báo cáo.

Nên đặt một ngưỡng cho toàn bộ dữ liệu?

Không nên. Dữ liệu điều hành trong ngày, dữ liệu đối soát cuối ngày và dữ liệu tham chiếu có nhu cầu khác nhau. Mỗi sản phẩm dữ liệu cần ngưỡng và cửa sổ đo riêng.

Xem thêm BMB DataHub và bài Kiểm soát tần suất nạp khi nguồn thay đổi để liên kết ngưỡng độ trễ với lịch lấy dữ liệu phù hợp.