KHAI THÁC TẬP PHỔ BIẾN TỪ DỮ LIỆU LUỒNG DỰA TRÊN THUẬT TOÁN DI TRUYỀN SỬ DỤNG BIT VÀ XỬ LÝ SONG SONG - Phạm, Đức Thành; Lê Thị Minh, Nguyện (Tạp chí Khoa học HUFLIT, 2024)
Trong thời đại của dữ liệu lớn, khả năng khai thác thông tin có ý nghĩa từ dữ liệu luồng là vô cùng quan trọng cho các ứng dụng như phân tích thời gian thực, phát hiện bất thường và quá trình ra quyết định. Bài báo này đề xuất một phương pháp mới để khai thác tập phổ biến từ dữ liệu luồng sử dụng thuật toán di truyền kết hợp với các phép toán bit và xử lý song song. Cốt lõi của phương pháp này sử dụng ThreadPoolExecutor từ Python để xử lý song song, tăng tốc độ tính toán đáng kể và cho phép xử lý các luồng dữ liệu lớn một cách hiệu quả. Thuật toán đề xuất sử dụng kỹ thuật cửa sổ trượt để duy trì và cập nhật các tập phổ biến một cách linh hoạt khi dữ liệu mới đến. Phương pháp này đảm bảo rằng phân tích luôn phù hợp với dữ liệu mới nhất, giải quyết các thách thức do tính chất thoáng qua của dữ liệu luồng gây ra. Bằng cách tích hợp các phép toán bit trong thuật toán di truyền, phương pháp này tối ưu hóa việc biểu diễn và thao tác các tập phổ biến, dẫn đến giảm chi phí tính toán và cải thiện hiệu suất. Xử lý song song được thực hiện bằng cách sử dụng ThreadPoolExecutor, cho phép nhiều phân đoạn của luồng dữ liệu được xử lý đồng thời. Điều này không chỉ tăng tốc độ của thuật toán mà còn đảm bảo khả năng mở rộng, làm cho nó phù hợp với môi trường dữ liệu có thông lượng cao. Kết quả thực nghiệm cho thấy phương pháp đề xuất vượt trội so với các kỹ thuật khai thác tập phổ biến truyền thống về cả tốc độ và độ chính xác, đặc biệt trong các tình huống liên quan đến các luồng dữ liệu lớn và liên tục. Chi tiết về triển khai, bao gồm thiết kế của thuật toán di truyền, các phép toán bit và khung xử lý song song, được thảo luận kỹ lưỡng. Ngoài ra, bài báo cung cấp phân tích toàn diện về hiệu suất của thuật toán, nhấn mạnh hiệu quả và tính khả dụng của nó trong các kịch bản dữ liệu luồng thực tế. Phương pháp đề xuất mở ra các hướng đi mới cho việc khai thác dữ liệu luồng thời gian thực, mang lại giải pháp mạnh mẽ và có khả năng mở rộng để trích xuất những thông tin giá trị từ các luồng dữ liệu liên tục.