Computer >> Hướng Dẫn Máy Tính >  >> Lập Trình >> Lập Trình

Các khái niệm cơ bản của khai thác dữ liệu là gì?

Khai thác dữ liệu là quá trình tìm các tương quan, mẫu, và xu hướng mới hữu ích bằng cách chuyển qua lượng lớn dữ liệu lưu trữ trong kho, sử dụng công nghệ nhận diện mẫu bao gồm kỹ thuật thống kê và toán học. Là phân tích tập dữ liệu thực tế để khám phá mối quan hệ không ngờ tới và tóm tắt bản ghi theo phương pháp mới vừa logic vừa hữu ích cho chủ sở hữu dữ liệu.

Có nhiều khái niệm của khai thác dữ liệu như sau:

Phân loại (Classification) – Phân loại là quy trình khám phá mô hình biểu diễn và phân biệt các lớp dữ liệu hoặc khái niệm, cho mục đích có thể dùng mô hình để dự đoán lớp của đối tượng mà nhãn lớp của nó ẩn danh. Mô hình suy ra dựa trên phân tích nhóm bản ghi huấn luyện (tức là đối tượng dữ liệu mà nhãn lớp của nó quen thuộc).

Dự đoán (Predictions) – Dự đoán giống như phân loại, ngoại trừ kết quả được biểu diễn trong tương lai.

Ví dụ hàm dự đoán trong kinh doanh và nghiên cứu bao gồm:

  • Dự đoán giá trị cổ phiếu ba tháng vào tương lai.

  • Dự đoán tỷ lệ tăng tử vong giao thông năm sau nếu giới hạn tốc độ được tăng.

  • Dự đoán người chiến thắng World Series bóng chày mùa thu này, dựa trên sự tương ứng thống kê đội.

  • Dự đoán phân tử cụ thể trong khám phá thuốc có thể bắt đầu thuốc mới hiệu quả về chi phí cho công ty dược phẩm.

Quy tắc liên kết và Hệ thống gợi ý (Association Rules and Recommendation Systems) – Quy tắc liên kết, hoặc phân tích sự tương đồng, được thiết kế để tìm các mẫu liên kết chung giữa các mục trong cơ sở dữ liệu lớn. Quy tắc có thể dùng theo nhiều cách. Ví dụ: cửa hàng tạp hóa có thể dùng thông tin này cho việc đặt sản phẩm.

Chúng có thể dùng quy tắc cho ưu đãi khuyến mãi hàng tuần hoặc gói sản phẩm (bundling). Quy tắc liên kết suy ra từ cơ sở dữ liệu bệnh viện về triệu chứng bệnh nhân trong các lần nhập viện liên tiếp có thể giúp tìm "triệu chứng nào được theo sau bởi triệu chứng gì khác" để giúp dự đoán triệu chứng tương lai cho bệnh nhân quay lại.

Giảm dữ liệu (Data Reduction) – Khai thác dữ liệu được dùng cho dữ liệu được chọn trong cơ sở dữ liệu lớn. Khi phân tích và khai thác dữ liệu hoàn thành trên lượng lớn bản ghi thì mất thời gian rất cao để xử lý, làm cho nó không thể thực hiện và không khả thi.

Để giảm thời gian xử lý cho phân tích dữ liệu, kỹ thuật giảm dữ liệu được dùng để đạt biểu diễn giảm của tập dữ liệu nhỏ hơn nhiều về thể tích bằng cách duy trì tính toàn vẹn của dữ liệu gốc. Bằng cách giảm dữ liệu, hiệu quả quy trình khai thác dữ liệu được cải thiện tạo ra cùng kết quả phân tích.

Giảm dữ liệu nhằm định nghĩa nó gọn gàng hơn. Khi kích thước dữ liệu nhỏ hơn, dễ dàng hơn dùng thuật toán trưởng thành và tốn kém tính toán cao. Giảm dữ liệu có thể về mặt số hàng (bản ghi) hoặc mặt số cột (chiều).