Hồi quy (Regression)
Hồi quy định nghĩa một loại phương pháp học máy có giám sát có thể dùng để dự đoán bất kỳ thuộc tính giá trị liên tục nào. Hồi quy cung cấp cho tổ chức kinh doanh khám phá mối quan hệ giữa biến mục tiêu và biến dự báo. Đây là công cụ thiết yếu để khám phá dữ liệu có thể dùng cho dự báo tài chính và mô hình chuỗi thời gian.
Dữ liệu có thể được làm mượt bằng cách khớp dữ liệu với một hàm, như với hồi quy. Hồi quy tuyến tính bao gồm khám phá đường thẳng "tốt nhất" để khớp hai thuộc tính (hoặc biến) để một thuộc tính có thể dùng để dự đoán cái kia. Hồi quy tuyến tính đa biến là mở rộng của hồi quy tuyến tính, nơi nhiều hơn hai thuộc tính được bao gồm và dữ liệu được khớp với không gian đa chiều.
Trong hồi quy tuyến tính, dữ liệu được mô hình hóa để khớp một đường thẳng. Ví dụ, một biến ngẫu nhiên, y (gọi là biến phản hồi), có thể được mô hình hóa như hàm tuyến tính của biến ngẫu nhiên khác, x (gọi là biến dự báo), với phương trình y = wx+b, nơi phương sai của y được xem là hằng số.
Vấn đề hồi quy xử lý việc tính giá trị đầu ra dựa trên giá trị đầu vào. Khi dùng cho phân loại, giá trị đầu vào là giá trị từ cơ sở dữ liệu và giá trị đầu ra đại diện cho các lớp. Hồi quy có thể dùng để khám phá vấn đề phân loại, nhưng cũng có thể dùng cho nhiều ứng dụng như dự báo. Cấu trúc cơ bản của hồi quy là hồi quy tuyến tính đơn giản chỉ chứa một biến dự báo và một dự đoán.
Phân loại (Classification)
Phân loại là quy trình khám phá mô hình mô tả và phân biệt các lớp hoặc khái niệm dữ liệu, với mục đích có thể dùng mô hình để dự đoán lớp của các đối tượng mà nhãn lớp của chúng là ẩn danh. Mô hình suy ra dựa trên phân tích một tập bản ghi huấn luyện (tức là đối tượng dữ liệu mà nhãn lớp là biết).
Mỗi bộ được coi là thuộc về một lớp được định nghĩa trước, như được xác định bởi một trong các thuộc tính, gọi là thuộc tính nhãn lớp. Trong cấu trúc phân loại, các bộ dữ liệu được biểu diễn như mẫu, ví dụ, hoặc đối tượng. Các bộ dữ liệu được phân tích để tạo mô hình tập thể tạo thành tập dữ liệu huấn luyện. Các bộ đơn lẻ tạo nên tập huấn luyện được biểu diễn như mẫu huấn luyện và được chọn từ quần thể mẫu.
Vì nhãn lớp của mỗi mẫu huấn luyện được cung cấp, quy trình này cũng được định nghĩa là học có giám sát. Trong học không giám sát, trong đó nhãn lớp của các mẫu huấn luyện không được biết, và các lớp khác nhau cần học không thể biết trước.