Computer >> Hướng Dẫn Máy Tính >  >> Lập Trình >> Lập Trình

Hiệu suất của Phân tích Phân biệt (Discriminant Analysis)

Phương pháp phân tích phân biệt dựa trên hai giả định chính để đạt được điểm phân loại (classification scores) — Thứ nhất, nó coi rằng các đo lường biến dự báo (predictor measurements) trong một số lớp đến từ một phân phối chuẩn đa biến (multivariate normal distribution). Khi giả định này được thỏa mãn hợp lý, phân tích phân biệt là công cụ mạnh hơn các phương pháp phân loại khác, bao gồm hồi quy logistic (logistic regression).

Đã được chứng minh rằng phân tích phân biệt hiệu quả hơn 30% so với hồi quy logistic nếu dữ liệu là đa biến chuẩn, nó cần ít 30% bản ghi để đạt được kết quả ngang nhau. Đã được chứng minh rằng phương pháp này tương đối mạnh mẽ (robust) đối với sự lệch khỏi tính chuẩn (normality) trong nghĩa rằng các biến dự báo có thể không chuẩn và thậm chí là biến giả (dummy variables).

Điều này đúng miễn là lớp nhỏ nhất đủ lớn (khoảng hơn 20 bản ghi). Phương pháp này cũng được gọi là nhạy cảm (sensitive) với các giá trị ngoại lai (outliers) cả trong vùng đơn biến của các biến dự báo riêng lẻ và trong vùng đa biến.

Phân tích khám phá (Exploratory analysis) nên được dùng để định vị các phương pháp cực đoan và quyết định xem chúng có thể bị loại bỏ hay không.

Giả định thứ hai theo sau phân tích phân biệt là cấu trúc tương quan (correlation structure) giữa nhiều biến dự báo bên trong một lớp là giống nhau qua các lớp. Điều này có thể được kiểm tra bằng cách tính ma trận tương quan giữa các biến dự báo riêng biệt cho mỗi lớp và so sánh các ma trận.

Nếu các tương quan khác nhau đáng kể giữa các lớp, bộ phân loại sẽ xu hướng phân loại các bản ghi vào lớp có biến động cao nhất. Khi cấu trúc tương quan khác nhau bản chất và tập dữ liệu lớn, một lựa chọn thay thế là cần phân tích phân biệt bậc hai (quadratic discriminant analysis).

Một phương pháp vừa phải là thực hiện một số phân tích khám phá về tính chuẩn và tương quan, huấn luyện và tính toán một mô hình, sau đó, dựa trên độ chính xác phân loại và những gì được học từ khám phá ban đầu, quay lại và khám phá thêm liệu các giá trị ngoại lai có phải được kiểm tra hoặc lựa chọn biến dự báo cần được xem lại.

Truyện lập luận giống nhau cho việc sử dụng tập xác thực (validation set) để tính hiệu suất vẫn đúng. Ví dụ, trong các gia đình cắt cỏ cưỡi (riding mowers) 1, 13 và 17 bị phân loại sai. Điều này có nghĩa là mô hình cho ra tỷ lệ lỗi 12.5% cho các bản ghi này.

Tỷ lệ này là đo lường có chệch (biased measure) — nó lạc quan vì nó dùng cùng dữ liệu cho việc khớp (fitting) các hàm phân loại và tính lỗi. Do đó, như với nhiều mô hình, có thể kiểm tra hiệu suất trên một tập xác thực chứa dữ liệu không được bao gồm trong việc tính các hàm phân loại.

Có thể lấy ma trận nhầm lẫn (confusion matrix) từ phân tích phân biệt, có thể cần điểm phân loại chính xác hoặc xu hướng (xác suất đăng ký lớp) được tính từ các điểm phân loại. Trong cả hai trường hợp, quyết định gán lớp của mỗi bản ghi dựa trên điểm lớn nhất hoặc xác suất. Có thể so sánh các phân loại này với thành viên lớp thực tế của dữ liệu này. Điều này cho ra ma trận nhầm lẫn.