Các bước tiền xử lý sau áp dụng cho dữ liệu để cải thiện độ chính xác, hiệu quả, và khả năng mở rộng của giai đoạn phân loại hoặc dự đoán:
Làm Sạch Dữ Liệu (Data Cleaning) − Tiền xử lý dữ liệu loại bỏ/giảm nhiễu bằng phương pháp làm mịn và xử lý giá trị thiếu (ví dụ: thay giá trị thiếu bằng giá trị xuất hiện thường xuyên nhất cho thuộc tính đó, hoặc giá trị tốt nhất dựa trên thống kê). Mặc dù nhiều thuật toán phân loại có cấu trúc xử lý nhiễu/thiếu, bước này giảm sự nhầm lẫn khi học.
Phân Tích Liên Quan (Relevance Analysis) − Nhiều thuộc tính trong dữ liệu có thể không liên quan đến nhiệm vụ phân loại/dự đoán. Ví dụ: dữ liệu ghi ngày trong tuần nộp đơn vay ngân hàng khó liên quan đến thành công đơn. Hơn nữa, thuộc tính khác có thể dư thừa. Do đó, phân tích liên quan áp dụng để loại bỏ thuộc tính không liên quan/dư thừa từ quy trình học. Trong học máy, bước này gọi là chọn đặc trưng (feature selection). Chứa thuộc tính có thể làm chậm và dẫn sai bước học.
Chính xác, thời gian dùng cho phân tích liên quan, cộng với thời gian học từ tập đặc trưng "giảm" kết quả, phải nhỏ hơn thời gian học từ tập đặc trưng ban đầu. Do đó, phân tích này giúp tăng hiệu quả và khả năng mở rộng phân loại.
Chuyển Đổi Dữ Liệu (Data Transformation) − Dữ liệu có thể tổng quát hóa thành khái niệm cấp cao. Hệ thống khái niệm dùng cho mục đích này. Đặc biệt hữu ích cho thuộc tính giá trị liên tục. Ví dụ: giá trị toán học thuộc tính thu nhập tổng quát hóa thành trường rời rạc: thấp, trung bình, cao. Tương tự, thuộc tính giá trị danh nghĩa như đường phố tổng quát hóa thành khái niệm cấp cao như thành phố.
Vì tổng quát hóa rút gọn dữ liệu huấn luyện ban đầu, ít hoạt động nhập/xuất hơn trong học. Dữ liệu cũng có thể chuẩn hóa, đặc biệt khi mạng nơ-ron hoặc kỹ thuật chứa đo khoảng cách dùng trong bước học.
Chuẩn hóa bao gồm co giãn tất cả giá trị thuộc tính cho trước để nằm trong phạm vi nhỏ xác định, như -1.0 đến 1.0, hoặc 0 đến 1.0. Trong phương pháp dùng đo khoảng cách, ví dụ, này ngăn thuộc tính ban đầu phạm vi lớn (thu nhập) lấn át thuộc tính phạm vi nhỏ.