Phân loại tài liệu tự động là dịch vụ khai phá văn bản thiết yếu vì sự tồn tại của số lượng khổng lồ tệp trực tuyến, nó là vô tận nhưng quan trọng để có thể tự động tổ chức các bản ghi như vậy thành các lớp để hỗ trợ truy xuất tài liệu và phân tích liên tiếp.
Phân loại tài liệu đã được dùng trong gắn thẻ chủ đề tự động (gán nhãn cho tài liệu), xây dựng thư mục chủ đề, và nhận diện phong cách viết tài liệu và xác định mục tiêu của siêu liên kết liên quan đến tập tài liệu.
Một quy trình chung như sau: Trước tiên, một nhóm tài liệu đã phân loại trước được lấy làm tập huấn luyện. Tập huấn luyện được phân tích để tạo ra lược đồ phân loại. Lược đồ phân loại như vậy cần được tinh chỉnh với giai đoạn kiểm tra. Lược đồ phân loại suy ra như vậy có thể dùng cho phân loại nhiều tệp trực tuyến.
Giai đoạn này xảy ra tương tự như phân loại dữ liệu quan hệ. Dữ liệu quan hệ được cấu trúc tốt như mỗi tuple được mô tả bởi một nhóm cặp thuộc tính-giá trị.
Ví dụ, trong tuple {nắng, ấm, khô, không gió, chơi tennis}, giá trị "nắng" tương ứng thuộc tính thời tiết, "ấm" tương ứng thuộc tính nhiệt độ, v.v.
Phân tích phân loại quyết định nhóm cặp thuộc tính-giá trị nào có quyền phân biệt cao nhất quyết định xem một người có chơi tennis hay không. Nói cách khác, cơ sở dữ liệu tài liệu không được cấu trúc theo cặp thuộc tính-giá trị.
Là tập từ khóa liên kết với tập tài liệu không được tổ chức thành tập thuộc tính hoặc chiều cố định. Nếu xem mỗi từ khóa, thuật ngữ, hoặc đặc trưng riêng biệt trong tài liệu như một chiều, có thể có hàng nghìn chiều trong tập tài liệu. Do đó, thường dùng phương pháp phân loại hướng dữ liệu quan hệ, bao gồm phân tích cây quyết định, không thể hiệu quả cho phân loại cơ sở dữ liệu tài liệu.
Theo mô hình không gian vector, hai tệp giống nhau nếu chúng chia sẻ cùng vector tệp. Mô hình này thúc đẩy xây dựng bộ phân loại k-nearest-neighbor, dựa trên trực giác rằng tài liệu tương tự được kỳ vọng gán cùng nhãn lớp.
Có thể đơn giản lập chỉ mục tất cả tài liệu huấn luyện, mỗi tài liệu liên kết với nhãn lớp tương ứng. Khi tài liệu kiểm tra được nộp, có thể xem nó như truy vấn cho hệ thống IR và truy xuất từ tập huấn luyện k tài liệu giống nhất với truy vấn, với k là hằng số có thể điều chỉnh.
Nhãn lớp của tệp kiểm tra có thể được quyết định dựa trên phân phối nhãn lớp của k láng giềng gần nhất của nó. Phân phối nhãn lớp này cũng có thể được tinh chỉnh, như dựa trên đếm có trọng số thay vì đếm thô, hoặc dành một phần tài liệu có nhãn để xác thực.