Một phương pháp phân cụm phân cấp hoạt động bằng cách hợp nhất các đối tượng dữ liệu thành một cây các cụm. Các thuật toán phân cụm phân cấp là top-down (từ trên xuống) hoặc bottom-up (từ dưới lên). Đặc điểm của các kỹ thuật phân cụm phân cấp chính xác suy giảm do thiếu khả năng điều chỉnh vì quyết định hợp nhất hoặc tách đã được thực hiện.
Có nhiều yếu tố của phân cụm phân cấp như sau:
Thiếu hàm mục tiêu toàn cục (Lack of a Global Objective Function)
Các phương pháp phân cụm phân cấp'agglomération sử dụng nhiều yếu tố để quyết định cục bộ, ở mỗi bước, những cụm nào nên được hợp nhất (hoặc tách cho phương pháp chia rẽ). Phương pháp này tạo ra các thuật toán phân cụm tránh khó khăn của việc cố gắng giải quyết một vấn đề tối ưu hóa tổ hợp phức tạp.
Khả năng xử lý các kích thước cụm khác nhau (Ability to Handle Different Cluster Sizes)
Yếu tố của phân cụm phân cấp agglomerative là cách xem xét kích thước tương đối của nhóm các cụm được kết hợp. Nó chỉ sử dụng các sơ đồ gần kề cụm chứa tổng, như centroid, Ward's, và group average. Có hai phương pháp như weighted (có trọng số), xem xét tất cả các cụm như nhau, và unweighted (không trọng số), lấy số điểm trong mỗi cụm vào tài khoản. Thuật ngữ weighted hoặc unweighted định nghĩa các điểm dữ liệu, không phải các cụm. Nói cách khác, xem xét các cụm kích thước không bằng nhau như nhau gán trọng số khác nhau cho các điểm trong các cụm khác nhau, trong khi lấy kích thước cụm vào tài khoản gán các điểm trong các cụm khác nhau trọng số giống nhau.
Quyết định hợp nhất là cuối cùng (Merging Decisions are Final)
Các thuật toán phân cụm phân cấp agglomerative xu hướng đưa ra các quyết định cục bộ tốt về việc kết hợp hai cụm vì chúng có thể cần thông tin về độ tương đồng cặp của tất cả các điểm. Vì một quyết định được đưa ra để hợp nhất hai cụm, nó không thể được hoàn tác lần sau. Phương pháp này tránh một tiêu chí tối ưu cục bộ trở thành tiêu chí tối ưu toàn cục. Ví dụ, mặc dù tiêu chí "minimize squared error" từ K-means được dùng trong việc xác định cụm nào hợp nhất trong phương pháp Ward, các cụm ở mỗi mức không định nghĩa cực tiểu cục bộ về tổng SSE. Thực tế, các cụm không phải là động, theo nghĩa một điểm trong một cụm có thể gần hơn với tâm cụm của một cụm khác hơn là tâm cụm của cụm hiện tại của nó.
Một số phương pháp cố gắng khắc phục hạn chế rằng các lần hợp nhất là cuối cùng. Một phương pháp cố gắng tinh chỉnh phân cụm phân cấp bằng cách di chuyển các nhánh của cây xung quanh để cải thiện một hàm mục tiêu toàn cục. Phương pháp khác dùng kỹ thuật phân cụm phân hoạch bao gồm K-means để tạo một số cụm nhỏ và sau đó thực hiện phân cụm phân cấp sử dụng các cụm nhỏ này làm điểm khởi đầu.