Phân cụm Agglomerative là phương pháp phân cụm bottom-up (từ dưới lên) nơi các cụm có cụm con, lần lượt có cụm con, v.v. Nó có thể bắt đầu bằng cách đặt mỗi đối tượng vào cụm của nó và sau đó trộn các cụm nguyên tử này thành các cụm cao hơn và cao hơn cho đến khi tất cả đối tượng ở trong một cụm đơn lẻ hoặc cho đến khi nó cần điều kiện dừng xác định. Một số phương pháp phân cụm phân cấp dùng loại này. Chúng chỉ khác nhau ở mô tả độ tương đồng giữa các cụm.
Ví dụ, một phương pháp gọi là AGNES (Agglomerative Nesting), cần kỹ thuật single-link và hoạt động như sau. Xét có nhóm đối tượng đặt trong hình chữ nhật. Ban đầu, mọi đối tượng được đặt vào cụm riêng của nó. Do đó các cụm được hợp nhất từng bước theo một số nguyên tắc như kết hợp các cụm với khoảng cách Euclid tối thiểu giữa các đối tượng gần nhất trong cụm.
Phương pháp K-means đối với phân cụm bắt đầu với số lượng cụm cố định và phân bổ tất cả dữ liệu vào đúng số lượng cụm đó. Một lớp phương pháp khác hoạt động bằng agglomeration (hội tụ). Các phương pháp này bắt đầu với mỗi điểm dữ liệu tạo cụm riêng của nó và dần dần kết hợp chúng thành các cụm lớn hơn và lớn hơn cho đến khi tất cả điểm được gom vào một cụm lớn đơn lẻ.
Quy trình đầu tiên là tạo ma trận độ tương đồng. Ma trận độ tương đồng là bảng các khoảng cách cặp hoặc độ tương đồng giữa các cụm. Ban đầu, ma trận độ tương đồng bao gồm khoảng cách cặp giữa các cặp đơn lẻ của bản ghi.
Có nhiều phép đo độ tương đồng giữa bản ghi, như khoảng cách Euclid, góc giữa vector, và tỷ lệ kết nối đến không kết nối các trường phân loại.
Có thể thấy rằng với N cụm ban đầu cho N điểm dữ liệu, N² phép tính đo lường cần để tạo bảng khoảng cách. Nếu phép đo độ tương đồng là thước độ khoảng cách thực, chỉ một nửa cần thiết vì một số thước độ khoảng cách thực tuân theo phương pháp Distance(X, Y) = Distance(Y, X).
Trong toán học, ma trận tương tự là tam giác dưới. Bước tiếp theo là khám phá giá trị nhỏ nhất trong ma trận tương tự. Điều này nhận diện hai cụm tương đồng nhất với nhau. Có thể kết hợp hai cụm này thành một cái mới và làm mới ma trận độ tương đồng bằng cách thay thế hai hàng mô tả cụm cha bằng hàng mới định nghĩa khoảng cách giữa cụm đã hợp nhất và các cụm còn lại.
Bây giờ có N – 1 cụm và N – 1 hàng trong ma trận tương tự. Có thể lặp lại bước hợp nhất N – 1 lần, để một số dữ liệu thuộc về cụm lớn bằng nhau. Mỗi lần lặp nhận diện cụm nào được kết hợp và khoảng cách giữa chúng. Thông tin này có thể xác định phương pháp phân cụm nào để dùng.