Đồ án tốt nghiệp

Thuật toán Phân cụm dữ
liệu nửa giám sát
Đồ án tốt nghiệp Đại học hệ chính quy Thuật toán Phân cụm dữ liệu nửa giám sát

2
GIỚI THIỆU
Trong vài thập niên gần đây, cùng với sự thay đổi và phát triển không ngừng
của ngành công nghệ thông tin nói chung và trong các ngành công nghệ phần cứng,
phân mềm, truyền thông và hệ thống các dữ liệu phục vụ trong các lĩnh vực kinh tế -

liệ
u (Data Clustering ). Phân cụm dữ liệu là quá trính tìm kiếm để phân ra các cụm dữ
liệu, các mẫu dữ liệu từ tập Cơ sở dữ liệu lớn. Phân cụm dữ liệu là một phương pháp
học không giám sát.
Đồ án tốt nghiệp Đại học hệ chính quy Thuật toán Phân cụm dữ liệu nửa giám sát

3
Trong những năm trở lại đây, do phương pháp phân cụm dữ liệu không giám sát còn
nhiều nhược điểm vì vậy dựa trên học không giám sát và học có giám sát đã ra đời
một phương pháp phân cụm dữ liệu mới đó là phương pháp phân cụm dữ liệu nửa
giám sát. Phương pháp phân cụm nửa giám sát không phải là một phương pháp phân
cụm hoàn thiện nhưng nó đã phần nào khắc phục được những hạn chế và phát huy
ưu
điểm của phương pháp phân cụm không giám sát. MỤC LỤC
LỜI CẢM ƠN Error! Bookmark not defined.
MỤC ĐÍCH CỦA ĐỀ TÀI 1
GIỚI THIỆU 2
Chương 1 : TỔNG QUAN VỀ DATA MINING 5
1.1 Giới thiệu về khám phá tri thức 5
1.2 Khai phá dữ liệu và các khái niệm liên quan 6
1.2.1 Khái niệm khai phá dữ liệu 7
1.2.2 Các kỹ thuật tiếp cận trong khai phá cữ liệu 7
Chương 2 : PHÂN CỤM DỮ LIỆU VÀ CÁC TIẾP CẬN 8
2.1 Khái quát về phân cụm dữ liệu 8

4.3 Thuật toán K-Means phân cấp 33
Chương 5 : GIỚI THIỆU VỀ NGÔN NGỮ VB 6.0 36
5.1 Cấu trúc một đề án (Project) 37
5.2 Một số các điều khiển 37
5.3 Mô hình truy cập cơ sở dữ liệu bằng ADO 38
5.4 Trình thiết kế môi trường dữ liệu ( Data Environment ) 40
5.5 Các phương thức của Recordset trong Command 41
Chương 6 : BÀI TOÁN ỨNG DỤNG 42
6.1 Bài toán 44
6.2 Các thông tin về các loại bảo hiểm nhân thọ 45
6.3 Cài đặt thuật toán Phân cụm nửa giám sát vời dữ liệu hốn hợp 47
6.4 Các hàm thủ tục chính khi thực hiện thuật toán 48
6.4.1 Hàm khởi tạo tâm từ Tập giống 48
6.4.2 Các hàm tính khoảng cách 49
6.4.3 thuật toán Constrained-Kmeans 50
6.5 Giao diện chương trình 55
KẾT LUẬN 60
Tài liệu tham khảo 61

các lĩnh vực khác nhau. Để giải quyết vấn đề đó thì kỹ thuật khám phá tri thức trong
cơ sở dữ liệu (Knowledge Discovery in Databases- KDD) đã ra đời.Khám phá tri thức
trong cơ
sở dữ liệu (KDD) là lĩnh vực liên quan đến các ngành như: xác suất thống kê,
học máy, trực quan hóa dữ liệu, tính toán song song,…Trong đó quá trình KDD có thể
chia thành các bước thực hiện như sau [1]:
Bước 1:
Trích chọn dữ liệu: Ở bước này các dữ liệu liên quan trực tiếp đến
nhiệm vụ của quá trình KDD sẽ được thu thập từ các nguồn dữ liệu ban đầu.
Bước 2:
Tiền xử lý dữ liệu: có nhiệm vụ làm sạch, loại bỏ nhiễu, rút gọn và rời
rạc hóa dữ liệu.
Bước 3
: Biến đổi dữ liệu: nhằm chuẩn hóa và làm mịn dữ liệu để chuyển dữ
liệu về dạng thuận lợi nhất phục vụ cho việc khai phá.
Bước 4:
Data mining: dùng các kỹ thuật phân tích để khai thác dữ liệu, trích
chọn các mẫu thông tin cần thiết,… Công đoạn này được xem là mất thời gian
nhất và cũng là quan trọng nhất trong quá trình KDD.
Bước 5:
Đánh giá và biểu diễn tri thức: Các thông tin và mối liên hệ giữa
chúng vừa khám phá trong công đoạn trước được biểu diễn dưới các dạng trực
quan đồng thời được đánh giá theo những tiêu chí nhất định.

Đồ án tốt nghiệp Đại học hệ chính quy Thuật toán Phân cụm dữ liệu nửa giám sát

6

quá trình KDD.
Dữ liệu thô
Trích chọn
dữ liệu
Tiền xử lý
dữ liệu
Biến đổi dữ
liệu
Data mining
Đánh giá và
biểu diễn
Tri thức
D
ữ liệu
Dữ liệu
tiền xử l
ý
M
ẫu
Hình 1: Quá trình khám phá tri thức trong CSDL
Đồ án tốt nghiệp Đại học hệ chính quy Thuật toán Phân cụm dữ liệu nửa giám sát

7
1.2.1 Khái niệm khai phá dữ liệu
Do sự phát triển mạnh mẽ của Data mining về phạm vi các lĩnh vực ứng dụng
trong thực tế và các phương pháp tìm kiếm lên có rất nhiều khài niệm khác nhau về
Data mining. Ở đây em xin nêu ra một định nghĩa gắn gọn và dễ hiểu về Data mining
như sau [1]:
Data mining là một quá trình tìm kiếm, chắt lọc các chi thức mới, tiềm ẩn, hữu
dụng trong tập dữ liệu l


8
• Mô tả khái niệm: Mô tả, tổng hợp và tóm tắt khái niệm, ví dụ như tóm
tắt văn bản.
Chương 2 : PHÂN CỤM DỮ LIỆU VÀ CÁC TIẾP CẬN
2.1 Khái quát về phân cụm dữ liệu
Phân cụm dữ liệu là một kỹ thuật phát triển mạnh mẽ trong nhiều năm trở lại
đây do các ứng dụng và lợi ích to lớn của nó trong các lĩnh vực trong thực tế. Ở một
mức cơ bản nhất người ta định nghĩa phân cụm dữ liệu như sau [1]:
Phân cụm dữ liệu là một kỹ thuật trong Data mining nhằm tìm kiếm, phát hiện
các cụm, các mẫu dữ li
ệu tự nhiên tiềm ẩn và quan trọng trong tập dữ liệu lớn để từ
đó cung cấp thông tin, tri thức cho việc ra quyết định.
Do đó, phân cụm dữ liệu là quá trình phân chia một tập dữ liệu ban đầu thành
các cụm dữ liệu sao cho các đối tượng trong một cụm thì “tương tự” nhau và các đối
tượng trong các cụm khác nhau thì “phi tương tự” với nhau. Số cụm dữ liệu được xác
định bằ
ng kinh nghiệm hoặc bằng một số phương pháp phân cụm.
Sau khi xác định các đặc tính của dữ liệu, người ta đi tìm cách thích hợp để xác
định "khoảng cách" giữa các đối tượng, hay là phép đo tương tự dữ liệu. Đây chính là
các hàm để đo sự giống nhau giữa các cặp đối tượng dữ liệu, thông thường các hàm
này hoặc là để tính độ tương tự (Similar) hoặc là tính độ phi tương tự (Dissimilar)
gi
ữa các đối tượng dữ liệu. Giá trị của hàm tính độ đo tương tự càng lớn thì sự giống
nhau giữa đối tượng càng lớn và ngược lại, còn hàm tính độ phi tương tự tỉ lệ nghịch
với hàm tính độ tương tự.
Trong quá trình phân cụm dữ liệu thì vấn đề trở ngại lớn nhất đó là nhiễu

Thuộc tính nhị phân chỉ có hai giá trị là 0 va 1. Trong đó 0 có nghĩa
là sai và 1 có nghĩa là đúng
y:1 y:0
x: 1
α γ
α+γ
x: 0
δ θ
δ+θ

α+δ γ+θ

Đồ án tốt nghiệp Đại học hệ chính quy Thuật toán Phân cụm dữ liệu nửa giám sát

10
Ví du: thuộc tính hút thuốc của bệnh lao phổi, 0 sẽ ứng vơi bệnh nhân không
hút thuốc, 1 sẽ ứng với bệnh nhân có hút thuốc.
Nếu ta đặt ξ = α+γ+δ+θ. Với x, y là đối tượng có tất cả thuộc tính đều ở
dạng nhị phân.Trong đó α,γ,δ,θ được hiểu như sau:
α là tổng số các thuộc tính có giá trị là 1 trong cả hai đối tượng x, y
γ là tổng số các thuộc tính có giá trị 1 trong x và 0 trong y
δ là tổng số các thuộc tính có giá trị 0 trong x và 1 trong y
θ là tổng số các thuộc tính có giá trị là 0 trong cả hai đối tượng x, y
Khi đó độ tương tự được cho như sau:

-y
i
ứng với thuộc tính thứ i.
Độ đo phi tương tự của x và y được tính bằng các metric khoảng
cách sau
1. Khoảng cách Minkowski:
1/ *
1
(, ) ( ) ,
n
q
q
ii
i
dxy x y q N
=
=− ∈
∑

2. Khoảng cách Euclide:
2
1/2
1
(, ) ( )
n
ii
i
dxy x y
=
=−

p
m
dxy
p
−
=
, trong đó m là số thuộc tính đối sánh tương ứng trùng nhau
và p là tổng số các thuộc tính.
• Kiểu thuộc tính thứ tự (Ordinal)
Là thuộc tính định danh có tính thứ tự, nhưng chúng không được
định lượng. Nếu x và y là hai thuộc tính có thứ tự thì ta có thể xác định x
= y hoặc x
≠ y ho
ặc x > y hoặc x < y.
Ví dụ : thuộc tính xếp hạng kết quả thi đấu của một cuộc đua ôtô.
Độ đo phi tương tự đượ
c tính thông qua các bước sau:
1. Gọi f là một thuộc tính, giá trị của f ứng với đối tượng thứ i là x
if
.
Giả sử f có M
f
trạng thái có thứ tự: 1,2,…,M
f
. Ta thay thế mỗi x
if
bởi
giá trị tương ứng r
if


12
Đây là thuộc tính khoảng nhưng được xác định một cách tương đối
so với điểm mốc
Ví dụ : thuộc tính chiều cao của một người, lấy điểm mốc là mặt đất chỗ
người đó đang đứng, và chiều cao của điểm mốc là 0.
Có nhiều cách để tính độ tương tự giữa các thuộc tính tỉ lệ. Một
trong số đó là việ
c sử dụng công thức tính logarit để chuyển mỗi thuộc
tính tỉ lệ x
i
về dạng thuộc tính khoảng ψ
i
= log(x
i
).
2.3 Những kỹ thuật tiếp cận trong phân cụm dữ liệu
Các kỹ thuật áp dụng để giải quyết vấn đề phân cụm dữ liệu đều hướng tới hai
mục tiêu chung : Chất lượng của các cụm khám phá được và tốc độ thực hiện của thuật
toán. Hiện nay, các kỹ phân cụm dữ liệu có thể phân loại theo các cách tiếp cận chính
sau :
2.3.1 Phân cụm phân hoạch
Phương pháp phân cụm phân hoạch nhằm phân một tập dữ liệu có n phần tử

cho trước thành k nhóm dữ liệu sao cho : mỗi phần tử dữ liệu chỉ thuộc về một nhóm
dữ liệu và mỗi nhóm dữ liệu có tối thiểu ít nhất một phần tử dữ liệu. Các thuật toán
phân hoạch dữ liệu có độ phức tạp rất lớn khi xác định nghiệm tối ưu toàn cục cho vấn
đề PCDL, do nó phải tìm kiếm tất cả các cách phân hoạch có thể được. Chính vì vậ
y,
trên thực tế người ta thường đi tìm giải pháp tối ưu cục bộ cho vấn đề này bằng cách
sử dụng một hàm tiêu chuẩn để đánh giá chất lượng của các cụm cũng như để hướng

đến khi mỗi đối tượng là một cụm, hoặc cho đến khi điều kiện dừng thỏa mãn. Cách
tiếp cận này sử dụ
ng chiến lược chia để trị trong quá trình phân cụm.
Một số thuật toán phân cụm phân cấp điển hình như CURE, BIRCH, …sẽ được
trình bày chi tiết ở trong chương sau.
Thực tế áp dụng, có nhiều trường hợp người ta kết hợp cả hai phương pháp
phân cụm phân hoạch và phương phân cụm phân cấp, nghĩa là kết quả thu được của
phương pháp phân cấp có thể cải tiến thông quan bước phân cụm phân hoạch. Phân
c
ụm phân hoạch và phân cụm phân cấp là hai phương pháp PCDL cổ điển, hiện nay đã
có nhiều thuật toán cải tiến dựa trên hai phương pháp này đã được áp dụng phổ biến
trong Data Mining.
2.3.3 Phân cụm dữ liệu dựa trên mật độ
Phương pháp này nhóm các đối tượng theo hàm mật độ xác định. Mật độ được
định nghĩa như là số các đối tượng lân cận của một đối tượng dữ liệ
u theo một ngưỡng
nào đó. Trong cách tiếp cận này, khi một cụm dữ liệu đã xác định thì nó tiếp tục được
phát triển thêm các đối tượng dữ liệu mới miễn là số các đối tượng lân cận của các đối
tượng này phải lớn hơn một ngưỡng đã được xác định trước. Phương pháp phân cụm
dựa vào mật độ của các đối tượng để xác định các cụm d
ữ liệu có thể phát hiện ra các
cụm dữ liệu với hình thù bất kỳ. Tuy vậy, việc xác định các tham số mật độ của thuật
Đồ án tốt nghiệp Đại học hệ chính quy Thuật toán Phân cụm dữ liệu nửa giám sát

14
toán rất khó khăn, trong khi các tham số này lại có tác động rất lớn đến kết quả phân
cụm dữ liệu. Hình 5 dưới đây là một minh hoạ về các cụm dữ liệu với các hình thù
khác nhau dựa trên mật độ được khám phá từ 3 CSDL khác nhau.
Đồ án tốt nghiệp Đại học hệ chính quy Thuật toán Phân cụm dữ liệu nửa giám sát

15
vào số cell trong mỗi chiều của không gian lưới. Một thí dụ về cấu trúc dữ liệu lưới
chứa các cell trong không gian như hình 6 sau :

. . . . . . . . . .
. . . . . . . . . .
1st level (top level) could
have only one cell.
A cell of (i-1)th level
corresponds to 4 cells of
ith level.
1st layer
(i-1)th layer
ith layer
.
.
.
.Hình 3 : Mô hình cấu trúc dữ liệu lưới

Một số thuật toán PCDL dựa trên cấu trúc lưới điển hình như : STING, WAVECluster,
CLIQUE,…
2.3.5 Phân cụm dữ liệu dựa trên mô hình


2.3.6
nhiều
toán
n
giới t
h
gian
h
dùng
Thực
PCD
L
p
hươ
n
nghiê
n
chỉ á
p
cho d
ữ
lý.
dữ li
ệ
chỉ r
a
xử lý
thuật
các

ày cung c
ấ
h
ực cần ph
h
iệu quả h
ơ
khả năng
k
tế, các ph
ư
L
. Đến nay
n
g pháp tiế
p
Ph
n
cứu này
s
p
dụng cho
c
Ph
ữ
liệu hạn
g
Ph
ệ
u có thể t

ining tro
n
ó
m lược về
á
c phương
p
p
Đại học h
ệ
m
dữ liệu c
ó
t
riển của p
h
ệ
n lợi cho
v
ấ
p rất ít các
ải được th
o
ơ
n, các ngh
i
k
ết hợp các
ư
ơng pháp

ân cụm m
ạ
n
. Mạng K
o
ơ
ng ứng v
ớ
ơ
ron của t
ầ
ủ
a nơ ron r
a
thuật PCD
L
h
ết chúng c
h
ệ
c PCDL t
r
ê
n
g giai đo
ạ
các yêu c
ầ
p
háp phân

ự
c
độ đo tươ
n
có thuộc tí
á
i niệm :
C
n
g phân cụ
m
ờ
: Sử dụn
g
h
iều cụm d
ữ
í
ch hợp vớ
i
n
g chắc ch
ắ
m
eans) .
ạ
ng Kohon
e
o
hnen có tầ

T
h
c

ữ
liệu khô
n
t
ích thông
t
người dùn
g
n
g quá trìn
h
sung cần đ
ư
trong thuật
à
đang đư
ợ
nghiên cứ
u
t
rình bày ở
ự
a t
r
ên các
n

ư
g
.
y
ở trên đã
p
dụng cho
l
iệu có kiể
u
y
. Phần nội
l
àm tiêu ch
L
.
h
uật toán P
h
n
g gian t
r
ê
t
in địa lý, t
u
g
để xác đị
n
h

c
t
động đời
s
o
án phân c
ụ
h
ân cụm n
à
v
ào và các
t
b
ản ghi, m
ư
ợc gắn li
ề
được sử d
ụ
tập dữ liệ
u
u
hỗn hợp
l
dung tiếp
t
í
cho việc
l

p
hân tích t
h
á
c đối tượn
m
được ph
á
ác khái niệ
m
L
, trong đ
ó
c
thuật toá
n
s
ống hàng
n
ụ
m mờ qu
a
à
y
d
ựa trê
n
t
ầng nơ ro
n

dữ liệu k
h
g
cấp cho n
ụ
ng nhiều t
n
cơ sở củ
a
h
ống
k
ê, n
h
g, nhưng c
h
á
t triển áp
d
m
mà chú
n
ó
một đối t
ư
n
thuộc loạ
i
n
gày, chún

t
huật
g
thế
h
ông
gười
rong
a
các
h
ánh
h
úng
d
ụng
n
g xử
ư
ợng
i
này
g
chỉ
h
ất là
m
của
ơ
ron

Trong lập quy hoạch đô thị, phân cụm giúp cho việc nhận dạng cá nhóm nhà
theo kiến trúc và vị trí địa lý để lập quy hoạ
ch đô thị hợp lý.
Trong nghiên cứu trái đất, phân cụm hỗ trợ việc theo dõi các biến động của trái đất
như núi lửa, động đất,… để đưa ra cảnh báo cho chúng ta.
Đồ án tốt nghiệp Đại học hệ chính quy Thuật toán Phân cụm dữ liệu nửa giám sát

18

Chương 3 : PHÂN CỤM DỮ LIỆU KHÔNG GIÁM SÁT
Do sự phát triển không ngừng của phương pháp phân cụm dữ liệu lên hiện nay
có rất nhiều phương pháp phân cụm dữ liệu khác nhau. Các thuật toán phân cụm dữ
liệu được chia thành các nhóm sau đây :
• Phương pháp phân hoạch (pratition),
• Phương pháp phân cấp (hierarchical),

Có rất nhiều thuật toán phân cụm phân hoạch nh
ư : K-Means, K-Medoids,
PAM (Partition Around Medoids), CLARA (Clustering Large Applications),
CLARANS (Clustering Large Applications based on RAndomized Search), CLASA
(Clustering Large Applications based on Simulated Annealing).Ở đây em xin trình bày
về hai thuật toán K-Means và K-Medoids. Trong K-Means mỗi cụm được đại diện bởi
Đồ án tốt nghiệp Đại học hệ chính quy Thuật toán Phân cụm dữ liệu nửa giám sát

19
giá trị tâm (mean) của các đối tượng trong cụm đó. Trong K-Medoids mỗi cụm được
đại diện bởi một trong các đối tượng gần tâm cụm nhất.
3.1.1 Thuật toán K-Means
K-Means lặp lại nhiều lần quá trình bố trí lại vị trí của đối tượng dữ liệu để
phân hoạch một tập dữ liệu thành K cụm và cực tiểu địa phương giá trị bình phương
trung bình khoảng cách giữa các các đối tượng t
ới tâm cụm của nó. Cụ thể hơn, với tập
dữ liệu
{}
1
N
i
i
Xx
=
=
,
d
i
x ∈ℜ
thuật toán K-Means tạo ra K phân hoạch

=
=−
∑∑
được cực tiểu địa phương.

Đánh giá thuật toán K-Means
Ưu điểm:
K-Means [1] là có độ phức tạp tính toán nhỏ O(NKt).
Nhược điểm:
Thuật toán: K-Means.

Input: - Tập các đối tượng dữ liệu
{
}
1

=
được chọn
ngẫu nhiên
2. Lặp cho tới khi hội tụ
Gán cụm: Gán mỗi đối tượng dữ liệu x vào cụm h
*
(tức là tập
{
}
*
(1)
1
K
t
h
h
X
+
=
) với h
*
= argmin
() 2
|| ||
t
h
x
μ
−


dạng phức tạp. K-Means không khắc phục được nhiễu và giá trị K được xác
định bởi người dùng.
3.1.2 Thuật toán K-Medoids
Thuật toán K-Medoids có khả năng khắc phục được nhiễu bằng cách chọn đối
tượng ở gần tâm cụm nhất làm đại diện cho cụm đó (medoid). Thuật toán K-Medoids
được thực hiện qua các bước sau:
1. Chọn K đối tượng bấ
t kỳ trong N đối tượng ban đầu làm các medoid
ban đầu
2. Lặp cho tới khi hội tụ
a) Gán mỗi đối tượng còn lại vào cụm có medoid gần nhất với nó
b) Thay thế medoid hiện tại bằng một đối tượng không phải là
medoid sao cho chất lượng phân cụm được cải thiện (Chất lượng
được đánh giá sử dụng hàm chi phí, hàm tính độ phi tương tự
giữa một đối tượng và medoid c
ủa cụm chứa đối tượng đó).
K-Medoids tỏ ra hiệu quả hơn K-Means trong trường hợp dữ liệu có nhiễu
hoặc đối tượng ngoại lai (Outlier) . Nhưng so với K-Means thì K-Medoids có độ phức
tạp tính toán lớn hơn. Cả hai thuật toán trên đề có nhược điểm chung là số lượng cụm
K được cung cấp bởi người dùng.
3.2 Phương pháp phân cấp
Trong phân cụm phân cấp, tập dữ liệu được tổ chức thành một cây mà mỗi
đỉnh của nó là một cụm. Phân cụm phân cấp được chia thành hai phương pháp là : top-
down và bottom-up.
• Phương pháp bottom-up: Phương pháp này được thiết kế theo chiến lược
từ dưới lên (bottom-up). Phương pháp này bắt đầu với mỗi đối tượng
được khởi tạo tương ứng với các cụm riêng biệt, sau đó ghép những cụm
này thành các cụm lớn h
ơn cho tới khi tất cả đối tượng đều nằm trong
một cụm duy nhất hoặc cho tối khi gặp điều kiện dừng.

CURE là thuật toán s
ử dụng chiến lược bottom-up của phương pháp phân cụm
phân cấp. Khác với hai thuật toán phân cụm phân hoách ở trên thuật toán CURE sử
dụng nhiều đối tượng để biểu diễn cho một cụm thay vì sử dụng các trọng tâm hay đối
tượng tâm. Các đối tượng đại diện của một cụm ban đầu được chọn rải rác đều ở các vị
trí khác nhau, sau đó chúng được di chuyển bằng cách co lại theo một tỉ
lệ nhất định
bottom-up
ste
p
0 ste
p
1 ste
p
3ste
p
2 ste
p
4
ste
p
4 ste
p
3 ste
p
1ste
p
2 ste
p
0

phá bởi CURE :

Hình 5 : Các cụm dữ liệu được khám phá bởi CURE
Đánh giá thuật toán CURE
Ưu điểm:
Bằng cách sử dụng trên một đại diện cho một cụm, CURE có khả năng khám
phá được các cụm có hình thù và kích thước bất kỳ trong tậ
p dữ liệu lớn. Việc
co các đối tượng đại diện có tác dụng làm giảm tác động của các đối tượng
ngoại lai. Do đó CURE có thể xử lý tốt các đối tượng ngoại lai. Tốc độ thực
hiện của CURE nhanh O(N).
Nhược điểm:
Đồ án tốt nghiệp Đại học hệ chính quy Thuật toán Phân cụm dữ liệu nửa giám sát

23
CURE là dễ bị ảnh hưởng bởi các tham số cho bởi người dùng như cỡ mẫu, số
cụm mong muốn.
3.2.2 Thuật toán BIRCH
BIRCH là thuật toán phân cụm phân cấp sử dụng chiến lược Top-down. Tư
tưởng của BIRCH là không lưu toàn bộ đối tượng dữ liệu của các cụm trong bộ nhớ
mà chỉ lưu các tham số thống kê. Đối với mỗi cụm dữ liệu, BIRCH chỉ lưu bộ
ba (N,
LS, SS), trong đó N là số đối tượng trong cụm, LS là tổng các giá trị thuộc tính của
các đối tượng trong cụm, và SS là tổng bình phương của các giá trị thuộc tính của các
đối tượng trong cụm. Bộ ba này được gọi là đặc trưng cụm (Cluster Feature- CF). Khi
đó các cụm trong tập dữ liệu ban đầu sẽ được cho dưới dạng một cây CF. Người ta đã
chứng minh được rằng các đại lượng thống kê như độ đ
o có thể xác định từ cây CF.
Hình 4 sau đây mô tả cấu trúc cây CF.


G
ốc
……….
Lớp đầu
.
.
.
.

Hình 6: Cấu trúc cây CF
Đồ án tốt nghiệp Đại học hệ chính quy Thuật toán Phân cụm dữ liệu nửa giám sát

24
1. BIRCH duyệt tất cả các đối tượng trong tập dữ liệu và xây dựng một
cây CF ban đầu. Ở giai đoạn này các đối tượng lần lượt được chèn vào
nút lá gần nhất của cây CF (nút lá của cây đóng vai trò cụm con), sau
khi chèn xong thì mọi nút trên cây CF được cập nhật thông tin. Nếu
đường kính của cụm con sau khi chèn lớn hơn ngưỡng T thì nút được
tách. Quá trình này được lặp đi lặp lại cho đến khi tất cả các đối tượng
đều được chèn vào cây CF.
2. BIRCH chọn một thuật toán phân cụm bất kỳ (như thuật toán phân
hoạch) để thực hiện phân cụm cho tất các các nút lá.
Đánh giá thuật toán BIRCH.
Ưu điểm:
Nhờ sử dụng cây CF, BIRCH có tốc độ phân cụm nhanh O(N) (vì
BIRCH chỉ duyệt toàn bộ dữ liệu một lần). BIRCH áp dụng được đối với tập
dữ liệu lớn, đặc biệt nó phù hợp với các tậ
p dữ liệu gia tăng theo thời gian.
Nhược điểm:
Chất lượng cụm được khám phá bởi BIRCH là không tốt. Ngoài ra tham