Một số phương pháp phân cụm dữ liệu ĐHDL Hải Phòng
Vũ Minh Đông – CT1002
1
MỤC LỤC
MỤC LỤC ................................................................................................................................. 1
DANH MỤC HÌNH MINH HỌA .......................................................................................... 3
LỜI CẢM ƠN............................................................................................................................ 4
CHƢƠNG 1: TỔNG QUAN VỀ KHAI PHÁ DỮ LIỆU .................................................... 5
1.1 Giới thiệu về khám phá tri thức ..................................................................... 5
1.2 Khai phá dữ liệu và các khái niệm liên quan ................................................. 7
1.2.1 Khái niệm khai phá dữ liệu ................................................................... 7
1.2.2 Các phƣơng pháp khai phá dữ liệu ........................................................ 7
1.2.3 Các lĩnh vực ứng dụng trong thực tiễn .................................................. 8
1.2.4 Các hƣớng tiếp cận cơ bản và kỹ thuật áp dụng trong khai phá dữ liệu 8
CHƢƠNG 2: PHÂN CỤM DỮ LIỆU VÀ CÁC TIẾP CẬN ............................................ 10
2.1 Khái niệm chung .......................................................................................... 10
2.2 Các kiểu dữ liệu và độ đo tƣơng tự .............................................................. 10
2.2.1 Các kiểu dữ liệu ................................................................................... 10
2.2.2 Độ đo tƣơng tự và phi tƣơng tự ........................................................... 12
2.3 Các kỹ thuật tiếp cận trong phân cụm dữ liệu ............................................. 15
2.3.1 Phƣơng pháp phân cụm phân hoạch .................................................... 15
2.3.2 Phƣơng pháp phân cụm phân cấp ........................................................ 15
2.3.3 Phƣơng pháp phân cụm dựa trên mật độ ............................................. 16
2.3.4 Phƣơng pháp phân cụm dựa trên lƣới ................................................ 17
2.3.5 Phƣơng pháp phân cụm dựa trên mô hình ........................................... 18
2.3.6 Phƣơng pháp phân cụm có dữ liệu ràng buộc .................................... 19
2.4 Các ứng dụng phân cụm dữ liệu .................................................................. 20
CHƢƠNG 3: MỘT SỐ THUẬT TOÁN CƠ BẢN TRONG PHÂN CỤM DỮ LIỆU .. 21
3.1 Các thuật toán phân cụm phân hoạch .......................................................... 21
DANH MỤC HÌNH MINH HỌA
Hình 1. 1: Quy trình phát hiện tri thức ........................................................................ 6
Hình 2. 1: Mô hình cấu trúc dữ liệu lƣới .................................................................. 18
Hình 3. 1: Các cụm dữ liệu đƣợc khám phá bởi CURE ............................................ 24
Hình 4. 1: Thuật toán K-means ................................................................................. 34
Hình 4. 2: Tìm kiếm Top X color. ............................................................................ 35
Hình 4. 3: Phân cụm. ................................................................................................. 36
Hình 4. 4: Tính trọng tâm mới. ................................................................................. 37
Hình 4. 5: Kiểm tra hội tụ. ........................................................................................ 38
Một số phương pháp phân cụm dữ liệu ĐHDL Hải Phòng
Vũ Minh Đông – CT1002
4
LỜI CẢM ƠN Trƣớc hết em xin chân thành cảm ơn thầy Ngô Trƣờng Giang là giáo
viên hƣớng dẫn em trong quá tình làm đồ án. Thầy đã giúp em rất nhiều và đã
cung cấp cho em nhiều tài liệu quan trọng phục vụ cho quá trình tìm hiểu về
đề tài “Tìm hiểu một số phƣơng pháp phân cụm dữ liệu và ứng dụng”.
Thứ hai, em xin chân thành cảm ơn các thầy cô trong bộ môn công
nghệ thông tin đã chỉ bảo em trong quá trình học và rèn luyện trong 4 năm
học vừa qua. Đồng thời em cảm ơn các bạn sinh viên lớp CT1002 đã gắn bó
với em trong quá trình rèn luyện tại trƣờng.
Cuối cùng em xin chân thành cảm ơn ban giám hiệu trƣờng Đại Học
Dân Lập Hải Phòng đã tạo điều kiện cho em có kiến thức, thƣ viện của trƣờng
là nơi mà sinh viên trong trƣờng có thể thu thập tài liệu trợ giúp cho bài giảng
trên lớp. Đồng thời các thầy cô trong trƣờng giảng dạy cho sinh viên kinh
nghiệm cuộc sống. Với kiến thức và kinh nghiệm đó sẽ giúp cho em trong
và có thể hiểu đƣợc. Còn khai thác dữ liệu là một bƣớc trong qui trình phát
hiện tri thức gồm có các thuật toán khai thác dữ liệu chuyên dùng dƣới một số
qui định về hiệu quả tính toán chấp nhận đƣợc để tìm ra các mẫu hoặc các mô
hình trong dữ liệu. Nói một cách khác, mục đích của phát hiện tri thức và khai
phá dữ liệu chính là tìm ra các mẫu hoặc các mô hình đang tồn tại trong các
cơ sở dữ liệu nhƣng vẫn còn bị che khuất bởi hàng núi dữ liệu.
Một số phương pháp phân cụm dữ liệu ĐHDL Hải Phòng
Vũ Minh Đông – CT1002
6
Quy trình phát hiện tri thức:
Hình 1. 1: Quy trình phát hiện tri thức
Bước thứ nhất: là tìm hiểu lĩnh vực ứng dụng và hình thành bài toán,
bƣớc này sẽ quyết định cho việc rút ra đƣợc các tri thức hữu ích và cho phép
chọn các phƣơng pháp khai phá dữ liệu thích hợp với mục đích ứng dụng và
bản chất của dữ liệu.
Bước thứ hai: là thu thập và xử lý thô, còn đƣợc gọi là tiền xử lý dữ
liệu nhằm loại bỏ nhiễu, xử lý việc thiếu dữ liệu, biến đổi dữ liệu và rút gọn
dữ liệu nếu cần thiết, bƣớc này thƣờng chiếm nhiều thời gian nhất trong toàn
bộ qui trình phát hiện tri thức.
Bước thứ ba: là khai phá dữ liệu, hay nói cách khác là trích ra các mẫu
hoặc các mô hình ẩn dƣới các dữ liệu.
Bước thứ tư: là hiểu tri thức đã tìm đƣợc, đặc biệt là làm sáng tỏ các mô
tả và dự đoán. Các bƣớc trên có thể lặp đi lặp lại một số lần, kết quả thu đƣợc
có thể đƣợc lấy trung bình trên tất cả các lần thực hiện.
Một số phương pháp phân cụm dữ liệu ĐHDL Hải Phòng
Vũ Minh Đông – CT1002
7
1.2 Khai phá dữ liệu và các khái niệm liên quan
8
1.2.3 Các lĩnh vực ứng dụng trong thực tiễn
Phân tích dữ liệu và hỗ trợ ra quyết định.
Phân lớp văn bản, tóm tắt văn bản, phân lớp các trang Web và phân
cụm ảnh màu.
Chuẩn đoán triệu chứng, phƣơng pháp trong điều trị y học.
Tìm kiếm, đối sánh các hệ Gene và thông tin di truyền trong sinh học.
Phân tích tình hình tài chính, thị trƣờng, dự báo giá cổ phiếu trong tài
chính, thị trƣờng và chứng khoán.
Bảo hiểm …
1.2.4 Các hƣớng tiếp cận cơ bản và kỹ thuật áp dụng trong khai phá dữ liệu
Các kỹ thuật khai phá dữ liệu thƣờng đƣợc chia thành 2 nhóm chính:
Kỹ thuật khai phá dữ liệu mô tả: có nhiệm vụ mô tả về các tính chất
hoặc các đặc tính chung của dữ liệu trong CSDL hiện có. Các kỹ thuật
này gồm có: phân cụm (Clustering), tổng hợp (Summerization), trực
quan hóa (Visualiztion), phân tích sự phát triển và độ lệch (Evolution
and deviation analyst), luận kết hợp (Associantion rules)
Kỹ thuật khai phá dữ liệu dự đoán: có nhiệm vụ đƣa ra các dự đoán vào
các suy diễn trên dữ liệu hiện thời. Các kỹ thuật này gồm có: phân lớp
(Classification), hồi quy (Regression). . .
Sau đây em xin đƣợc giới thiệu 3 phƣơng pháp thông dụng nhất là:
phân cụm dữ liệu, phân lớp dữ liệu và khai phá luận kết hợp.
Phân lớp dữ liệu: Mục tiêu của phƣơng pháp phân lớp dữ liệu là dự
đoán nhãn lớp cho các mẫu dữ liệu. Quá trình phân lớp dữ liệu thƣờng
gồm 2 bƣớc: xây dựng mô hình và sử dụng mô hình để phân lớp dữ
liệu.
Một số phương pháp phân cụm dữ liệu ĐHDL Hải Phòng
Vũ Minh Đông – CT1002
9
Bước 1: một mô hình sẽ đƣợc xây dựng dựa trên việc phân tích các mẫu
“Phân cụm dữ liệu là một kỹ thuật trong Data Mining, nhằm tìm kiếm,
phát hiện các cụm, các mẫu dữ liệu tự nhiên tiềm ẩn, quan trọng trong tập dữ
liệu lớn, từ đó cung cấp thông tin, tri thức hữu ích cho việc ra quyết định ”
Nhƣ vậy phân cụm dữ liệu là quá trình chia một tập dữ liệu ban đầu
thành các cụm dữ liệu sao cho các phần tử trong một cụm “tƣơng tự”
(Similar) với nhau và các phần tử trong các cụm khác nhau sẽ “phi tƣơng tự”
(Dissimilar) với nhau. Số các cụm dữ liệu đƣợc phân ở đây có thể đƣợc xác
định trƣớc theo kinh nghiệm hoặc có thể đƣợc tự động xác định.
2.2 Các kiểu dữ liệu và độ đo tƣơng tự
2.2.1 Các kiểu dữ liệu
Cho một một cơ sở dữ liệu D chứa n đối tƣợng trong không gian k
chiều trong đó x, y, z là các đối tƣợng thuộc D: x = (x
1
, x
2
, …, x
k
); y = (y
1
, y
2
,
…, y
k
); z = (z
1
, z
2
, …, z
k
quát hóa của thuộc tính nhị phân, trong đó miền giá trị là rời rạc không
phân biệt thứ tự và có nhiều hơn hai phần tử: nghĩa là nếu x và y là hai
đối tƣợng thuộc tính thì chỉ có thể xác định là x # y hoặc x = y.
Thuộc tính có thứ tự (Ordinal Scale): là thuộc tính định danh có
thêm tính thứ tự, nhƣng chúng không đƣợc định lƣợng. Nếu x và y là
hai thuộc tính thứ tự thì ta có thể xác định là x # y hoặc x = y hoặc x >
y hoặc x <y
Thuộc tính khoảng (Interval Scale): Với thuộc tính khoảng, chúng ta
có thể xác định một thuộc tính là đứng trƣớc hoặc đứng sau thuộc
tính khác với một khoảng là bao nhiêu. Nếu x
i
> y
i
thì ta nói x cách y
một khoảng x
i
– y
i
tƣơng ứng với thuộc tính thứ i.
Thuộc tính tỉ lệ (Ratio Scale): là thuộc tính khoảng nhƣng đƣợc xác
định một cách tƣơng đối so với điểm mốc, thí dụ nhƣ thuộc tính chiều
cao hoặc
cân nặng lấy điểm 0 làm mốc.
Trong các thuộc tính dữ liệu trình bày ở trên, thuộc tính định danh
và thuộc tính có thứ tự gọi chung là thuộc tính hạng mục (Categorical),
thuộc tính khoảng và thuộc tính tỉ lệ đƣợc gọi là thuộc tính số (Numeric).
Một số phương pháp phân cụm dữ liệu ĐHDL Hải Phòng
Vũ Minh Đông – CT1002
1
1
)(
trong đó q là số
tự nhiên dƣơng.
Một số phương pháp phân cụm dữ liệu ĐHDL Hải Phòng
Vũ Minh Đông – CT1002
13
Khoảng cách Euclide: d(x, y) =
n
i
ii
yx
1
2
, đây là trƣờng hợp đặc
biệt của khoảng cách Minskowski trong trƣờng hợp q =2.
Khoảng cách Mahattan: d(x, y) =
n
i
ii
yx
1
, đây là trƣờng hợp đặc
biệt của khoảng cách Minskowski trong trƣờng hợp q =1.
Khoảng cách cực đại: d(x, y) =
ii
n
i
yx
số các thuộc tính.
Thuộc tính có thứ tự:
Giả sử i là thuộc tính thứ tự có M
i
giá trị (M
i
kích thƣớc miền giá trị ):
Các trạng thái M
i
đƣợc sắp thứ tự nhƣ sau: [1… M
i
], chúng ta có thể
thay thế mỗi giá trị của thuộc tính bằng giá trị cùng loại r
i
với r
i
{1… M
i
).
Mỗi một thuộc tính có thứ tự có các miền giá trị khác nhau, vì vậy chúng ta
chuyển đổi chúng về cùng miền giá trị [0, 1] bằng cách thực hiện phép biến
đổi sau cho mỗi thuộc tính:
1
1
)(
)(
i
i
i
i
15
2.3 Các kỹ thuật tiếp cận trong phân cụm dữ liệu
Các kỹ thuật phân cụm có rất nhiều cách tiếp cận và ứng dụng trong
thực tế, nó hƣớng tới hai mục tiêu chung đó là chất lƣợng của các cụm khám
phá đƣợc và tốc độ thực hiện của thuật toán. Hiện nay, các kỹ thuật phân cụm
có thể phân loại theo các cách tiếp cận chính sau.
2.3.1 Phƣơng pháp phân cụm phân hoạch
Phƣơng pháp phân cụm phân hoạch nhằm phân một tập dữ liệu có
n phần tử cho trƣớc thành k nhóm dữ liệu sao cho: mỗi phần tử dữ liệu chỉ
thuộc về một nhóm dữ liệu và mỗi nhóm dữ liệu có tối thiểu ít nhất một
phần tử dữ liệu. Các thuật toán phân hoạch dữ liệu có độ phức tạp rất lớn
khi xác định nghiệm tối ƣu toàn cục cho vấn đề PCDL, do nó phải tìm kiếm
tất cả các cách phân hoạch có thể đƣợc. Chính vì vậy, trên thực tế ngƣời ta
thƣờng đi tìm giải pháp tối ƣu cục bộ cho vấn đề này bằng cách sử dụng
một hàm tiêu chuẩn để đánh giá chất lƣợng của các cụm cũng nhƣ để
hƣớng dẫn cho quá trình tìm kiếm phân hoạch dữ liệu. Với chiến lƣợc
này, thông thƣờng ngƣời ta bắt đầu khởi tạo một phân hoạch ban đầu cho
tập dữ liệu theo phép ngẫu nhiên hoặc theo heuristic và liên tục tinh chỉnh
nó cho đến khi thu đƣợc một phân hoạch mong muốn, thoả mãn ràng
buộc cho trƣớc. Các thuật toán phân cụm phân hoạch cố gắng cải tiến tiêu
chuẩn phân cụm, bằng cách tính các giá trị đo độ tƣơng tự giữa các đối tƣợng
dữ liệu và sắp xếp các giá trị này, sau đó thuật toán lựa chọn một giá trị
trong dãy sắp xếp sao cho hàm tiêu chuẩn đạt giá trị tối thiểu. Nhƣ vậy, ý
tƣởng chính của thuật toán phân cụm phân hoạch tối ƣu cục bộ là sử dụng
chiến lƣợc ăn tham (Greedy) để tìm kiếm nghiệm. Một số thuật toán phân
cụm phân hoạch điển hình nhƣ K-means, PAM, CLARA, CLARANS, …sẽ
đƣợc trình bày chi tiết ở chƣơng sau.
2.3.2 Phƣơng pháp phân cụm phân cấp
Phƣơng pháp này xây dựng một phân cấp trên cơ sở các đối tƣợng dữ
liệu đang xem xét. Nghĩa là sắp xếp một tập dữ liệu đã cho thành một cấu trúc
trên hai phƣơng pháp này đã đƣợc áp dụng phổ biến trong khai phá dữ liệu.
2.3.3 Phƣơng pháp phân cụm dựa trên mật độ
Phƣơng pháp này nhóm các đối tƣợng theo hàm mật độ xác định. Mật
độ đƣợc định nghĩa nhƣ là số các đối tƣợng lân cận của một đối tƣợng dữ liệu
theo một ngƣỡng nào đó. Trong cách tiếp cận này, khi một cụm dữ liệu đã
Copyright: Tài liệu đại học ©