1
TRƯỜNG ĐẠI HỌC DUY TÂN
KHOA SAU ĐẠI HỌC
TIỂU LUẬN MÔN HỌC
DATA MINING
ĐỀ TÀI :
NGHIÊN CỨU MỘT SỐ THUẬT TOÁN
ỨNG DỤNG DATAMINING
Giảng viên : PGS.TS. Lê Hoài Bắc
Học viên : Dương Trương Quốc Khánh
MỤC LỤC
TRƯỜNG ĐẠI HỌC DUY TÂN......................................................................................1
KHOA SAU ĐẠI HỌC.....................................................................................................1
TIỂU LUẬN MÔN HỌC .................................................................................................1
CHƯƠNG 1: TỔNG QUAN PHÁT HIỆN TRI THỨC VÀ KHAI PHÁ DỮ LIỆU........4
1.1 Giới thiệu chung .........................................................................................................4
1.3.2. Hồi quy................................................................................................................7
CHƯƠNG 2: KỸ THUẬT PHÂN LOẠI TRONG KHAI PHÁ DỮ LIỆU....................11
CHƯƠNG 3: KỸ THUẬT PHÂN CỤM TRONG KHAI PHÁ DỮ LIỆU.....................20
2
1MỞ ĐẦU
• Giới thiệu
Sự phát triển của công nghệ thông tin và việc ứng dụng công nghệ thông tin trong
nhiều lĩnh vực của đời sống, kinh tế xã hội trong nhiều năm qua cũng đồng nghĩa với
lượng dữ liệu đã được các cơ quan thu thập và lưu trữ ngày một tích luỹ nhiều lên. Họ
lưu trữ các dữ liệu này vì cho rằng trong nó ẩn chứa những giá trị nhất định nào đó. Tuy
nhiên, theo thống kê thì chỉ có một lượng nhỏ của những dữ liệu này (khoảng từ 5% đến
10%) là luôn được phân tích, số còn lại họ không biết sẽ phải làm gì hoặc có thể làm gì
với chúng nhưng họ vẫn tiếp tục thu thập rất tốn kém với ý nghĩ lo sợ rằng sẽ có cái gì
đó quan trọng đã bị bỏ qua sau này có lúc cần đến nó. Mặt khác, trong môi trường cạnh
tranh, người ta ngày càng cần có nhiều thông tin với tốc độ nhanh để trợ giúp việc ra

Khai phá dữ liệu (Data Mining) là một khái niệm ra đời vào những năm cuối của
thập kỷ 1980. Nó là quá trình trích xuất các thông tin có giá trị tiềm ẩn bên trong lượng
lớn dữ liệu được lưu trữ trong các CSDL, kho dữ liệu... Hiện nay, ngoài thuật ngữ khai
phá dữ liệu, người ta còn dùng một số thuật ngữ khác có ý nghĩa tương tự như: khai phá
tri thức từ CSDL, trích lọc dữ liệu, phân tích dữ liệu/mẫu, khảo cổ dữ liệu, nạo vét dữ
liệu. Nhiều người coi Khai phá dữ liệu và một thuật ngữ thông dụng khác là Phát hiện tri
thức trong CSDL (Knowlegde Discovery in Databases - KDD) là như nhau. Tuy nhiên
trên thực tế, khai phá dữ liệu chỉ là một bước thiết yếu trong quá trình Phát hiện tri thức
trong CSDL. Có thể nói Data Mining là giai đoạn quan trọng nhất trong tiến trình Phát
hiện tri thức từ cơ sở dữ liệu, các tri thức này hỗ trợ trong việc ra quyết định trong khoa
học và kinh doanh.
4
Đánh giá luật
Tri thức
Mô hình
Dữ liệu
đã làm
sạch, tiền
xử lý
Dữ liệu
Dữ liệu
đích
Gom dữ liệu
Khai phá dữ liệu
Chuyển đổi dữ
liệu
Làm sạch, tiền xử lý
dữ liệu

Internet,

1.3. Khai phá dữ liệu dự đoán
Nhiệm vụ của khai phá dữ liệu dự đoán là đưa ra các dự đoán dựa vào các suy diễn
trên dữ liệu hiện thời. Nó sử dụng các biến hay các trường trong cơ sở dữ liệu để dự
đoán các giá trị không biết hay các giá trị tương lai. Bao gồm các kĩ thuật: phân loại
(classification), hồi quy (regression)...
1.3.1. Phân loại
Mục tiêu của phương pháp phân loại dữ liệu là dự đoán nhãn lớp cho các mẫu dữ
liệu. Quá trình phân loại dữ liệu thường gồm 2 bước: xây dựng mô hình và sử dụng mô
hình để phân loại dữ liệu.
Bước 1: Xây dựng mô hình dựa trên việc phân tích các mẫu dữ liệu cho trước. Mỗi mẫu
thuộc về một lớp, được xác định bởi một thuộc tính gọi là thuộc tính lớp. Các mẫu dữ
liệu này còn được gọi là tập dữ liệu huấn luyện. Các nhãn lớp của tập dữ liệu huấn luyện
đều phải được xác định trước khi xây dựng mô hình, vì vậy phương pháp này còn được
gọi là học có giám sát.
Bước 2: Sử dụng mô hình để phân loại dữ liệu. Trước hết chúng ta phải tính độ chính
xác của mô hình. Nếu độ chính xác là chấp nhận được, mô hình sẽ được sử dụng để dự
đoán nhãn lớp cho các mẫu dữ liệu khác trong tương lai.
Hay nói cách khác, phân loại là học một hàm ánh xạ một mục dữ liệu vào một
trong số các lớp cho trước. Hình 1.3 cho thấy sự phân loại của các dữ liệu vay nợ vào
trong hai miền lớp. Ngân hàng có thể sử dụng các miền phân loại để tự động quyết định
liệu những người vay nợ trong tương lai có nên cho vay hay không.
6
Hình 1.3: Phân loại được học bằng mạng nơron cho tập dữ liệu cho vay
1.3.2. Hồi quy
Phương pháp hồi qui khác với phân loại dữ liệu ở chỗ, hồi qui dùng để dự đoán về
các giá trị liên tục còn phân loại dữ liệu thì chỉ dùng để dự đoán về các giá trị rời rạc.
Hồi quy là học một hàm ánh xạ một mục dữ liệu vào một biến dự báo giá trị thực.
Các ứng dụng hồi quy có nhiều, ví dụ như đánh giá xác xuất một bệnh nhân sẽ chết dựa
trên tập kết quả xét nghiệm chẩn đoán, dự báo nhu cầu của người tiêu dùng đối với một
sản phẩn mới dựa trên hoạt động quảng cáo tiêu dùng.

Mục tiêu của phương pháp này là phát hiện và đưa ra các mối liên hệ giữa các giá
trị dữ liệu trong CSDL. Mẫu đầu ra của giải thuật khai phá dữ liệu là tập luật kết hợp tìm
được. Khai phá luật kết hợp được thực hiện qua 2 bước:
• Bước 1: tìm tất cả các tập mục phổ biến, một tập mục phổ biến được xác định qua
tính độ hỗ trợ và thỏa mãn độ hỗ trợ cực tiểu.
1• Bước 2: sinh ra các luật kết hợp mạnh từ tập mục phổ biến, các luật phải thỏa
mãn độ hỗ trợ cực tiểu và độ tin cậy cực tiểu.
1Phương pháp này được sử dụng rất hiệu quả trong các lĩnh vực như marketing có
chủ đích, phân tích quyết định, quản lí kinh doanh,…
1.3 Lợi thế của khai phá dữ liệu so với các phương pháp khác
Khai phá dữ liệu là một lĩnh vực liên quan tới rất nhiều ngành học khác như: hệ
CSDL, thống kê,... Hơn nữa, tuỳ vào cách tiếp cận được sử dụng, khai phá dữ liệu còn
8
Thu nhËp
Nî
Côm
1

Côm
2

Côm
3

có thể áp dụng một số kĩ thuật như mạng nơ ron, lí thuyết tập thô hoặc tập mờ, biểu diễn
tri thức… Như vậy, khai phá dữ liệu thực ra là dựa trên các phương pháp cơ bản đã biết.
Tuy nhiên, sự khác biệt của khai phá dữ liệu so với các phương pháp đó là gì? Tại sao

dữ liệu mà còn có một số lượng rất lớn các trường (các thuộc tính, các biến) làm cho số
chiều của bài toán trở nên cao. Thêm vào đó, nó tăng thêm cơ hội cho một giải thuật khai
phá dữ liệu tìm ra các mẫu không hợp lệ. Vậy nên cần giảm bớt hiệu quả kích thước của
bài toán và tính hữu ích của tri thức cho trước để nhận biết các biến không hợp lệ.
• Over-fitting (quá phù hợp): Khi giải thuật tìm kiếm các tham số tốt nhất cho một
mô hình đặc biệt sử dụng một tập hữu hạn dữ liệu, kết quả là mô hình biểu diễn nghèo
nàn trên dữ liệu kiểm định. Các giải pháp có thể bao gồm hợp lệ chéo, làm theo quy tắc
và các chiến lược thống kê tinh vi khác.
• Thay đổi dữ liệu và tri thức: Thay đổi nhanh chóng dữ liệu (động) có thể làm cho
các mẫu được phát hiện trước đó không còn hợp lệ. Thêm vào đó, các biến đã đo trong
một cơ sở dữ liệu ứng dụng cho trước có thể bị sửa đổi, xoá bỏ hay tăng thêm các phép
đo mới. Các giải pháp hợp lý bao gồm các phương pháp tăng trưởng để cập nhật các
mẫu và xử lý thay đổi.
• Dữ liệu thiếu và bị nhiễu: Bài toán này đặc biệt nhạy trong các cơ sở dữ liệu
thương mại. Dữ liệu điều tra dân số U.S cho thấy tỷ lệ lỗi lên tới 20%. Các thuộc tính
quan trọng có thể bị mất nếu cơ sở dữ liệu không được thiết kế với sự khám phá bằng trí
tuệ. Các giải pháp có thể gồm nhiều chiến lược thống kê phức tạp để nhận biết các biến
ẩn và các biến phụ thuộc.
10