ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC CÔNG NGHỆ Lê Minh Hoàng
Tìm hiểu một số lớp mạng nơron nhân tạo và ứng dụng
vào bài toán phân cụm mờ

LUẬN VĂN THẠC SĨ Tìm hiểu một số lớp mạng nơron nhân tạo và ứng dụng
vào bài toán phân cụm mờ

LUẬN VĂN THẠC SĨ

NGƯỜI HƯỚNG DẪN KHOA HỌC:
PGS.TSKH Bùi Công Cường
 22
 22
 23
 24
 27
 29
 29
 29
 30
CHƢƠNG 2. MỘT SỐ LỚP MẠNG NƠRON 32
1. Mạng truyền thẳng và thuật toán lan truyền ngƣợc (BP) 32
 32
 33
2. Mạng có nối ngƣợc Hopfield 39
 39
 40
 40
3. Mạng kiểu bộ nhớ kết hợp hai chiều (BAM) 41
 42
 43 2
CHƢƠNG 3. ỨNG DỤNG MẠNG NƠRON ĐA KHỚP NỐI VÀO
BÀI TOÁN PHÂN CỤM DỮ LIỆU MỜ 45
1. Giới thiệu 45
2. Phân cụm mờ 45
 45
 46
3. Xây dựng mạng nơron phân cụm kết hợp hai hƣớng mờ
3 DANH SÁCH CÁC HÌNH Hình 1.1 : Cấu trúc cơ bản của nơron sinh học 8
Hình 1.2 : Nơron nhân tạo 10
Hình 1.3: Mô hình toán học mạng nơron nhân tạo 11
Hình 1.4: Nơron 1 đầu vào với hàm kích hoạt là hàm hardlimit 13
Hình 1.5 : Liên kết bên trên lớp cạnh tranh 17
Hình 1.6 : Các tham số 26
Hình 1.7 : Hình dáng của các loại cụm 28
Hình 2.1 : Mạng nơron một lớp truyền thẳng 32
Hình 2.2 : Perceptron 3 lớp nơron 33
Hình 2.3 : Các mẫu và biên quyết định của mạng XOR 34
Hình 2.4 : Mạng XOR hai lớp 34
Hình 2.5 : Ví dụ mạng xấp xỉ hàm 37
Hình 2.6 : Cấu trúc mạng Hopfield 39
Hình 2.7 : Mô hình của BAM 41
Hình 3.1: Thuật toán FCM 47
Hình 3.2: Mô phỏng về tập dữ liệu đơn chiều 48

Từ viết tắt
Cụm từ tiếnh Anh

CSDL
Database

PCDL
Data clusterring
    p hai

FBACN
Fuzzy bidirectional associative
clustering network
-
FCM
Fuzzy c-means

NN
Neural network

HF
Hopfield network

BAM
Bidirectional Associative Memory

BP
Backpropagation

MLP

5
PHẦN MỞ ĐẦU








“Tìm hiểu một số lớp mạng nơron nhân
tạo ứng dụng vào bài toán phân cụm mờ ” 

 
-

           -


 -
 
 
      

 
 M


Chương 1, 

7
LỜI CẢM ƠN
 
c - 

- 
         y     
 TS.
Duy, 



 

Hình 1.1 : Cấu trúc cơ bản của nơron sinh học




2
).







(Synapse)
 
(axon)

(body)



     






 10


i

i



i

i






2
x
m
w
1
w
2
  

Out
11
  

 
- training).


   





1.2. Mô hình toán học và kiến trúc mạng nơron
1.2.1. Mô hình toán học của mạng nơron
1.2.1.1. Mô hình toán học của một nơron nhân tạo


1



f
w
S,1

12

i



s,i

 

net


bpwpwpwn
RRsssnet

,22,11,

(2.1)


13




 

-

1.2.1.3. Hàm truyền (Hàm kích hoạt)
   


 Hình 1.4: Nơron 1 đầu vào với hàm kích hoạt là hàm hardlimit Một số dạng hàm hoạt hóa trong mạng nơron nhân tạo

-b/ w
p
+1
a 14
o a= hardlims(n)=





01
01
n
no :
 Hàm tuyến tính: (purelin)
o a= purelin(n)= n

o :
 Hàm tuyến tính trên đoạn: (satlin)
o a= satlin(n)=






 Hàm log_sig : (log-sigmoid)
o a= logsig(n)=
e
n

1
1

o :
 Hàm tanghyperbolic : (tansig) 15
o a= tansig(n)=
ee
ee
nn
nn





o :
 Hàm tuyến tính dƣơng: (poslin)
o a= poslin(n)=





-Organizing Neural Network).
 


 


 
 
C 16



 


 (feedforward Neural Network) 

(Directed Acrylic Graph) 

    (Recurrent Neural Network)     

               




 
      
    -        
            

-

 

-
-
-
-
-
-
-
+

N
 18
1.3.2. Mạng nơron trong nhận dạng

           


2. Phân cụm dữ liệu
2.1. Giới thiệu



 
 
               
[10][11]:
"PCDL là một kỹ thuật trong DATA MINING, nhằm tìm kiếm, phát hiện các
cụm, các mẫu dữ liệu tự nhiên tiềm ẩn, quan tâm trong tập dữ liệu lớn, từ đó cung
cấp thông tin, tri thức hữu ích cho ra quyết định"
      




 Concept Clustering  

 
tương tự











              


 -


 21
 

 


 


 











         
con người,
cái nhà, tiền lương, các thực thể phần mềm,…





      [12]         
(Measurement Scale).
D 
D : x=(x
1
,x
2
, ,x
k
); y=(y
1
,y
2
, ,y
k
); z=(z
1
,z
2
, ,z
k



Thuộc tính định danh (nominal Scale)

- 


nơi sinh các
đội bóng chơi cho giải vô địch quốc gia Việt Nam.
Thuộc tính có thứ tự (Ordinal Scale) 
thứ tự, 


Huy
chương 
Thuộc tính khoảng (Interval Scale) 


i
>y
i


i
 y
i

số Serial 
số kênh 
Thuộc tính tỉ lệ (Ratio Scale) : 
thí dụ như thuộc tính chiều cao