i

ĐẠI HỌC THÁI NGUYÊN
TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG
_____________

______________

NGUYỄN TÔ HOÁN

MẠNG ANFIS VÀ ỨNG DỤNG CHO DỰ BÁO
MỰC NƯỚC HỒ THỦY ĐIỆN THÁC BÀ
Chuyên ngành: Khoa học máy tính
Mã số: 60 48 0101

LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH

Người hướng dẫn khoa học: PGS.TS Lê Bá Dũng

THÁI NGUYÊN - 2016

Số hóa bởi Trung tâm Học liệu – ĐHTN




ii

LỜI CAM ĐOAN
Tôi xin cam đoan tất cả các nội dung của luận văn này hoàn toàn được
hình thành và phát triển từ quan điểm của chính cá nhân tôi, dưới sự hướng




iv

LỜI CẢM ƠN .................................................................................................. iii
MỤC LỤC ........................................................................................................ iii
DANH MỤC CÁC HÌNH VẼ .......................................................................... v
DANH MỤC CÁC BẢNG BIỂU ................................................................... vii
DANH MỤC CÁC TỪ VIẾT TẮT ............................................................... viii
MỞ ĐẦU ........................................................................................................... 1
Chương 1. TỔNG QUAN VỀ MẠNG NƠRON NHÂN TẠO VÀ HỆ MỜ .... 3
1.1 Cấu trúc và mô hình mạng nơron ............................................................ 3
1.1.1 Mô hình một nơron sinh học ............................................................ 3
1.1.2 Mô hình một nơron nhân tạo ............................................................ 4
1.2 Cấu tạo và phương thức làm việc của mạng nơron ................................ 7
1.2.1 Mạng nơron truyền thẳng một lớp ................................................... 8
1.2.2 Mạng nơron truyền thẳng nhiều lớp ................................................. 9
1.2.3 Mạng nơron phản hồi ....................................................................... 9
1.2.4 Mạng nơron hồi quy ....................................................................... 10
1.3 Các luật học ........................................................................................... 10
1.3.1 Học có giám sát .............................................................................. 11
1.3.2 Học không có giám sát ................................................................... 12
1.3.3 Học củng cố.................................................................................... 13
1.4 Hệ mờ và mạng nơron ........................................................................... 14
1.4.1 Kiến trúc của hệ mờ tổng quát ....................................................... 14
1.4.2 Sự kết hợp giữa logic mờ và mạng neural ..................................... 20
1.5 Kết luận chương .................................................................................... 22
Chương 2. MÔ HÌNH MẠNG ANFIS VÀ KHẢ NĂNG ỨNG DỤNG ........ 22
2.1 Hệ suy diễn mờ dựa trên mạng thích nghi ............................................ 23

DANH MỤC CÁC HÌNH VẼ
Hình 1.1. Cấu trúc của một nơron sinh học điển hình ...................................... 3

Số hóa bởi Trung tâm Học liệu – ĐHTN




vi

Hình 1.2. Mô hình một nơron nhân tạo ............................................................. 4
Hình 1.3. Đồ thị các dạng hàm truyền .............................................................. 7
Hình 1.4. Mạng truyền thẳng một lớp ............................................................... 8
Hình 1.5. Mô hình cấu trúc của mạng nơron truyền thẳng nhiều lớp ............... 9
Hình 1.6. Mạng nơron phản hồi ........................................................................ 9
Hình 1.7. Mạng hồi quy một lớp có nối ngược ............................................... 10
Hình 1.8. Mạng quy hồi nhiều lớp có nối ngược ............................................ 10
Hình 1.9. Sơ đồ học tham số có giám sát ........................................................ 12
Hình 1.10. Sơ đồ học tham số không có giám sát ........................................... 13
Hình 1.11. Kiến trúc của hệ mờ tổng quát ...................................................... 14
Hình 1.12. Hệ mờ nhiều đầu vào - một đầu ra ................................................ 15
Hình 1.13. Hàm thuộc hệ mờ một đầu vào – một luật .................................... 17
Hình 1.14. Hàm thuộc hệ mờ hai đầu vào - một luật ...................................... 18
Hình 1.15. Mô hình hệ mờ - neural ................................................................. 22
Hình 2.1. Hệ thống suy luận mờ ..................................................................... 25
Hình 2.2. Mạng thích nghi .............................................................................. 26
Hình 2.3. Cấu trúc của ANFIS ........................................................................ 27
Hình 2.4. Mạng ba lớp lan truyền ngược ........................................................ 29
Hình 3.1. Hình ảnh đập Hồ thủy điện Thác Bà ............................................... 43
Hình 3.2. Các phương trình minh họa cho việc thực thi mạng ....................... 50


ANFIS

MIMO

MISO

LSE

Artificial Neural Network
Mạng nơron nhân tạo
Adaptive Neural Fuzzy Insference System
Hệ suy luận mờ
Multi Input Multi Output
Hệ mờ nhiều đầu vào - nhiều đầu ra
Multi Input Single Output
Hệ mờ nhiều đầu vào - một đầu ra
Least Squara Error
Phương pháp ước lượng sai số bình phương cực tiểu

Số hóa bởi Trung tâm Học liệu – ĐHTN




1
MỞ ĐẦU
Ngày nay, các mạng nơron nhân tạo, Artificial Neural Network (ANN)
gọi tắt là mạng nơron đã được ứng dụng thành công, các nhà khoa học và các
kĩ sư trong những năm gần đây đã có nhiều nghiên cứu ứng dụng trong việc

thích nghi ANFIS để dự báo mực nước lâu dài, dự báo mực nước hàng năm,
phục vụ cho phát triển kinh tế xã hội của tỉnh Yên Bái.

Số hóa bởi Trung tâm Học liệu – ĐHTN




3
Chương 1.
TỔNG QUAN VỀ MẠNG NƠRON NHÂN TẠO VÀ HỆ MỜ
1.1 Cấu trúc và mô hình mạng nơron
1.1.1 Mô hình một nơron sinh học
Qua quá trình nghiên cứu về bộ não, người ta thấy rằng: bộ não con
người bao gồm khoảng 1011 nơron tham gia vào khoảng 1015 kết nối trên các
đường truyền. Mỗi đường truyền này dài khoảng hơn một mét. Các nơron có
nhiều đặc điểm chung với các tế bào khác trong cơ thể, ngoài ra chúng còn có
những khả năng mà các tế bào khác không có được, đó là khả năng nhận, xử
lý và truyền các tín hiệu điện hóa trên các đường mòn nơron, các con đường
này tạo nên hệ thống giao tiếp của bộ não.

Hình 1.1. Cấu trúc của một nơron sinh học điển hình
Mỗi nơron sinh học có 3 thành phần cơ bản:
• Các nhánh vào hình cây (dendrites)
• Thân tế bào (cell body)

Số hóa bởi Trung tâm Học liệu – ĐHTN




 Tập các đầu vào: Là các tín hiệu vào (input signals) của nơron, các
tín hiệu này thường được đưa vào dưới dạng một vector m chiều.
 Tập các liên kết (các trọng số): Mỗi liên kết được thể hiện bởi một
trọng số (thường được gọi là trọng số liên kết - Synaptic weight). Trọng số
liên kết giữa tín hiệu vào thứ j với nơron i thường được ký hiệu là wij. Thông
thường, các trọng số này được khởi tạo một cách ngẫu nhiên ở thời điểm khởi
tạo mạng và được cập nhật liên tục trong quá trình học mạng.
 Bộ tổng (Hàm tổng - Summing function): Thường dùng để tính tổng
của tích các đầu vào với trọng số liên kết của nó.
 Ngưỡng (còn gọi là một độ lệch - bias): Ngưỡng này thường được
đưa vào như một thành phần của hàm truyền.
 Hàm truyền (Transfer function): Hàm này dùng để giới hạn phạm vi
đầu ra của mỗi nơron. Nó nhận đầu vào là kết quả của hàm tổng và ngưỡng đã
cho. Thông thường, phạm vi đầu ra của mỗi nơron được giới hạn trong đoạn
[0,1] hoặc [-1,1]. Các hàm truyền rất đa dạng, có thể là các hàm tuyến tính hoặc
phi tuyến. Việc lựa chọn hàm truyền tùy thuộc vào từng bài toán và kinh
nghiệm của người thiết kế mạng.
 Đầu ra: Là tín hiệu đầu ra của một nơron, với mỗi nơron sẽ có tối đa
một đầu ra.
Xét về mặt toán học, cấu trúc của một nơron i được mô tả bằng cặp
biểu thức sau:
n

yi  f (neti  i ) và neti   wij x j

(1.1)

j 1

Số hóa bởi Trung tâm Học liệu – ĐHTN


y  sgn( x)   x khi 0  x  1
0 khi x  0


(1.4)

 Hàm ngưỡng đơn cực:
y

1
với  >0
1  e x

(1.5)

 Hàm ngưỡng hai cực:
y

2
 1 với  >0
1  e x

Số hóa bởi Trung tâm Học liệu – ĐHTN

(1.6)





đơn giản nhất. Các nơron tổ chức lại với nhau tạo thành một lớp, đường truyền
tín hiệu được truyền theo một hướng nhất định nào đó. Các đầu vào được nối với
các nơron theo các trọng số khác nhau, sau quá trình xử lý cho ra một chuỗi các
tín hiệu ra. Mạng nơron là mô hình LTU thì nó được gọi là mạng Perception, còn
mạng nơron là mô hình LGU thì nó được gọi là mạng Adaline.

Hình 1.4. Mạng truyền thẳng một lớp
Với mỗi giá trị đầu vào x = [ x1,x2,....,xn]T. Qua quá trình xử lý của
mạng ta sẽ thu được một bộ tương ứng các giá trị đầu ra là y = [y 1,y2,...,yn]T
được xác định như sau:
m

yi  fi ( wij x j i ).

i 1, n

(1.7)

j 1

Trong đó:
m : Số tín hiệu vào
n : Số tín hiệu ra

WiT = [ wi1, wi2,...,win]T là véc tơ trọng số của nơron thứ i
f i : Hàm kích hoạt các nơron thứ i

 i : Là ngưỡng của nơron thứ i
Số hóa bởi Trung tâm Học liệu – ĐHTN


Hình 1.7. Mạng hồi quy một lớp có nối ngược
Mạng quy hồi nhiều lớp có nối ngược

Hình 1.8. Mạng quy hồi nhiều lớp có nối ngược
1.3 Các luật học
Mạng nơron có một số ưu điểm so với máy tính truyền thống. Cấu trúc
song song của mạng nơron rất thích hợp cho nhưng ứng dụng đòi hỏi tốc độ
nhanh theo thời gian thực. Khả năng huấn luyện của mạng nơron có thể khai
thác để phát triển hệ học thích nghi. Mặt khác, với khả năng tổng quát hóa của
mạng nơron, nó có thể áp dụng để điều khiển nhiều tham số phức tạp đồng
thời từ đó giải quyết dễ dàng một số bài toán NP - đầy đủ (NP - Complete).
Các luật học đóng vai trò quan trọng trong việc xác định một mạng nơron nhân tạo. Một cách đơn giản về khái niệm học của mạng nơron là cập
nhật trọng số trên cơ sở các mẫu. Theo nghĩa rộng thì học có thể được chia
thành hai loại: Học tham số và học cấu trúc.

Số hóa bởi Trung tâm Học liệu – ĐHTN




11
Trong luận văn chúng ta chỉ đề cập tới luật học tham số (Parameter
Learning): là các tham số về trọng số cập nhật kết nối giữa các nơron.
Các thủ tục học này nhằm tìm kiếm ma trận trọng số sao cho mạng có
khả năng đưa ra dự báo sát với thực tế. Dạng chung của luật học tham số có
thể được mô tả như sau:
Wij rx j , i 1, N , j 1, M

(1.8)


Tín hiệu vào

Tín hiệu ra
Mạng nơron

Sản sinh sai số

Tín hiệu ra mong muốn

Hình 1.9. Sơ đồ học tham số có giám sát
1.3.2 Học không có giám sát
Luật học này sử dụng đầu ra của mạng làm cơ sở để hiệu chỉnh các
trọng số liên kết. Hay trong luật này chính là tín hiệu ra của mạng. Điển hình
là luật Hebb (1949) thường dùng cho các mạng tự liên kết, luật LVQ
(Learning Vector Quantization) dùng cho mạng tự tổ chức một lớp thuộc lớp
mạng ánh xạ đặc trưng của Kohonen.
Luật học Hebb là luật sinh học xuất phát từ tiên đề của Hebb cho rằng:
Giữa hai nơron có quan hệ và có thay đổi thế năng mạng thì giữa chúng có sự
thay đổi trọng số liên kết. Nói cách khác, trọng số được điều chỉnh theo mối
tương quan trước và sau, nghĩa là:
Wij yi x j , i 1, N , j 1, M

(1.9)

Trong đó:
Wij : Là sự thay đổi trọng số liên kết từ nơron j đến nơron i
x j : Là tín hiệu vào nơron j

yi : Là tín hiệu ra của nơron i


là mang tính chất chỉ dẫn. Nó cho biết mức độ tốt hay xấu của một đầu ra cụ
thể. Tín hiệu củng cố bên ngoài thường được xử lý bằng máy phát tín hiệu
đánh giá để tạo ra nhiều hơn nữa các thông tin tín hiệu đánh giá, sau đó dùng
để điều chỉnh các trọng số với mục đích đạt được tín hiệu đánh giá tốt hơn.

Số hóa bởi Trung tâm Học liệu – ĐHTN




14
1.4 Hệ mờ và mạng nơron
1.4.1 Kiến trúc của hệ mờ tổng quát
Một hệ mờ tiêu biểu có kiến trúc như hình vẽ:
Cơ sở
luật mờ
Tham khảo
luật mờ
Đầu vào
(số)

Đầu vào
(tập mờ)

Bộ
mờ hóa

Đầu ra
(số)




15
chấp hành như tay máy, công tắc, van điều khiển...
Do các dữ liệu đầu vào và đầu ra được số hóa nên ta chỉ cần xem xét
các hệ mờ làm việc với các biến số. Trường hợp tổng quát, hệ mờ nhận một
vector n chiều ở đầu vào và cho ra một vector n chiều ở đầu ra. Hệ mờ như
thế được gọi là hệ mờ nhiều đầu vào - nhiều đầu ra (MIMO). Nếu m bằng 1,
ta có hệ mờ nhiều đầu vào - một đầu ra (MISO). Một hệ mờ nhiều đầu vào nhiều đầu ra có thể phân tích thành nhiều hệ nhiều đầu vào - một đầu ra. Do
đó ta chỉ cần tìm hiểu kĩ về hệ mờ nhiều đầu vào một đầu ra với các biến số.
Khi chỉ nói về hệ mờ nhiều - một thì ta sẽ ngầm hiểu là một hệ mờ
n

nhiều đầu vào - một đầu ra với các biến số. Kí hiệu U   U i  R n , V  R ,
i 1

trong đó U i là miền xác định của các biến vào i, i = 1..n và V là miền giá trị
của biến ra y, ta có mô hình hệ mờ nhiều đầu vào - một đầu ra như hình vẽ:

x U1
x U1
x U1

Hệ mờ
nhiều đầu vào
- một đầu ra

y V

Hình 1.12. Hệ mờ nhiều đầu vào - một đầu ra

suy ra từ A’ được xác định bởi:
B' ( y)  max min  A' x, R x, y 

(1.10)
Trường hợp một đầu vào và một luật

min  A' ( x), R ( x, y)
Ta có:  B ' ( y)  max
x
 max min  A' ( x),  A ( x),  B ( y )
x

 min{ max min  A' x ,  A x ,  B  y }
x

 min{ max  A A x ,  B  y 
x

Số hóa bởi Trung tâm Học liệu – ĐHTN




17
 min hA' A , B ( y)

Trong đó: hA' A là độ cao của tập mờ A’  A

Hình 1.13. Hàm thuộc hệ mờ một đầu vào – một luật
Trường hợp hai đầu vào và một luật