ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƢỜNG ĐẠI HỌC CÔNG NGHỆ
PHẠM THỊ HOÀNG NHUNG
NGHIÊN CỨU ỨNG DỤNG CÁC PHƢƠNG PHÁP
HỌC MÁY TIÊN TIẾN TRONG CÔNG TÁC DỰ BÁO
VẬN HÀNH HỒ HOÀ BÌNH
LUẬN VĂN THẠC SĨ
ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƢỜNG ĐẠI HỌC CÔNG NGHỆ
PHẠM THỊ HOÀNG NHUNG
NGHIÊN CỨU ỨNG DỤNG CÁC PHƢƠNG PHÁP
HỌC MÁY TIÊN TIẾN TRONG CÔNG TÁC DỰ BÁO
VẬN HÀNH HỒ HOÀ BÌNH
Ngành: Công nghệ thông tin
Chuyên ngành: Hệ thống thông tin
Mã số: 60.48.05
LUẬN VĂN THẠC SỸ
Ngƣời hƣớng dẫn khoa học:
GS.TS. HÀ QUANG THỤY
1.2.2 Mạng perceptron nhiều lớp .......... Error! Bookmark not defined.
1.2.3 Một số vấn đề cần chú ý khi sử dụng mạng MLPError! Bookmark not defin
Kết luận chương ............................................. Error! Bookmark not defined.
CHƢƠNG 2 - KẾT HỢP GIẢI THUẬT DI TRUYỀN VỚI GIẢI THUẬT
LAN TRUYỀN NGƢỢC SAI SỐ ĐỂ TỐI ƢU HOÁ TRỌNG SỐ MẠNG
NƠ-RON NHÂN TẠO ............................................. Error! Bookmark not defined.
2.1 Giới thiệu giải thuật di truyền .................. Error! Bookmark not defined.
2.1.1 Giới thiệu ..................................... Error! Bookmark not defined.
2.1.2 Tư tưởng chính của giải thuật di truyềnError! Bookmark not defined.
2.1.3 Giải thuật di truyền đơn giản ....... Error! Bookmark not defined.
2.2 Ứng dụng giải thuật di truyền vào bài toán tối ưu hoá trọng số của mạng
nơ-ron nhân tạo .............................................. Error! Bookmark not defined.
2.2.1 Xây dựng hàm giá ........................ Error! Bookmark not defined.
2.2.2 Mã hoá nhiễm sắc thể................... Error! Bookmark not defined.
2.2.3 Lai ghép ........................................ Error! Bookmark not defined.
5
2.2.4 Đột biến ........................................ Error! Bookmark not defined.
2.2.5 Thử nghiệm .................................. Error! Bookmark not defined.
2.2.6 Giải thuật đề xuất ......................... Error! Bookmark not defined.
2.3 Kết hợp giải thuật di truyền với giải thuật lan truyền ngược sai số để tối
ưu hoá trọng số mạng nơ-ron nhân tạo .......... Error! Bookmark not defined.
2.3.1 Đặt vấn đề .................................... Error! Bookmark not defined.
2.3.2 Kết hợp giải thuật di truyền và giải thuật lan truyền ngược sai sốError! Bookm
Kết luận chương ............................................. Error! Bookmark not defined.
CHƢƠNG 3 - ỨNG DỤNG MẠNG NƠ RON NHÂN TẠO VÀO VIỆC DỰ
BÁO LƢU LƢỢNG NƢỚC ĐẾN HỒ HOÀ BÌNHError! Bookmark not defined.
đến hồ Hoà Bình ............................................ Error! Bookmark not defined.
7
Danh sách hình vẽ
Hình 1.1 Cấu tạo của tế bào nơ-ron sinh học ............. Error! Bookmark not defined.
Hình 1.2 Mô hình nơ-ron nhân tạo............................. Error! Bookmark not defined.
Hình 1.3 Mạng nơ-ron nhân tạo chỉ có một nút và có sự phản hồiError! Bookmark
not defined.
Hình 1.4 Mạng nơ-ron truyền thẳng một lớp ............. Error! Bookmark not defined.
Hình 1.5 Mạng nơ-ron truyền thẳng nhiều lớp .......... Error! Bookmark not defined.
Hình 1.6 Mạng nơ-ron hồi quy một lớp .................... Error! Bookmark not defined.
Hình 1.7 Sự khác nhau giữa hồi quy tuyến tính và mạng nơ-ronError!
not defined.
Bookmark
Hình 1.8 Mạng perceptron một lớp ............................ Error! Bookmark not defined.
Hình 1.9 Thực hiện hàm XOR bằng mạng MLP ....... Error! Bookmark not defined.
Hình 1.10 Lan truyền tín hiệu trong quá trình học theo phương pháp lan truyền
ngược sai số ........................................................ Error! Bookmark not defined.
Hình 1.11 Sai số E được xét là hàm của trọng số W . Error! Bookmark not defined.
Hình 1.12 Minh họa về ý nghĩa của quán tính trong thực tếError! Bookmark not
defined.
Hình 1.13 Hàm sigmoid g(x) = 1/(1+e-x) .................. Error! Bookmark not defined.
Hình 1.14 Nội suy hàm y = sin(x/3) + v, 0 x 20 sử dụng MLPError! Bookmark
not defined.
Hình 2.1 Sự sinh sản đơn giản phân bố các chuỗi con cháu nhờ sử dụng bánh xe
roulette với các khe hở tỷ lệ với độ thích nghi ... Error! Bookmark not defined.
............................................................................ Error! Bookmark not defined.
Hình 3.5 Kết quả dự báo với dữ liệu kiểm tra theo phương án 2Error!
not defined.
Bookmark
Hình 3.6 Kết quả dự báo với dữ liệu kiểm tra theo phương án 2 trên đồ thị scatter
............................................................................ Error! Bookmark not defined.
Hình 3.7 Kết quả dự báo với dữ liệu kiểm tra theo phương án 3Error!
not defined.
Bookmark
Hình 3.8 Kết quả dự báo với dữ liệu kiểm tra theo phương án 3 trên đồ thị scatter
............................................................................ Error! Bookmark not defined.
9
Danh sách bảng biểu
Bảng 2.1 Các chuỗi của bài toán mẫu và các giá trị thích nghiError! Bookmark not
defined.
Bảng 2.2 So sánh các phương pháp đột biến ................. Error! Bookmark not defined.
Bảng 2.3 So sánh các phương pháp lai ghép ................. Error! Bookmark not defined.
Bảng 2.4 Kết quả thử nghiệm so sánh GA và BP với ngưỡng sai số 0.05 ............ Error!
Bookmark not defined.
Bảng 2.5 Kết quả thử nghiệm với giải thuật đề xuất ..... Error! Bookmark not defined.
Bảng 2.6 Kết quả thử nghiệm so sánh GA’ và BP với ngưỡng sai số 0.0005 ...... Error!
Bookmark not defined.
Bảng 2.7 So sánh khả năng hội tụ của mạng khi sử dụng hai phương pháp học GA’ và
nay, có rất nhiều phương pháp dự báo đã được đưa ra dựa trên mô hình vật lý và mô hình toán
học. Trong nhiều trường hợp, kết quả nghiên cứu dự báo thủy văn theo các mô hình nói trên đã
đạt được một số thành công đáng ghi nhận [1]. Tuy nhiên, vấn đề tìm kiếm phương pháp đủ tốt,
đáp ứng các yêu cầu thực tế giải quyết bài toán dự báo thuỷ văn vẫn là nội dung nghiên cứu thời
sự hiện nay. Ở trong nước, tại Viện Khí tượng Thủy văn có hàng chục công trình nghiên cứu liên
quan tới dự báo thủy văn, đặc biệt có tới bốn đề tài cấp Nhà nước [3]. Trên thế giới, việc áp dụng
các phương pháp của khai phá dữ liệu (đặc biệt là các phương pháp học máy sử dụng mạng nơron nhân tạo và kết hợp với giải thuật di truyền) vào dự báo thủy văn đã trở thành nội dung
nghiên cứu dự báo thủy văn thời sự trong thời gian gần đây [5-7,12-14, 19].
11
TÀI LIỆU THAM KHẢO
[1]. Lê Văn Nghinh, Bùi Công Quang, Hoàng Thanh Tùng (2006), Mô hình toán thuỷ văn,
Nhà xuất bản xây dựng.
[2]. Phạm Thị Hoàng Nhung, Hà Quang Thụy (2007), Nghiên cứu, sử dụng mạng nơ-ron
nhân tạo trong dự báo lưu lượng nước đến hồ Hoà Bình trước 10 ngày, Hội thảo Quốc
gia Một số vấn đề chọn lọc về Công nghệ thông tin và Truyền thông, lần thứ X, Đại
Lải, Vĩnh Phúc, 9/2007.
[3]. Viện Khí tượng Thủy văn. Danh sách các đề tài, dự án nghiên cứu khoa học công nghệ.
http://www.imh.ac.vn/c_tt_chuyen_nganh/ce_detai_duan/.
[4]. Thomas Back (1996), Evolutionary Algorithm in Theory and Practice, Oxford
University Press.
[5]. Ibrahim Can, Cahit Yerdelen, Ercan Kahya1 (2007), Stochastic modeling of Karasu
River (Turkey) using the methods of Artificial Neural Networks, Proceeding of the
AGU Hydrology Days 2007, March 19 - March 21, 2007, Colorado State University,
Fort Collins, Colorado, USA, 138-144.
[6]. Paulin Coulibaly, Francois Anctil, and Bernard Bobee (2001), Multivariate Reservoir
Inflow Forecasting Using Temporal Neural Networks, Journal of Hydrologic
Engineering, 6(5), 367-376.
Reading, MA: Addison-Wesley.
[18]. L.Wessels, E.Barnard (1992), Avoiding False Local Minima by Proper Initialization of
Connections, IEEE Trans. on Neural Networks.
[19]. Cristiane Medina Finzi Quintao, Walmir Matos Caminhas, Selenio Rocha Silva, Bruno
Rabelo Versiani (2004), Neo Fuzzy Neuron and its applications to Prediction flood and
wind in Brazil, Workshop on Modelling and Control for Participatory Planning and
Managing Water Systems, September 29-October 1, 2004 (Poster), Venice, Italia.
[20]. D.E. Rumelhart; G.E. Hinton and R.J. Williams (1986), Learning internal
representations by error propagation, Rumelhart, D.E. et al. (eds.): Parallel distributed
processing: Explorations in the microstructure of cognition (Cambridge MA.: MIT
Press), 318-362.
[21]. D. Whitley, T. Starkweather et C. Bogart (1990), Genetic algorithms and neural
networks: optimizing connections and connectivity, in: Parallel Computing 14, 347361, North-Holland.