5
Chương I.Tổng quan về mạng nơ ron nhân
tạo
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên htt p :// w w

w. l rc

-tnu. e d

u. v

n
LỜI CAM
ĐOAN
Tôi xin cam đoan luận văn này là công trình do tôi tổng hợp và nghiên cứu.
Trong luận văn có sử dụng một số tài liệu tham khảo như đã nêu trong phần tài liệu
tham khảo.
Tác giả Luận
văn
Nguyễn Đắc
Nam
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên htt p :// w w

w. l rc

-tnu. e d

u. v

n
6

w. l rc

-tnu. e d

u. v

n
7
Chương I.Tổng quan về mạng nơ ron nhân
tạo
MỤC
LỤC
Trang
Lời cam đoan.
Danh mục các ký hiệu, bảng, các chữ viết tắt.
Danh mục các hình vẽ.
PHẦN MỞ ĐÀU.
1
Chƣơng
I- TÔNG QUAN VỀ MẠNG NƠ RON NHÂN TẠO.
5
1.1. Lịch sử phát triển của mạng nơ ron nhân tạo.
5
1.2. Các tính chất của mạng nơ ron nhân tạo.
5
1.3. Mô hình nơ ron.
6
1.3.1.Mô hình nơ ron sinh học. 6
1.3.1.1. chức năng, tổ chức và hoạt động của bộ não con người. 6
1.3.1.2. Mạng nơ ron sinh học. 9

KẾT LUẬN
CHƢƠNG
1.
33
Chƣơng
II- Các
phƣơng
pháp ứng dụng mạng nơ ron trong nhận dạng và
điều khiển.
34
2.1. Các vấn đề chung.
34
2.2. Các
phƣơng
pháp ứng dụng mạng nơ ron trong nhận dạng.
34
2.2.1. Cơ sở lý luận. 34
2.2.2. Mô tả toán học của đối tượng ở miền rời rạc. 36
2.2.3. Mô hình dùng mạng nơ ron. 39
2.2.3.1. Mô hình song song. 39
2.2.3.2. Mô hình nối tiếp song song. 39
2.2.3.3. Mô hình ngược trực tiếp. 40
2.2.3.4. Mô hình tổ hợp. 41
2.3. Các
phƣơng
pháp ứng dụng mạng nơ ron trong điều khiển. 42
2.3.1. Bộ điều khiển đảm bảo tính ổn định vững chắc. 42
2.3.2. Bộ điều khiển thích nghi ngược trực tiếp. 42
2.3.3. Điều khiển phi tuyến mô hình trong. 44
2.3.4. Điều khiển dự báo. 44

9
Chương I.Tổng quan về mạng nơ ron nhân
tạo
3.1.1. Sơ đồ khối mạng nơ ron truyền thẳng nhiều lớp. 53
3.1.2. Thuật toán học lan truyền ngược của sai lệch. 53
3.2. Ứng dụng mạng nơ ron truyền thẳng nhiều lớp nhận dạng vị trí rô
bốt hai khâu.
57
3.2.1. Phân tích sơ đồ ứng dụng. 57
3.2.2. Mô tả động học của rô bốt hai khâu. 59
3.2.3. Thiết lập mạng nơ ron nhận dạng. 60
3.2.3.1. Thiết lập sơ đồ nhận dạng 60
3.2.4.2. Quá trình nhận dạng. 63
3.2.4.3. Kết quả mô phỏng và nhận dạng. 65
3.2.4.4. Kết luận chương III 74
KẾT LUẬN CHUNG
75
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên htt p :// w w

w. l rc

-tnu. e d

u. v

n
10
Chương I.Tổng quan về mạng nơ ron nhân
tạo
DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ.

21 Hình 1.13 Ký hiệu mạng nơ ron 3 lớp.
22 Hình 1.14 Ký hiệu mạng một l lớp hồi quy.
23 Hình 1.15 Ký hiệu mạng nơ ron 3 lớp hồi quy.
24 Hình 1.16a
Mạng được huấn luyện theo phương pháp bình phương sai
lệch cực tiểu.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên htt p :// w w

w. l rc

-tnu. e d

u. v

n
11
Chương I.Tổng quan về mạng nơ ron nhân
tạo
1.Lý do lựa chọn đề tài.
PHẦN MỞ ĐẦU
Để điều khiển chính xác đối tượng khi chưa biết rõ được thông số, trước tiên
ta phải hiểu rõ đối tượng đó. Đối với đối tượng là phi tuyến như rô bốt, ta cần thực
hiện nhận dạng đặc tính vào ra của nó để đảm bảo tạo ra tín hiệu điều khiển thích
nghi được lựa chọn chính xác hơn. Hiện nay thường sử dụng logic mờ (Fuzzy
Logic), mạng nơ ron ( Neural Networks), và mạng no ron mờ (Fuzzy Neural
Networks) để nhận dạng và điều khiển thích nghi hệ thống phi tuyến.Trong khuôn
khổ của khoá học Cao học, chuyên ngành Tự động hoá tại trường Đại học Kỹ thuật
Công nghiệp Thái Nguyên, được sự tạo điều kiện giúp đỡ của nhà trường và Tiến sĩ
Phạm Hữu Đức Dục, em đã lựa chọn đề tài của mình là “Nghiên cứu ứng dụng
mạng nơ ron truyền thẳng nhiều lớp nhận dạng vị trí rô bốt hai khâu”.

y
mh
K
y
Mạng nơron
nhận
dạng
e
1
-
y
mh
Hình 1. Sơ đồ khối điều khiển thích nghi rô bốt hai khâu
Sơ đồ điều khiển được thực hiện theo hai giai đoạn sau đây:
Giai đoạn 1: Sử dụng mạng nơ ron nhận dạng vị trí của rô bốt hai khâu, khi
đó các khoá K mở. Căn cứ vào sai lệch e
1
giữa tín hiệu ra của rô bốt (y) và tín hiệu
ra của mạng nơ ron nhận dạng(y
mh
), mạng nơ ron tiến hành học để nhận dạng đặc
tính vào ra y của rô bốt hai khâu, sao cho tín hiệu mạng nơ ron nhận dạng y
mh
bám
theo được tín hiệu ra y của rô bốt hai khâu. Với e
1
= y- y
mh
Giai đoạn 2: Căn cứ vào kết quả nhận dạng ta có được mạng nơ ron có thể
thay thế gần đúng cho rô bốt hai khâu từ đó tiến hành điều khiển thích nghi rô bôt

Chương II. Các phương pháp ứng dụng mạng nơ ron trong nhận dạng và điều
khiển:
Trình bày các phương pháp ứng dụng mô hình mạng nơ ron trong nhận dạng
và điều khiển.
Chương III. Ứng dụng mạng nơ ron truyền thẳng nhiều lớp nhận dạng vị trí rô bốt
hai khâu.
Đưa ra mô hình nhận dạng vị trí rô bốt hai khâu, từ đó phân tích, lựa chọn
mạng nơ ron truyền thẳng nhiều lớp với luật học lan truyền ngược tiến hành nhận
dạng đặc tính vào ra của rô bốt hai khâu với sơ đồ tổng quát như hình 2:
x
d
Robot hai khâu
y
(Mô hình tính toán vị trí)
Mạng nơ ron nhận dạng
y
mh
e
1
Hình2. Sơ đồ ứng dụng mạng nơ ron nhận dạng vị trí rô bốt hai khâu
4. Ý nghĩa khoa học và thực tiễn của đề tài.
Với ứng dụng mạng nơ ron truyền thẳng nhiều lớp nhận dạng quỹ đạo
chuyển động trong miền thời gian thực của rô bốt hai khâu. Sau khi nhận dạng được
vị trí của rô bốt hai khâu, ta có thể thay thế gần đúng mô hình vị trí rô bốt hai khâu
bằng một mạng nơ ron truyền thẳng, từ đó căn cứ vào các thông số mô phỏng của
mạng nơ ron ta tính toán được tín hiệu điều chỉnh nhằm điều khiển thích nghi vị trí
của rô bốt hai khâu phù hợp với những yêu cầu cần thiết của điều chỉnh thích nghi
vị trí rô bốt hai khâu.
CHƢƠNG
I

toán rất cao rất phù hợp với lĩnh vực nhận dạng và điều khiển.
Là hệ học và thích nghi: Mạng được luyện từ các số liệu quá khứ và có khả
năng tự chỉnh khi số liệu đầu vào bị mất, có thể điều khiển on- line.
Là hệ nhiều biến, nhiều đầu vào, nhiều đầu ra (MIMO), rất tiện dùng khi đối
tượng điều khiển có nhiều biến số.
1.3 MÔ HÌNH NƠ RON
1.3.1.Mô hình nơ ron sinh học.
1.3.1.1 Chức năng, tổ chức và hoạt động của bộ não con người.
Bộ não người có chức năng hết sức quan trọng trong đời sống của con người.
Nó gần như kiểm soát hầu hết mọi hành vi của con người từ các hoạt động cơ bắp
đơn giản đến những hoạt động phức tạp như học tập, nhớ, suy luận, tư duy, sáng
tạo,
Bộ não người được hình thành từ sự liên kết của khoảng 10
11
phần tử (tế
bào), trong đó có khoảng 10
10
phần tử là nơ ron, số còn lại khoảng 9*10
10
phần tử là
các tế bào thần kinh đệm và chúng có nhiệm vụ phục vụ cũng như hỗ trợ cho các nơ
ron. Thông thường một bộ não trung bình cân nặng khoảng 1,5 kg và có thể tích là
235 cm
3
. Cho đến nay người ta vẫn chưa thực sự biết rõ cấu tạo chi tiết của bộ não.
Tuy vậy về đại thể thì cấu tạo não bộ được phân chia ra thành nhiều vùng khác
nhau. Mỗi vùng có thể kiểm soát một hay nhiều hoạt động của con người.
Các đặc tính của não người:
- Tính phân lớp: Các vùng trong bộ não được phân thành các lớp, thông tin
được xử lý theo các tầng.

chỉ cho các tín hiệu phù hợp qua chúng, còn lại các tín hiệu khác bị cản lại. Lượng
tín hiệu được biến đổi được gọi là cường độ khớp thần kinh đó chính là trọng số của
nơ ron trong mạng nơ ron nhân tạo.
Tại sao việc nghiên cứu về mạng thần kinh lại có tầm quan trọng lớn lao. Có
thể trả lời ngắn gọn là sư giống nhau của các tín hiệu của các tế bào thần kinh đơn
lẻ, do đó chức năng thực sự của bộ não không phụ thuộc vào vai trò của một tế bào
thần kinh đơn, mà phụ thuộc vào toàn bộ các tế bào thần kinh hay các tế bào thần
kinh liên kết với nhau thành một mạng thần kinh hay một mạng nơ ron (Neural
Networks)
Hoạt động của bộ não nói riêng và của hệ thần kinh nói chung đã được con
người quan tâm nghiên cứu từ lâu nhưng cho đến nay người ta vẫn chưa hiểu rõ
thực sự về hoạt động của bộ não và hệ thần kinh. Đặc biệt là trong các hoạt động
liên quan đến trí óc như suy nghĩ, nhớ, sáng tạo, Tuy thế cho đến nay, người ta
cũng có những hiểu biết căn bản về hoạt động cấp thấp của não.
Mỗi nơ ron liên kết với khoảng 10
4
nơ ron khác, cho nên khi hoạt động thì bộ
não hoạt động một cách tổng lực và đạt hiệu quả cao. Nói một cách khác là các
phần tử của não hoạt động một cách song song và tương tác hết sức tinh vi phức
tạp, hiệu quả hoạt động thường rất cao, nhất là trong các vấn đề phức tạp. Về tốc độ
xử lý của bộ não người rất nhanh mặc dù tốc độ xử lý của mỗi nơ ron (có thể xem
như phần tử xử lý hay phần tử tính) là rất chậm so với xử lý của các cổng logic
silicon trong các chip vi xử lý (10
-3
giây so với 10
-10
giây).
sau:
Hoạt động của cả hệ thống thần kinh bao gồm não bộ và các giác quan như
Trước hết con người bị kích thích bởi giác quan từ bên ngoài hoặc trong cơ

soma.
b/ Hoạt động.
Các tín hiệu đưa ra bởi một synapte và được nhận bởi các dendrite là các
kích thích điện tử. Việc truyền tín hiệu như trên liên quan đến một quá trình hóa học
phức tạp mà trong đó các chất truyền đặc trưng được giải phóng từ phía gửi của nơi
tiếp nối. Điều này làm tăng hay giảm điện thế bên trong thân của nơ ron nhận. Nơ
ron nhận tín hiệu sẽ kích hoạt (fire) nếu điện thế vượt khỏi một ngưỡng nào đó và
một xung (hoặc điện thế hoạt động) với độ mạnh (cường độ) và thời gian tồn tại cố
định được gửi ra ngoài thông qua axon tới phần nhánh của nó rồi tới các chỗ nối
synapte với các nơ ron khác. Sau khi kích hoạt, nơ ron sẽ chờ trong một khoảng thời
gian được gọi là chu kỳ, trước khi nó có thể được kích hoạt lại. Synapses là hưng
phấn (excitatory) nếu chúng cho phép các kích thích truyền qua gây ra tình trạng
kích hoạt (fire) đối với nơ ron nhận. Ngược lại, chúng là ức chế (inhibitory) nếu các
kích thích truyền qua làm ngăn trở trạng thái kích hoạt (fire) của nơ ron nhận.
1.3.2. Mạng nơ ron nhân tạo.
1.3.2.1. Khái niệm.
Nơ ron nhân tạo là sự sao chép nơ ron sinh học của não người, nó có những
đặc tính sau:
(axon)
- Mỗi nơ ron có một số đầu vào, những kết nối (Synaptic) và một đầu ra
- Một nơ ron có thể hoạt động (+35mV) hoặc không hoạt động (-0,75mV)
- Chỉ có một đầu ra duy nhất của một nơ ron được nối với các đầu vào khác
nhau của nơ ron khác. Điều kiện để nơ ron được kích hoạt hay không kích hoạt chỉ
phụ thuộc những đầu vào hiện thời của chính nó.Thông thường một nơ ron có 3
phần như hình 1.2:
W
W
W
ik
u


học
v
i
tuyến
tính
Hàm
x
i
động học
y
i
phi
tuyến
a(.)
Hình 1.2. Mô hình nơ ron nhân tạo
Trên mỗi đầu vào của nơ ron có gắn một trọng số để liên kết giữa nơ ron thứ i và nơ
ron thứ j. Các trọng số này tương tự như các tế bào cảm giác của mạng nơ ron sinh
học.
N
M
Tổng trọng: V
i
(t) = net
i
(t)
=

∑


(t) là các đầu ra của nơ ron thứ jvà
u
k
(t) là các đầu vào từ bên ngoài tương ứng với các trọng số W
ij
và W
*
; θ là hằng
số gọi là ngưỡng của nơ ron thứ i.
Hệ động học tuyến tính SISO: Đầu vào là v
i
đầu ra là x
i
. Ở dạng toán tử Laplace ta
có:
X
i
(s)= H(s).V
i
(s) (1.2)
Dạng thời gian của (1.2) có dạng (1.3)
x
i
(t)
=
t
∫

h(t
−

t
1
e

−

T
T
δ
(t
−

T

)
x
i
(t) = w
i
(t)
x
i
(t) = v
i
(t)
Tx
i
(t) +x
i
(t) = v

dạng như sau:
+ Hàm Rump (Rump Function) là hàm có biểu diễn toán học như (1.4):
1 nếu f >
1
a(f) = f nếu 0 ≤f ≤ 1
0 nếu f <
0
Biểu diễn hình học của hàm Rump như hình vẽ 1.3.a
+ Hàm bước nhảy (Step Function) là hàm có biểu diễn toán học như (1.5):
(1.4)
a(f)
=
1 nếu f ≥ 0
0 nếu f < 0
(1.5)
Biểu diễn hình học của hàm như hình vẽ 1.3.b
+ Hàm giới hạn cứng (Threshold Function) là hàm có biểu diễn toán học như (1.6):
a(f)
=
1 nếu f ≥ 0
-1 nếu f < 0
(1.6)
Biểu diễn hình học của hàm như hình vẽ 1.3.c
+ Hàm sigmoid hai cực (Bipolar Sigmoid Function) là hàm có biểu diễn toán học
2
như (1.7): a(f) =
−
1
1
+

Có thể nối vài lớp nơ ron với nhau tạo thành mạng nhiều lớp truyền thẳng
(Multi- Layer Feedforward Network) như hình 1.4.b
Hai loại mạng nơ ron một lớp và nhiều lớp được gọi là truyền thẳng nếu đầu
ra của mỗi nơ ron được nối với các đầu vào của các nơ ron của lớp trước đó.
Mạng nơ ron phản hồi là mạng mà đầu ra của mỗi nơ ron được quay trở lại
nối với đầu vào của các nơ ron cùng lớp được gọi là mạng Laeral như hình 1.4.c
Mạng nơ ron phản hồi có thể thực hiện đóng vòng được gọi là mạng nơ ron
hồi quy (Recurrent Network) như hình 1.4.d
x
1
w
11
y
1
x
1
y
1
x
2
y
2
x
2
x
m
y
m
x
m

y
m
w
mm
Hình 1.4.d
Các nơ ron lớp vào trực tiếp nhận tín hiệu ở đầu vào, ở đó mỗi nơ ron chỉ có
một tín hiệu vào. Mỗi nơ ron ở lớp ẩn được nối với tất cả các nơ ron lớp vào và lớp
ra. Các nơ ron ở lớp ra có đầu vào được nối với tất cả các nơ ron ở lớp ẩn, chúng là
đầu ra của mạng. Cần chú ý rằng một mạng nơ ron cũng có thể có nhiều lớp ẩn. Các
mạng nơ ron trong mỗi nơ ron chỉ được liên hệ với tất cả các nơ ron ở lớp kế tiếp và
tất cả các mối liên kết chỉ được xây dựng từ trái sang phải được gọi là mạng nhiều
lớp truyền thẳng (perceptrons).
1.3.2.3. Các luật học.
Thông thường mạng nơ ron được điều chỉnh hoặc được huấn luyện để hướng
các đầu vào riêng biệt đến đích ở đầu ra. Cấu trúc huấn luyện mạng được chỉ ra trên
hình 1.5 Ở đây, hàm trọng của mạng được điều chỉnh trên cơ sở so sánh đầu ra với
đích mong muốn (taget) cho tới khi đầu ra mạng phù hợp với đích. Những cặp
vào/đích (input/taget) được dùng để giám sát cho sự huấn luyện mạng.
Vào
Hàm trọng
(weights)
giữa các nơ
ron
Đích
So sánh
Điều chỉnh
Hình 1.5. Cấu trúc huấn luyện mạng nơ ron
Để có được một số cặp vào/ra, ở đó mỗi giá trị vào được gửi đến mạng và giá
trị ra tương ứng được thực hiện bằng mạng là sự xem xét và so sánh với giá trị
mong muốn. Bình thường tồn tại một sai số bởi lẽ giá trị mong muốn không hoàn

2
, d
2
),… (x
k
,
d
k
),…khi cho tín hiệu vào thực là x
k
sẽ tương ứng có tín hiệu đầu ra cũng được lặp
lại là d
k
giống như mong muốn. Kết quả của quá trình học có giám sát là tạo được
một hộp đen có đầu vào là véc tơ tín hiệu vào X sẽ đưa ra được câu trả lời đúng d.
Để đạt được kết quả mong muốn trên, khi đưa vào tín hiệu x
k
, thông thường
sẽ có sai lệch e
k
giữa tín hiệu đầu
x
ra thực y
k
với tín hiệu đầu ra
mong muốn d
k
. Sai lệch đó sẽ
được truyền ngược tới đầu vào
để điều chỉnh thông số mạng nơ

x
qua việc tự thay đổi thông số, vấn đề đó
được gọi tự tổ chức (Self- Organizing).
Mô hình học không có giám sát được
Mạng
y
nơron
minh hoạ như hình 1.17
Hình1.7.Mô hình học không có giám sát
Cấu trúc chung của quá trình học được mô tả như hình 1.20.
x
1
x
1
x
j
x
m-1
w
i1
w
ij
w
im-1= θ
Nơ ron thứ
i
∆w
i
r
y

r: Là tín hiệu học r = f
r
(w
i
,x,d
i
) (1.9)
Biểu thức (1.8) là biểu thức chung để tính số gia của trọng số, ta thấy trọng số
w
i
= (w
i1
, w
i2
, …, w
im
)
T
có gia số tỷ lệ với tín hiệu vào x và tín hiệu học r. Từ các
biểu thức trên ta có véc tơ trọng số ở thời điểm (t+1) được tính là:
w
i
(t+1) = w
i
(t) + η.f
r
{w
i
(t), x(t), d
i

1
p
2
w
1,1
Σ
n
1
f
a
1
1
b
1
n
2
a
2
Trong đó:
p
3
-Véc tơ vào P có R phần tử P
T
= [p
1
p
2
… p
R
]

Σ
1
b
S
n
S
f
a
S
a = f(WP+b) (1.11)
Hình1.9.Cấu trúc mạng nơ ron 1 lớp
Trong mạng này mỗi phần tử của véc tơ vào P liên hệ với đầu vào mỗi nơ ron thông
qua ma trận trọng lượng liên kết W. Bộ cộng của nơ ron thứ i thu thập các trọng
liên kết đầu vào và độ dốc để tạo thành một đầu ra vô hướng n
i
. Các n
i
tập hợp với
nhau tạo thành s phần tử của véc tơ vào n. Cuối cùng ở lớp ra nơ ron ta thu được
véc tơ a gồm s phần tử.
Ta có thể thiết lập lớp đơn của các nơ ron có các hàm chuyển khác nhau một
cách dễ dàng bởi lẽ hai mạng được đặt song song. Tất cả các mạng có thể có chung
đầu vào và mỗi mạng có thể thiết lập một vài đầu ra.
Các phần tử của véc tơ đầu vào được đưa vào mạng thông qua ma trận trọng
W, với: