ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON

Chương 1
LÝ THUYẾT LIÊN QUAN
I . GIỚI THIỆU MẠNG NEURON:
I.1. MẠNG NEURON NHÂN TẠO:
Mạng neuron nhân tạo(ANN: artificial neuron networks)là mạng được xây dựng
bằng cách sao chép lại các nguyên lý tổ chức của hệ neuron của con người.Bộ óc của con
người là một hệ neuron gồm có 10
10
đến 10
12
neuron được tổ chức có cấu trúc vào khoảng
200 mô hình khác nhau dưới dạng nhiều lớp.
Hình 1.cấu trúc cơ bản của một neuron
Cấu trúc cơ bản của một neuron của hệ neuron con người gồm:các đầu
vào(dendrite),thân neuron(soma)và đầu ra(axon).Mỗi neuron có nhiều đầu vào và chỉ một
đầu ra.thân neuron là phần tử xử lý có chức năng thu nhận tất cả các thông tin đến từ các
đầu vào,tính toán và đưa ra quyết định ở ngõ ra để gởi thông tin đến các neuron
khác.SYNAP là khớp nối giữa đầu vào của neuron này với đầu ra của neuron khác.
Tín hiệu điện áp được truyền từ neuron này sang neuron khác.tín hiệu điện áp dương được
coi như là tín hiệu kích động(excitory)để kích động neuron gởi tín hiệu đến các neuron
khác và điện áp âm được xem như là tín hiệu ức chế(inhibitory)để ức chế neuron gởi tín
hiệu đến nhiều neuron khác.điện áp không thì không có tín hiệu kết nối giữa hai neuron.
SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA
1
ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON

Đối với hệ neuron con người có cấu trúc cơ bản gồm :lớp neuron đầu vào(lớp này
được kết nối với các phần tử cảm biến như miệng ,mắt, mũi ,tai và da),các lớp neuron ẩn
và lớp neuron đầu ra(lớp này được kết nối với các phần tử cơ như tay ,chân).

ij
=0 thí không có sự kết hợp giữa
hai neuron.
SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA
2
ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON

I.2.CÁC THÀNH PHẦN CƠ BẢN CỦA MẠNG NEURON NHÂN TẠO
Mạng neuron nhân tạo được đặc trưng bởi 3 yếu tố:phần tử xử lý,cấu trúc và
ghép nối của các phần tử xử lý,phương pháp huấn luyện để cập nhập các trọng số w
ij.
I.2.1.Phần tử xử lý
Mỗi phần tử xử lý có nhiều đầu vào và một đầu ra.hàm tổng hợp f
i
có chức năng
tổng hợp tất cả các thông tin từ ngõ vào.hàm tác động a(f) tạo tín hiệu ra
X
j
:tín hiệu đầu vào phần tử xử lý thứ i
W
ij
: trọng số để kết nối giữa x
j
và phần tử xử lý thứ i
Ф
i
: giá trị ngưỡng của phần tử xử lý thứ i
F
i :
hàm tích hợp


Hình 3.các cấu trúc của mạng neuron
A.mạng truyền thẳng một lớp
B.mạng truyền thẳng nhiều lớp
C.nút đơn hồi tiếp
D.mạng hồi quy nhiều lớp
I.2.3.Huấn luyện mạng neuron
Yếu tố quan trọng thứ ba của các mạng neuron là huấn luyện mạng(trainning)hay còn gọi
việc học(learning)cho các mạng sử dụng các luật học khác nhau.có hai cách học trong các
mạng neuron:học thông số(parameter learning) và học cấu trúc(structure learning).học
thông số là phương pháp học bằng cách cập nhật các trọng số,còn học cấu trúc là phương
pháp học bằng cách thay bên trong cấu trúc mạng bao gồm các phần tử xử lý và các kiểu
kết nối mạng.
Giả sử có một mạng neuron có n phần tử xử lý và mỗi phần tử xử lý có m trọng số thích
nghi
Ma trận trong số w được xác định:
Trong đó: w
i
=(w
i1,
w
i2
,….,w
im
)
T
,i = 1,2,….n.
W
ij
là trọng số ngõ vào thứ j của neuron thứi

Bây giờ chúng ta khảo sát một cấu trúc huấn luyện mạng tổng quát cho một phần tử
xử lý thứ I trong một mạng neuron được mô tả trong hình 2.8
Hình 7.luật học các trọng số
Luật học các trọng số
SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA
7
ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON

Nếu học có giám sát : r = d
i
– y
i
là tín hiệu sai lệch
Nếu học tăng cừong : r = d
i
là tín hiệu tăng cường
Nếu học không có giám sát : r = y
i
là tín hiệu ra thực sự
Với các hàm f
r
(w
i
(k),x(k),d
i
(k))khác nhau thì có luật học khác nhau
Luật học của Hebbian không có tín hiệu ra mong muốn d
i
(k)nên phương pháp học của
Hebbian là phương pháp học không giám sát.

quả trong các bài toán tối ưu hóa tổ hợp.
Hình 9.mạng hopfied ba nút
Mạng Kohonen là mạng truyền thẳng không có giám sát dung các neuron thích
nghi để nhận các tín hiệu từ không gian sự kiện.Ý tưởng chính trong mạng Kohonen là tạo
ra một hệ thống tự sửa đổi sao cho các neuron gần nhau đáp ứng tương tự như nhau.khi
SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA
9
ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON

một neuron đáp ứng tốt với một tín hiệu vào,neuron này và các neuron kế cận với nó sẽ có
các trọng số thay đổi sao cho tất cả đều đáp ứng giống như neuron có đáp ứng tốt nhất.
I.5.MẠNG PERCEPTRON MỘT LỚP
Hình 10. mạng perceptron một lớp với m-1 tín hiệu vào và n tín hiệu ra
Trong đó: x
j
(k) là tín hiệu vào,j=1,2… ,m(x
m
= -1)
W
ij
là trọng số trên nhánh vào thứ j của neuron thứ i
W
im
,i=1,2,….n là các ngưỡng tác động của các neuron
Y
i
(k) là tín hiệu ra thực của neuron thứ i
a(.) là hàm tác động
d
i

layer),lớp neuron ẩn (hidden layer) và lớp neuron đầu ra (output layer)
Lớp neuron đầu vào của mạng có m đầu vào trong đó x
1
… ,x
i
,x
m
.lớp neuron ẩn có r phần
tử xử lý với các đầu ra,đó là z
1
….,z
q
… ,z
r.
và lớp neuron đầu ra của mạng có n phần tử xử
lý với n đầu ra,đó là y
1
….,y
i
….,y
n
.trọng số kết nối giữa đầu vào thứ j của lớp neuron đầu
SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA
11
ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON

vào với phần tử xử lý thứ q của lớp neuron ẩn là v
qj
và trọng số kết nối giữa phần tử xử lý
thứ q của lớp neuron ẩn với phần tử xử lý thứ i của lớp neuron đầu ra là w

Nếu E > E
max
: k =1 ,nhảy đến bước 1
Nếu E ≤ E
max
: kết thúc
Trong mạng truyền thẳng nhiều lớp, việc huấn luyện mạng dùng giải thuật lan
truyền ngược chịu tác động bởi các yếu tố :
SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA
13
ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON

- trị khởi động của các trọng số : các trọng số nên khởi động với các giá trị bé
và ngẫu nhiên. Các giá trị lớn của vector trọng số có thể làm tác động bão
hòa khi bắt đầu học.
- hằng số học :η lớn sẽ hội tụ nhanh nhưng có thể gây vọt lố, do đó có thể
chọn η giảm dần
- Hàm mục tiêu
- Luật học
- Dữ liệu huấn luyện
- Số nút ẩn
Giải thuật gradient descent rất chậm bởi vì nó yêu cầu tốc độ học thấp cho
sự ổn định quá trình học.Việc lựa chọn hằng số học η cho phù hợp mạng
nhiều lớp là không đơn giản, η quá lớn dẫn đến quá trình học không ổn định
và ngược lại η quá nhỏ sẽ làm cho thời gian huấn luyện lớn.
Mạng phụ thuộc vào số neuron có trong lớp ẩn. quá ít neuron sẽ dẫn đến
tình
trạng thiếu, quá nhiều neuron sẽ dẫn đến tình trạng thừa.
I.5.3 Một số giải thuật huấn luyện nhanh (faster training)
Hai phương pháp thường được dùng cho mạng lan truyền ngược là gradient descent

các đạo hàm riêng, chỉ sử dụng dấu của đạo hàm để xác định việc cập nhật trọng
số.Độ lớn của đạo hàm không ảnh hưởng đến việc cập nhật trọng số.Độ thay đổi
trọng số dựa trên cập nhật riêng lẽ.Gía trị cập nhật của mỗi trọng số và ngưỡng tăng
bởi hệ số del-inc khi đạo hàm của hàm hiệu suất tại trọng số tức thời cùng dấu với
hai lần lặp tiếp theo ngược lại trọng số và ngưỡng giảm bởi hệ del-dec khi đạo hàm
của hàm hiệu suất ứng với trọng số hiện tại đổi dấu so với lần lặp trước đó.Nếu đạo
hàm bằng không thì giá trị cập nhật giữ nguyên.Khi trọng số dao động thì trọng số
sẽ giảm,nếu trọng số tiếp tục thay đổi trên cùng một hướng sau nhiều vòng lặp thì
biên độ thay đổi trọng số sẽ giảm
 Giải thuật conjugate-gradient
Giải thuật bachpropagation cơ bản điều chỉnh trọng số theo hướng giảm dốc
nhất.Đây là hướng mà hàm hiệu suất giảm nhanh nhất.Mặc dù giảm nhanh theo
hướng gradient nhưng không có nghĩa hội tụ nhanh.Trong các giải thuật conjugate-
gradient sẽ tìm dọc theo hướng liên hợp,Thông thường tạo ra độ hội tụ nhanh hơn
hướng giảm dốc nhất.Có bốn phương pháp khác nhau về giải thuật conjugate-
gradient :
Trong hầu hết các giải thuật huấn luyện đã được trình bày,tốc độ học dùng để xác
định độ dài cập nhật trọng số(kích thước nấc).Còn trong các giải thuật conjugate-
gradient, kích thước nấc sẽ thay đổi sau mỗi lần lặp.giải thuật sẽ tìm dọc theo
hướng gradient kết hợp để xác định kích thước nấc cực tiểu hóa hàm hiệu suất.
SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA
15
ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON

• Giải thuật cập nhật Fletcher – Reeves
Tất cả các giải thuật conjugate – gradient đều bắt đầu bằng việc định hướng
giảm dốc nhất ớ bước lặp đầu tiên (gradient âm) p
0
= -g
0.

được xác định:
• Giải thuật khởi động lại Powell – Beale
Đối với các giải thuật conjugate – gradient ,hướng tìm sẽ được khởi động sau
mỗi chu kỳ.Điểm khởi động chuẩn xuất hiện khi số chu kỳ bằng thông số của
mạng.Phương pháp Powell – Beale sẽ tăng hiệu xuất huấn luyện,khởi động lại
về giá trị âm gradient nếu giá trị trực giao giữa gradient cũ và mới còn lại rất
nhỏ,nghĩa là thõa điều kiện :
• Giải thuật Scale conjugate – gradient
SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA
16
ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON

Trong mỗi thuật toán comjugate – gradient đều yêu cầu hướng tìm ở mỗi vòng
lặp.Việc tìm hướng rất phức tạp vì yêu cầu mạng đáp ứng cho tất cả các ngõ
vào huấn luyện và được tính nhiều lần trong mỗi vòng lặp.giải thuật Scale
conjugate – gradient tránh sự phức tạp này.
I.5.4 Các vấn đề cần xử lý trước khi huấn luyện
Chuẩn hóa biến vào và biến đích làm cho quá trình huấn luyện tốt hơn.Hàm
premnmx sử dụng để chuẩn hóa ngõ vào và đích trong khoảng [-1,1].do hàm premnmx
chuẩn hóa giá trị vào,đích nên giá trị ngõ ra của mạng nằm trong khoảng [-1,1].Để đổi giá
trị ngõ ra trở về bình thường ta sử dụng hàm Postmnmx.Nếu hàm premnmx dùng để tiền
sử lý tập huấn luyện thì bất cứ khi nào mạng được huấn luyện với giá trị vào mới ta sử
dụng hàm tramnmx để chuẩn hóa giá trị vào.Kỹ thuật khác dùng để phân đoạn giá trị
vào,đích của mạng chuẩn hóa là trung bình và phương sai chuẩn.Hàm prestd chuẩn hóa
ngõ vào,đích sao cho có giá trị trung bình là zero và phương sai chuẩn đơn vị.Hàm poststd
biến đổi ngõ ra của mạng trở lại giá trị trung thường.Nếu ta muốn mạng được huấn luyện
với giá trị vào mới ta sử dụng hàm trastd để chuẩn hóa giá trị vào.
I.6.TRÌNH TỰ THIẾT KẾ MẠNG NEURON ỨNG DỤNG
Mạng neuron là một công cụ tốt cho phép xấp xỉ lớp tương đối quan hệ phụ thuộc
hàm giữa tín hiệu ra y(n) và tín hiệu vào x(n) của một hệ thống nào đó.Điểm mạnh của

- Khởi tạo các tham số ( các loại mạng khác nhau tương ứng có các tham số
khác nhau. các trọng số tham số ban đầu xác định ngẫu nhiên hay theo kinh
nghiệm).
- Tốc độ học.
- Mức độ quán tính.
- Tiêu chuẩn dừng học.
Thử nghiệm mạng : Sử dụng mạng để giải quyết bài toán đặt ra theo dữ liệu mẫu đầu vào.
Tinh chỉnh mạng : Muốn nâng cao hiệu quả sử dụng mạng cần phải cập nhật mẫu học,
cải tiến cơ chế huấn luyện, tinh chỉnh cấu trúc và tham số mạng.
Trong trường hợp mạng tuy đã huấn luyện tốt nhưng kết quả không đáp ứng yêu cầu với
các dữ liệu kiểm thử( hiện tượng học quá khít) thì tiến hành:
- tăng số liệu mẫu và huấn luyện lại mạng
- xem xét lại tập dữ liệu mẫu với sự tư vấn của chuyên gia
II.CÁC ỨNG DỤNG CỦA MẠNG NEURON
Mạng neuron nhân tạo đã và đang được ứng dụng rộng rãi trong các ngành kỹ thuật
(Kỹ thuật điều khiển, Điện tử viễn thông, hệ thống điện, công nghệ thông tin, y học, quân
sự, tài chính, trí tuệ nhân tạo… )
Ví dụ như trong kỹ thuật điều khiển, mạng neuron được ứng dụng để nhận dạng, dự báo và
điều khiển hệ thống tự động.Trong điện tử viễn thông mạng neuron được ứng dụng để xử
SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA
18
ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON

ảnh, nhận dạng ảnh, nhận dạng tiếng nói, nhận dạng các đối tượng được kết hợp với các
đặc thù vật lý của chúng.Trong hệ thống điện, mạng neuron được ứng dụng nhận dạng dự
báo và điều khiển các trạm biến áp…
II.1. Nhận dạng ký tự quang học bằng mạng neuron:
Nhận dạng ký tự bằng quang học là kỹ thuật được sử dụng để chuyển đổi ảnh văn
bản sang dạng văn bản có thể chỉnh sửa trong máy tính .Nó được ứng dụng trong công tác
quét và lưu trữ các tài liệu cũ,đẩy nhanh việc nhập dữ liệu vào máy với ít lỗi hơn.

Quá trình tiền xử lý ký tự giải quyết vấn đề ánh xạ giá trị pixel ảnh ký tự vào ma trận
10x15 và tuyến tính hóa ma trận thành 150 giá trị đưa vào 150 neuron ở lớp vào của mạng.
d.mạng neuron nhận dạng ký tự
chương trinh nhận dạng ký tự quang sử dụng mạng MLP(MultiLayer Perceptron) có 3
lớp :lớp vào có 150 nút tương ứng với 150 phần tử của vecto ma trận pixel ,lớp ẩn có 250
neuron và lớp ra có 16 neuron tương ứng với 16 bit nhị phân của giá trị Unicode của các
ký tự.
SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA
20
ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON

`
Hình 13.Mạng MLP trong nhận dạng ký tự quang
Quá trình huấn luyện mạng:
Quá trình huấn luyện mạng là quá trình sinh học với các tập mẫu để
điều chỉnh tập trọng số liên kết.giải thuật huấn luyện được áp dụng trong thiết kế chương
trình nhận dạng ký tự là giải thuật lan truyền ngược sai số Propagation.
Bước 1:Lan truyền xuôi đầu vào X
s
= qua mạng :
Bước 2: Lan truyền ngược sai số :
So sánh các phần tử của vectơ đầu ra thực Y
s
với các phần tử tương ứng của vectơ
đầu ra mẫu T
s
để tính sai lệch :
Tổng bình phương sai số của mạng ứng với mẫu học (X
s,
T

Tahoma, Latinh Times Roman
kết quả khi thay đổi số vòng lặp (Epoch)
Số ký tự =9,tốc độ học learning _rate=150,hệ số góc hàm sigmoid α = 0.014
SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA
22
ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON

kết quả thay đổi tham số learning _rate
Số ký tự = 90 ,số Epoch = 600 ,hệ số góc α = 0.014
Đánh giá ảnh hưởng của sự thay đổi các thông số :
Tăng số vòng lặp tổng quát sẽ tỉ lệ thuận hiệu suất của mạng Nhưng đến một mức
nào đó nó sẽ gây ra hiện tượng học vẹt ( over learning),sẽ bỏ qua trạng thái tối ưu .
Kích thước đầu vào cũng là một nhân tố ảnh hưởng trực tiếp đến hiệu suất của
mạng .Thực tế số đầu vào càng nhiều mạng được yêu cầu huấn luyện nhiều hơn để có thể
nhận bắt lỗi tốt .
Sự thay đổi tham số learning _rate cũng ảnh hưởng hiệu suất của mạng đối với số vòng lặp
xác định .Giá trị tham số này càng nhỏ thì mạng hiệu chỉnh trọng số càng chậm.Nhưng
muốn đạt đến trạng thái tối ưu thì ta phải tăng số vòng lặp nhiều hơn.
Kết luận : với các kết quả thu được trong quá trình thử nghiệm huấn luyện ta chọn các
thông số mạng : số vòng lặp epoch = 600 ,tốc độ học learning _rate =150,hệ số góc hàm
sigmoid α =0.014,ngưỡng sai số ε = 0.0002.
II.2 Nhận dạng tiếng việt dùng mạng neuron:
Trong quá trình xây dựng hệ thống nhận dạng ,có nhiều yếu tố ảnh hưởng đến năng
lực nhận dạng của hệ thống ,trong đó phải kể đến:
-các đặc tính âm học
-phiên âm âm vị của âm tiết
-mô hình hóa độ dài
-các phương pháp huấn luyện
SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA
23

24
ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON

30ms,30ms,60ms cũng được tính toán và kết hợp với đặc tính của khung chính tạo thành
một tập vectơ 130 đặc tính
Phiên âm âm vị của âm tiết
Đơn vị tiếng nói cơ sở sử dụng là âm vị phụ thuộc ngữ cảnh .các âm vị bị ảnh hưởng mạnh
bởi ngữ cảnh xung quanh .mỗi âm vị được chia thành 2,3 phần ,được gọi là category.mỗi
category phụ thuộc vào ngữ cảnh ở bên trái hoặc bên phải của nó .ví dụ âm /kh/được chia
thành 2 phần ,phần bên trái phụ thuộc vào các âm vị đứng bên trái âm vị /kh/ và phần bên
phải phụ thuộc vào các âm vị đứng bên phải âm vị /kh/ .do /kh/ là phụ âm đứng đầu câu và
xuất hiện duy nhất trong từ “không” nên phần bên phải của /kh/ chỉ có thể là âm vị /oo/ ,từ
đó ta có một category /kh>oo/,phần bên trái của /kh/ sẽ cho ta category /,pau>kh/ khi từ
“không “ đứng đầu câu hoặc sau một khoảng nghỉ pause .khi “không” đứng sau các từ
khác ta có các category tương ứng
/oong>kh/,/oot>kh/,//ai>kh/,/a>kh/,oon>kh/,/awm>kh/,/au>kh/,/aai>kh/,am>kh/,/in>kh/,nh
ư vậy âm vị /kh/ cho ta 12 category tương ứng với 12 nút đầu ra của mạng noron
Huấn luyện mạng MLP được trình bày ở phần trên
II.3 Điều khiển robot bằng phương pháp momen:
Phương pháp tính momen là một phương pháp phổ biến trong điều khiển robot hiện
đại.nó cho phép loại được tất cả các thành phần phi tuyến và liên kết chéo trong robot
.nhược điểm của pháp này là các tham số phi tuyến thường không được ước lượng chính
xác và quá trình tính toán phức tạp đòi hỏi thời gian thực .vì vậy trong thực tế dao động và
quá trình thường xuyên xuất hiện khi điều khiển bằng phương pháp tính momen.mạng
nơron và thuật di truyền có thể cho phép khắc phục được những nhược điểm này .bài báo
cáo này giới thiệu việc sử dụng mạng nơron được tối ưu bằng thuật di truyền thực hiện tính
toán chính xác các tham số phi tuyến và liên kết chéo của hệ robot.hệ điều khiển được
kiểm chứng bằng MATLAB SỊMULINK 6.0 trên cánh tay máy 2 bậc tự do
Sơ đồ hệ điều khiển tính momen được biểu diễn như sau:
Phương pháp tính momen