TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI
KHOA CÔNG NGHỆ THÔNG TIN

BÁO CÁO NGHIÊN CỨU KHOA HỌC Tên đề tài:
XÁC ĐỊNH QUAN HỆ MỜ BẰNG MẠNG NƠRON
NHÂN TẠO
Giáo viên hướng dẫn : T.S Nguyễn Tân Ân
Sinh viên thực hiện : Nguyễn Thị Thuý Chinh.
Lớp : C-K54-CNTT.

Hà Nội 4/2008

B¸o c¸o nghiªn cøu khoa häc

thì
có một phần tử ra tương ứng
y Y
Î
. Yêu cầu bài toán đặt ra là xác định quan
hệ
R
giữa
X
và
Y
. Một trong những phương pháp thường được sử dụng để
giải quyết bài toán trên đó là phương pháp bình phương bé nhất. Để giảm độ
phức tạp và thời gian tính toán trong báo cào này tôi sử dụng một phương
pháp mới đó là dùng mạng nơron nhân tạo. Và quan hệ giữa không gian vào
và ra xác định được không phải là quan hệ bình thường mà là quan hệ mờ.
Bài nghiên cứu gồm những phần sau:
I. Tổng quan lý thuyết tập mờ và quan hệ mờ
Giới thiệu về khái niệm tập mờ, các phép toán trên tập mờ, quan hệ mờ.
II. Giới thiệu về mạng nơron nhân tạo.
Giới thiệu cấu trúc của một nơron, định nghĩa và phân loại mạng nơron,
các thủ học mạng nơron, thuật toán lan truyền ngược.
Báo cáo nghiên cứu khoa học

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

3
III. Bi toỏn xỏc nh quan h m bng mng nron nhõn to
nh x bi toỏn xỏc nh quan h m lờn mng nron nhõn to, a ra
cỏch hun luyn mng. Cui cựng l demo thut toỏn xỏc nh quan h m

ù
ợ
(1.1)
c gi l hm thuc ca tp
A
. Tp
A
l tp kinh in,
U
l khụng gian
nn. Nh vy hm thuc ca tp c in ch nhn hai giỏ tr l 0 hoc 1. Giỏ
tr 1 ca hm thuc
( )
A
x
m cũn c gi l giỏ tr ỳng, ngc li 0 l giỏ tr
sai ca
( )
A
x
m . Mt tp
U
luụn cú

( )
1
U
xm
=
, vi mi

( )
A
x
m
định nghĩa trên tập
A
, trong khái niệm kinh điển chỉ
có hai giá trị là 1 nếu
x A
Î
hoặc 0 nếu
x A
Ï
. Hình 1.1 mô tả hàm thuộc của
hàm
( )
A
x
m
, trong đó tập
A
được định nghĩa như sau:

{ }
2 6
A x x= Î < <¡
. (1.2)

= Î »
¡
(1.4)
Tập
B
,
C
như vậy được gọi là các tập mờ.
Lý do là với những định nghĩa “mờ” như vậy chưa đủ để xác định được
một số chẳng hạn như
4,5
x
=
có thuộc
B
hoặc
2,5
x
=
có thuộc
C
hay
không. Nên chúng ta không thể dùng hàm thuộc của tập cổ điển chỉ có hai giá
trị 1 và 0 để định nghĩa tập
B
và
C
trong trường hợp này.
Vì vậy người ta nghĩ rằng: tại sao lại không mở rộng miền giá trị cho
hàm thuộc của tập cổ điển, tức là hàm thuộc sẽ có nhiều hơn hai giá trị. Khi

B
x
m tại điểm
4,5
x
=
phải có một giá trị
trong đoạn
[
]
0,1
, tức là

( )
0 1
B
xm
£ £
(1.5)
Nói cách khác hàm
( )
B
x
m không còn là hàm hai giá trị như đối với tập
kinh điển nữa mà là một ánh xạ (hình 1.2)

[
]
: 0,1
B

F
m
là một ánh xạ

[
]
: 0,1
F
Um ® . (1.7)
Ánh xạ
F
m
được gọi là hàm thuộc (hàm phụ thuộc hay hàm thành viên )
của tập mờ
F
. Tập kinh điển
U
được gọi là tập nền (hay tập vũ trụ) của tập
mờ
F
.
Ví dụ một tập mờ
F
của các số tự nhiên nhỏ hơn 6 với hàm phụ thuộc
( )
F
x
m có dạng như hình 1.2a định nghĩa trên nền
U
sẽ chứa các phần tử sau

1.2 Các phép toán về tập mờ
Giống như định nghĩa về tập mờ các phép toán trên tập mờ cũng sẽ được
định nghĩa thông qua các hàm thuộc. Nói cách khác, khái niệm xây dựng
những phép toán trên tập mờ là việc xác định các hàm thuộc cho phép hợp,
giao , bù từ những tập mờ. Một nguyên tắc cơ bản trong việc xây dựng các
phép toán trên tập mờ là không được mâu thuẫn với những phép toán đã có
trong lý thuyết tập hợp kinh điển.
1.2.1 Phép hợp
Cho hai tập hợp mờ
A
và
B
có cùng không gian nền
U
với hai hàm
thuộc tương ứng là
( )
A
x
m và
( )
B
x
m . Hợp của
A
và
B
là một tập mờ cũng
xác định trên
U

=
với
x
"

Þ

( )
A B
x
m
È
=
( )
A
x
m
.
iii. Tính giao hoán, tức là
( ) (
)
A B B A
x x
m m
È È
= .
iv. Tính kết hợp, tức là
( ) ( )
( ) ( )A B C A B C
x x

A B A B
x x x
m m m
È
=
(Luật lấy max) (1.8)
B¸o c¸o nghiªn cøu khoa häc

Sinh viªn: NguyÔn ThÞ Thuý Chinh – K54C - CNTT

7
Hình 1.3. Hàm thuộc của hai tập mờ có cùng không gian nền
a) Hàm thuộc của hai tập mờ
A
và
B

b) Hợp của hai tập mờ
A
và
B

N
. Do hai tập nền
M
và
N
độc lập với nhau nên
hàm thuộc
( )
A
x
m ,
x M
Î
của tập mờ
A
sẽ không phụ thuộc vào
N
và ngược
lại
( )
B
x
m ,
y N
Î
của tập
B
cũng sẽ không phụ thuộc vào
M
. Điều đó thể

x
a)


( )
B
x


x
b)



( )
A
x


( )
B
x


B¸o c¸o nghiªn cøu khoa häc

Sinh viªn: NguyÔn ThÞ Thuý Chinh – K54C - CNTT

8
M N


a. Hình 1.4. Phép hợp hai tập mờ không cùng nền
a. Hàm thuộc của hai tập mờ
A
và
B

b. Đưa hai tập mờ về chung một nền
M N
´

c. Hợp hai tập mờ trên nền
M N
´



M×N

x
y
M×N

x
( , )
A B
x y

 


y
c.
B¸o c¸o nghiªn cøu khoa häc

Sinh viªn: NguyÔn ThÞ Thuý Chinh – K54C - CNTT

9
Sau khi đã đưa được hai tập mờ
A
và
B
về chung một không gian nền là
M N
´
thành

( )
B
x
m . Hợp của hai
tập mờ
A
và
B
theo luật max là một tập mờ xác định trên không gian nền
M N
´
với hàm thuộc

( ) ( ) ( )
{
}
, max , , ,
A B A B
x y x y x y
m m m
È
=
. (1.9)
trong đó

( ) ( )
,
A A
x y x
m m= với mọi

( ) [
]
0,1
B
xm Î
nên ta có thể xem
( )
,
A B
x y
m
È
là hàm của hai biến
A
m
,
B
m
được định nghĩa như
sau
( ) ( ) [ ] [
]
2
, , : 0,1 0,1
A B A B
x ym m m m
È
= ® (1.10)
Ta đi đến định nghĩa về hàm thuộc
( )

m m m ®
xác định trên nền
M N
´
thoả mãn:
a)
0
B
m
= Þ
( )
,
A B A
m m m m
= .
Báo cáo nghiên cứu khoa học

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

10
b)
( ) ( )
, ,
A B B A
m m m m m m
= , tc l cú tớnh giao hoỏn.
c)
( )
( )
( )

thuc tng ng l
( )
A
x
m v
( )
B
x
m . Giao ca
A
v
B
l mt tp m cng
xỏc nh trờn
U
, kớ hiu l
A B
I
cú hm thuc
( )
A B
x
m
I
tho món:
i.
( )
A B
x
m

x
m
.
iii. Tớnh giao hoỏn, tc l
( ) ( )
A B B A
x x
m m=
I I
.
iv. Tớnh kt hp, tc l
( ) ( )
( ) ( )A B C A B C
x x
m m=
I I I I
.
v. Nu
1 2
A A

thỡ
1 2
A B A B
ầ ầ
hay
( )
A B
x
m

A B
x Um đ
I

no tho món 5 tiờu chun ó nờu trong nh ngha trờn u c xem nh l
hm thuc ca giao hai tp m
A
v
B
cú chung mt khụng gian nn
U
. Sau
õy l mt trong nhng cụng thc tớnh hm thuc
( )
A B
x
m
I
ca phộp giao
gm:
B¸o c¸o nghiªn cøu khoa häc

Sinh viªn: NguyÔn ThÞ Thuý Chinh – K54C - CNTT

11

( ) ( ) ( )
{ }
min ,
A B A B

Giao của hai tập mờ
A
với hàm thuộc
( )
A
x
m định nghĩa trên không gian
nền
M
và
B
với hàm thuộc
( )
B
x
m định nghĩa trên không gian nền
N
là một
tập mờ xác định trên không gian nền
M N
´
có hàm thuộc


x


( )
B
x



x
d)
c)
( )
B
x


( )
A
x


Báo cáo nghiên cứu khoa học

Sinh viên: Nguyễn Thị Thuý Chinh K54C - CNTT

12
( ) ( ) ( )
{ }
( ) ( )
{
}
, min , min , , ,
A B A B A B
x y x y x y x y
m m m m m
ầ

s cú hm thuc mụ t nh trong
hỡnh 1.5d.
Trong vớ d trờn ta thy hm thuc
( )
,
A B
x y
m
ầ
ca giao hai tp m
A
,
B

khụng cựng khụng gian nn ch ph thuc vo
( ) [
]
0,1
A
xm ẻ v
( ) [
]
0,1
B
xm ẻ .
Do ú khụng mt tớnh tng quỏt nu ta xem
( )
,
A B
x y

x
m nh ngha trờn khụng
gian nn
M
v
B
vi
( )
B
x
m nh ngha trờn khụng gian nn
N
l mt hm
hai bin
( ) [ ] [
]
2
, : 0,1 0,1
A B
m m m đ xỏc nh trờn nn
M N

tho món:
e)
1
B
m
= ị
( )
,

13
Mt hm hai bin
( ) [ ] [
]
2
, : 0,1 0,1
A B
m m m đ tho món cỏc iu kin ca
nh ngha trờn cũn c gi l hm t- chun (t-norm).
1.2.3 Phộp bự
Cho tp m
A
trờn khụng gian nn
U
. Phộp bự ca
A
l mt tp m
cng xỏc nh trờn khụng gian nn
U
, kớ hiu l
c
A
, nú cú hm thuc tho
món:
i.
( )
c
A
x
m ch ph thuc vo

thỡ
c
x A
ẻ
, hay
( )
0
A
xm
=

ị

( )
1
c
A
xm
=

iv.Nu
A B

thỡ
c c
A B
ấ , tc l
( ) ( )
1 2
A A

( )
A
x
m trong
[
]
0,1
. T ú a ra nh ngha tng
quỏt hn v phộp bự m nh sau:
nh ngha 1.5
Tp bự ca tp m
A
xỏc nh trờn khụng gian nn
U
l mt tp m
c
A
cng xỏc nh trờn khụng gian nn
U
vi hm thuc

[ ] [
]
( ): 0,1 0,1
A
m m đ
tho món
i.
(1) 0
m

A
.
a. Hàm thuộc của tập mờ
A
.
b. Hàm thuộc của tập mờ
c
A
.
1.3. Quan hệ mờ
Định nghĩa 1.6
Cho
X
,
Y
là hai không gian nền.
R
gọi là một quan hệ mờ trên
X
´
Y

nếu
R
là một tập mờ trên
X
´
Y
, tức là có một hàm thuộc
[

b) Bắc cầu yếu nếu
, ,
x y z X
" Î
có

( ) ( )
, ,
R x y R y x
> và
( ) ( )
, ,
R y z R z y
> thì
( ) ( )
, ,
R x z R z x
> .
c) bắc cầu tham số nếu có một số
0 1
q
< <
sao cho:
Nếu
( ) ( )
, ,
R x y R y x
q> > và
( ) ( )
, ,

giản nhất có thể diễn đạt như sau:
Cho một hệ mờ biểu diễn dưới dạng một quan hệ mờ nhị nguyên
R
trên
không gian tích
X
´
Y
. Đầu vào (input) của hệ là một tập mờ
A
cho trên
không gian nền input
X
. Tác động của đầu vào
A
với hệ
R
sẽ là phép hợp
thành
A R
o
sẽ cho ở đầu ra (output) một tập mờ trên không gian nền
Y
, kí
hiệu là
B
. Khi ấy ta có
A R B
=
o

- Thân nơron được giới hạn trong một màng membran và trong cùng là
nhân. Từ thân nơron còn có rất nhiều đường rẽ nhánh tạm gọi là rễ.
- “Bus” liên kết nơron này với các nơron khác được gọi là axon, trên
axon có các đường rẽ nhánh. Nơron còn có thể liên kết với các nơron khác qua
các rễ. Chính vì cách liên kết đa dạng như vậy nên mạng nơron có độ liên kết
rất cao.
Các rễ của noron được chia làm hai loại: loại nhận thông tin từ các
nơron khác qua axon, mà ta sẽ gọi là rễ đầu vào và loại đưa thông tin qua
axon tới các nơron khác, gọi là rễ đầu ra. Một nơron có thể có nhiều rễ đầu
vào, nhưng chỉ có một rễ đầu ra. Bởi vậy nếu coi nơron như một khâu điều
khiển thì nó chính là khâu có nhiều đầu vào, một đầu ra. Một nơron sẽ ở trạng
thái kích thích khi tại đầu vào xuất hiện một tín hiệu tác động vượt quá
ngưỡng cân bằng của nơron.
Một tính chất rất cơ bản của mạng nơron sinh học là các đáp ứng theo
kích thích có khả năng thay đổi theo thời gian. Các đáp ứng có thể tăng lên,
giảm đi hoặc hoàn toàn biến mất. Qua các nhánh axon liên kết tế bào nơron
này với các nơron khác, sự thay đổi trạng thái của một nơron cũng dẫn theo sự
thay đổi trạng thái của những nơron khác và do đó là sự thay đổi của toàn bộ
mạng nơron. Việc thay đổi trạng thái của mạng nơron có thể thực hiện qua
một quá trình “dạy” hoặc do khả năng “học” tự nhiên.
Cấu trúc của mạng nơron luôn luôn phát triển và thay đổi để thích nghi
dần với môi trường, làm cho cấu trúc bộ não ngày càng trở nên phức tạp sau
mỗi lần học. Một số cấu trúc của nơron được xác định trước, một số sau này
mới được hình thành và một số thì bị huỷ bỏ qua quá trình chọn lọc tự nhiên,
học và thích nghi.
B¸o c¸o nghiªn cøu khoa häc

Sinh viªn: NguyÔn ThÞ Thuý Chinh – K54C - CNTT

17

j
q
: ngưỡng kích hoạt của nơron
j
.
-
net
: tín hiệu tổng hợp đầu vào.
-
( )
f net
: Hàm kích hoạt.
-
j
y
: tín hiệu ra của nơron
j
.
å
M
1
x

2
x

n
x

j

x
với
1,2, ,
i n
=
. Mỗi tín
hiệu đầu vào tương ứng với một trọng số
ij
w
với
1,2, ,
i n
=
, nó thể hiện mức
độ ảnh hưởng của tín hiệu
i
x
đến nơron
j
.
Một nơron có thể có nhiều đầu vào nhưng chỉ có một tín hiệu đầu ra.
Tín hiệu đầu vào của một nơron có thể là dữ liệu từ bên ngoài mạng, hoặc đầu
ra của một nơron khác, hoặc là đầu ra của chính nó.
Nhằm tăng khả năng thích nghi của mạng nơron trong quá trình học,
người ta sử dụng gán thêm một tham số (Bias) cho mỗi nơron nhân tạo. Tham
số đó còn gọi là trọng số của nơron, ta kí hiệu trọng số của nơron thứ
j
là
j
q

å
. (2.1)
Có nhiều cách để tính tổng tín hiệu vào của nơron, trên dây là cách khá
đơn giản và hữu ích khi chúng ta xây dựng một mạng có nhiều nơron.
Trường hợp
0
ij
w
>
, nơron được coi là đang ở trạng thái kích thích.
Tương tự, nếu như
0
ij
w
<
, nơron ở trạng thái kiềm chế.
Sau khi tổng hợp được tín hiệu đầu vào
net
, sử dụng hàm kích hoạt
f

biến đổi
net
để thu được tín hiệu đầu ra
out
.

( )
j j
y out f net


Hình 2.3. Hàm đồng nhất
2) Hàm bước nhị phân (Binary step function, Hard limit function)
Hàm này còn được gọi là hàm ngưỡng (Threshold function hay
Heaviside function). Đầu ra của hàm này chỉ giới hạn trong hai giá trị:

( )
1, nÕu x
0, nÕu x<
f x
q
q
ì
³
ï
ï
=
í
ï
ï
î
(2.4)
Dạng hàm này được sử dụng trong các mạng chỉ có một lớp. Trong hình
vẽ sau,
q
được chọn bằng 1.

Hình 2.4. Hàm bước nhị phân
-1 0 1 2 3 4 x
-1

(trained) bởi thuật toán lan truyền ngược (back-propagation), bởi vì nó dễ lấy
đạo hàm, do đó có thể giảm đáng kể tính toán trong quá trình huấn luyện. Hàm
này được ứng dụng cho các chương trình ứng dụng mà các đẩu ra mong muốn
rơi vào khoảng [0,1].
4) Hàm sigmoid lưỡng cực (Bipolar sigmoid function (tansig))

( )
1
1
x
x
e
f x
e
-
-
-
=
+
(2.6)
Hàm này có các thuộc tính tương tự của hàm sigmoid. Nó làm việc tốt đối
với các ứng dụng có đầu ra yêu cầu trong khoảng [-1,1].
2.2.2 Định nghĩa và phân loại mạng nơron nhân tạo.
2.2.2.1 Định nghĩa
Mạng nơron nhân tạo là sự mô phỏng hoạt động của bộ não con người.
Nó là sự liên giữa các nơron độc lập với nhau. Không có một định nghĩa tổng
quát về mạng nơron, song phần lớn những người làm việc trong lĩnh vực
mạng nơron đều có thể đồng ý với định nghĩa sau: “Mạng nơron là một hệ
thống bao gồm rất nhiều phần tử xử lý đơn giản hoạt động song song. Tính
năng của hệ thống này phụ thuộc vào cấu trúc của hệ thống, cường độ liên kết


Hỡnh 2.5. Mụ hỡnh mng mt lp.

- Mng nhiu lp
Mng nhiu lp c cu thnh t nhiu lp liờn kt vi nhau, bao gm
mt lp vo, lp n v mt lp ra. Trong ú, lp nhn tớn hiu u vo c
gi l lp vo. Cỏc tớn hiu u ra ca mng c sn sinh bi lp ra ca
mng. Cỏc lp nm gia lp vo v lp ra c gi l lp n. Lp n l thnh
phn ni ti ca mng, nú khụng cú bt k tip xỳc no vi mụi trng bờn
ngoi. S lng lp n cú th dao ng t 0 n mt vi lp. Tuy nhiờn thc
t cho thy ch cn mt lp n l mng ó gii quyt c mt lp cỏc
bi toỏn phc tp no.
1
x

2
x

n
x

1
y

2
y

m
y



M

n
x

M

m
y

M

M

2
y

1
y

M

1
x

2
x

lớp

Các nhân tố quyết định tới khả năng của một mạng nơron gồm: cấu trúc
của mạng (số lớp, số nơron trên một lớp, và cách mà các lớp được liên kết với
nhau) và các trọng số của các liên kết bên trong mạng. Dựa vào điều này,
người ta phân các thuật toán học của mạng nơron thành hai nhóm chính: học
cấu trúc và học tham số.
2.3.1 Học tham số
Học tham số quan tâm đến chiến lược hiệu chỉnh các trọng số của các
nơron trong mạng.
Giả sử có
n
nơron, mỗi nơron có
m
trọng số. Chúng ta có thể kết hợp
được lại tạo thành ma trận dạng sau:
M

n
x

M

m
y

M

M

2
y

ờ ỳ
ờ ỳ
=
ờ ỳ
ờ ỳ
ờ ỳ
ở ỷ
K
K
M M K M
K
(2.7)
Trong ú,
ij
w
l trng s liờn kt t nron
i
n nron
j
.
Cỏc th hc tham s nhm tỡm kim ma trn trng sú
W
sao cho mng
cú kh nng a ra cỏc d bỏo sỏt vi thc t. Cỏc th hc cú tham s cú th
c chia thnh ba lp nh hn: hc cú ch o (hc cú thy), hc tng cng,
hc khụng ch o (hc khụng cú thy hay hc t t chc).
- Hc cú ch o

Hỡnh 2.8. S hc cú ch o


sinh sai s thu nhn v sn sinh ra tớn hiu sai s. Tớn hiu sai s ny s i vo
mng v mng s hiu chnh cỏc trng s ca mỡnh sao cho tớn hiu u ra
i
out
s gn vi vộc t u ra mong mun
i
Y
.
Nu tớn hiu ra
out
=
Y
thỡ lỳc ú mng nron ó bóo ho, ta núi th tc
hc ca mng ó hi t.
- Hc tng cng
Mng nron
Sn sinh
sai s
Vộc t vo Tớn hiu ra out
B¸o c¸o nghiªn cøu khoa häc

Sinh viªn: NguyÔn ThÞ Thuý Chinh – K54C - CNTT

25

Hình 2.9. Sơ đồ học tăng cường.

Học tăng cường cũng là một dạng của học có chỉ đạo vì mạng nơron vẫn
nhận tín hiệu ngoài môi trường. Tuy nhiên, tín hiệu ngoài môi trường chỉ là
những tín hiệu mang tính phê phán, chứ không phải là các chỉ dẫn cụ thể như