ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH
TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN TRẦN THẾ VŨ ƯỚC LƯỢNG BAYES TRONG MÔ HÌNH HỒI QUI PHI TUYẾN HỮU
HẠN CHIỀU Chuyên ngành: Lý thuyết xác suất và thống kê trong toán học
Mã số: 60 46 15

LUẬN VĂN THẠC SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC:
PGS.TS TÔ ANH DŨNG

TP HỒ CHÍ MINH - 2011
LỜI CẢM ƠN
Lời đầu tiên, tôi xin gửi lòng biết ơn sâu sắc của tôi đến Thầy PGS.Tiến sĩ Tô Anh
Dũng về sự tận tình hướng dẫn, chỉ bảo của thầy đối với tôi trong suốt quá trình học tập
và hoàn thành luận văn.

1chiều, hữu hạn chiều và bước đầu khảo sát các ước lượ ng của tham ẩn định vị với cấu
trúc ngẫu nhiên.
- Phụ lục A, B : Cung cấp kiến thức cơ bản về thống kê Bayes và không gian Banach.
1
Mục lục
Lời giới thiệu 1
Bảng ký hiệu 2
1 Kiến thức nền tảng 3
1.1 Không gian topo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2 Cơ bản về lý thuyết độ đo, tích phân và xác suất . . . . . . . . . . . . . . . 5
1.3 Sự hội tụ của các biến ngẫu nhiên và kỳ vọng có điều kiện . . . . . . . . . . 14
1.4 Độ đo xác suất trên không gian metric . . . . . . . . . . . . . . . . . . . . . 16
1.5 Xích markov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
2 Hàm lặp ngẫu nhiên 23
2.1 Cơ sở xây dựng hàm lặp ngẫu nhiên và điều kiện tồn tại phân bố xác suất
dừng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
2.2 Moment hình học co . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
2.3 Các ví dụ và ứng dụng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
3 Giới hạn Berry-Esseen 38
3.1 Giới hạn Berry-Esseen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
3.2 Các ví dụ ứng dụng. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
4 Ước lượng Bayes trong mô hình hồi qui 50
4.1 Tiêu chuẩn compact tương đối trong không gian hàm . . . . . . . . . . . . . 50
4.2 Về sự tồn tại ước lượng Bayes trong cấu trúc thống kê. . . . . . . . . . . . . 54
4.3 Ước lượng Bayes trong mô hình hồi qui phi tuyến 1chiều . . . . . . . . . . 57
4.4 Ước lượng Bayes trong mô hình hồi qui phi tuyến rchiều . . . . . . . . . . 60
4.5 Ước lượng Bayes trong mô hình hồi qui phi tuyến rchiều với ước lượng bị
chặn của tham ẩn định vị  là hàm ngẫu nhiên . . . . . . . . . . . . . . . . . 65
Phần kết luận 69
A Cơ sở lý thuyết thống kê Bayes 70

:
B(X) đại số Borel.
B(I; R
r
) Không gian gồm các hàm h : I ! R
r
đo được và bị chặn:
L(; ); L(; ) Hàm tổn thất.
Pr ob Xác suất xảy ra.
2
Chương 1
Kiến thức nền tảng
1.1 Không gian topo
Định nghĩa 1.1.1. Cho X là một tập hợp khác rỗng. Một họ T các tập con của X được
gọi là một topo trên X nếu T thỏa mãn 3 tiên đề sau đây :
1. ; 2 T , X 2 T:
2. Nếu (G

)
2I
là một họ các phần tử của T thì
S
2I
G

2 T:
3. Nếu G
1
; G
2

0
A:
Định nghĩa 1.1.5. Cho một họ V những lân cận của điểm x 2 X được gọi là một cơ
sở lân cận của x 2 X nếu với mọi lân cận U của x đều tồn tại một lân cận H 2 V sao cho
x 2 H  U.
Định nghĩa 1.1.6. Trong không gia n topo được gọ i là khả li (hay tách được) nếu trong
X tồn tại một tập con A hữu hạn hay đếm được và A trù mật khắp nơi (tập hợp trù mật)
tức là A = X:
Định lý 1.1.1. Cho (X; d) là một không gian metric và T là topo sinh ra bởi metric d
tức là T là họ tất cả các tập con của X mở đối với metric d. Nếu (X; T ) là khả li thì nó có
một cơ sở đếm được.
Định lý 1. 1. 2. Mọi không gian topo có một cơ sở đếm được đều khả li.
3
CHƯƠNG 1. KIẾN THỨC NỀN TẢNG
Định lý 1.1.3. Mọi không gian topo có một cơ sở đếm được thì mỗi điểm của nó đều
có một cơ sở lận cận đếm được.
Định nghĩa 1.1.7. Không gian topo (X; T ) được gọi là T
1
không gian nếu với hai
điểm khác nhau trong X thì sẽ tồn tại một lân cận của điểm này mà không chứa điểm kia.
Định nghĩa 1.1.8. Không gian topo (X; T ) được gọi là không gian chính quy nếu X
là T
1
không gian và với mọi x 2 X và mọi tập đóng F  X sao cho x =2 F thì tồn tại các
tập mở U sao cho x 2 U và tập mở V sao cho F  V sao cho U \V = ?:
Định lý 1.1.4. Giả sử X là một không gian chính quy và có một cơ sở đếm được. Khi
đó X là metric hóa được tức là tồn tại một metric d trên X sao cho topo sinh bởi d trùng
với topo T .
Định nghĩa 1.1.9. Cho (X


Các x

;  2 I là các thành phần (tọa độ) của phần tử (x

)
2I
. Với mỗi 
0
2 I, ta xét
phép chiếu p

0
: X ! X

0
; cho bởi
Q
2I
X

3 (x

)
2I
! x

0
2 X

0

0
(G

0
) = G

0

Q
6=
0
X

:
Một tập hợp thuộc vào cơ sở của topo tích sẽ có dạng
V =
n
T
i=1
p
1

i
(G

i
);
trong đó G

i

n
X

):
Định lý 1.1.5. Cho ((X
i
; T ))
i2I
là một họ các không gian topo. Nếu I đếm được và
mỗi không gian (X
i
; T
i
) thỏa mãn :
(1) hoặc là khả li,
(2) hoặc là có một cơ sở đếm được,
thì tích (
Q
i2I
X
i
;
Q
i2I
T
i
) cũng vậy.
Luận văn thạc sĩ toán học 4
CHƯƠNG 1. KIẾN THỨC NỀN TẢNG
1.2 Cơ bản về lý thuyết độ đo, tích phân và xác suất

0
; A 2 F
0
:
3. 8fA
n
g
n2N
 F
0
thì [
1
i=1
A
i
2 F
0
.
Định nghĩa 1 .2. 1. 3. Cho không gian  và F là đại số trên : Khi đó (; F) là
không gian đo được, A 2 F gọi là A đo được.
Định nghĩa 1.2 .1 .4. Cho C là lớp các tập trên . Ta nói đại số sinh bởi C là đại
số bé nhất chứa C. Ký hiệu (C):
Định nghĩa 1.2.1.5. Cho hai không gian đo được (
1
; F
1
) và (
2
; F
2

1
; A
2
= 
2
thì 
1
 
2
=
2
Q
i=1

i
là tích của hai không gian 
1
; 
2
:
Nếu A
1
2 F
1
, A
2
2 F
2
thì A
1

):
Định nghĩa 1.2.1.6. Cho C là lớp các tập con trên : Hàm ' xác định trên C và nhận
giá trị số
' : C ! R
8A 2 C; 9!x 2 R : '(A) = x
được gọi là hàm tập nhận giá trị số.
- Hàm tập ' được gọi là hữu hạn khi '(A) < 1; 8A 2 C:
- Hàm tập ' được gọi là không âm nếu '(A)  0; 8A 2 C:
- Hàm tập ' được gọi là cộng tính hữu hạn nếu:
8fA
i
g
i=1;:::;n
 C :A
i
\ A
j
= ? với i 6= j; j = 1; :::; n và
n
P
i=1
A
i
2 C; ta có
'(
n
P
i=1
A
i

i
) =
1
P
i=1
'(A
i
):
- Hàm tập ' được gọi là hữu hạn nếu :
8C 2 C; thì 9!fC
k
g
k2N
 C : [
1
i=1
C
k
= C và '(C
k
) hữu hạn 8k = 1; :::; 1:
Định nghĩa 1.2.1.7. Cho không g ian đo được (; F) và một hàm  xác định trên F
và nhận giá trị [0; 1):  được gọi là độ đo nếu  là cộng tính.
-  được gọi là hữu hạn nếu () < 1.
-  được gọi là cộng tính hữu hạn nếu
8fA
i
g
i=1;:::;n
 F:A

Cho không gian đo được (; F) và  là một độ đo trên (; F):Khi đó (; F; ) được gọi
là không gian có độ đo hay là không gian đo. Khi () = 1 thì (; F; ) được gọi là không
gian xác suất.
Các tính chất :
a) Nếu 9A 2 F sao cho (A) < 1 thì (?) = 0:
b) Tính cộng tính hữu hạn của độ đo.
c) Nếu A; B 2 F và A  B thì (A)  (B):
d) Giả sử  < 1, A; B 2 F và A  B thì (BnA) = (B)  (A).
e) Giả sử  < 1, A; B 2 F thì (A [ B) = (B) + (A)  (A \B):
f) 8fA
n
g
n
 F ta có ([
1
n=1
A
n
) 
1
P
n=1
(A
n
):
Định lý 1. 2. 1.1 . Cho không gian đo (; F; ) và fA
n
g
n2N
đo được. Khi đó ta có

S
n=1
1
T
k=n
A
k
, lim
n!1
sup A
n
=
1
T
n=1
1
S
k=n
A
k
.
Định lý 1.2.1.2. Cho không gian đo (; F; ),  < 1: Nếu A
n
! A khi n ! 1 thì ta
có (A
n
) ! (A):
Định lý 1 .2 .1. 3 (Định lý Borel - C antelli). Cho không gian đo (; F; ); fA
n
g

F; ) là không gian có độ đo đủ.
Định lý 1.2.1.5. Cho (; F), ;  độ đo hữu hạn trên (; F), F
0
là đại s ố trên ;
(F
0
) = F. Nếu  =  trên F
0
thì  =  trên F.
Định lý 1.2.1.6 (Định lý Carathéodory). Cho đại số F
0
trên ; 
0
là hàm tập.

0
: F
0
! [0; 1] thỏa:
1. 
0
là hữu hạn trên F
0
.
2. 
0
là cộng tính trên F
0
.
Khi đó ta có thể nới rộng 

; A =
n
P
k=1
I
k
, trong đó I
k
là một khoảng nửa hở b ên phải
(A) =
n
P
k=1
(I
k
)
thì  là độ đo Lebesgue-Stieltjes trên (F
0
) = B(R):
Luận văn thạc sĩ toán học 7
CHƯƠNG 1. KIẾN THỨC NỀN TẢNG
Định nghĩa 1.2.1.11. Cho (; F); (
0
; F
0
) là hai không gian đo được. Ta nói hàm
f : (; F) ! (
0
; F
0

5. Nếu f 2 L
0
(; F) và (; F; ) là không gian có độ đo đầy đủ. Khi đó f gọi là
đo được.
6. Hợp 2 hàm đo được là đo được, công, trừ, nhân, chia (nếu xác định) của 2 hàm
đo được là đo được.
7. Cho f : (R; B(R)) ! (R; B(R)) liên tục thì f đo được.
Định lý 1. 2. 1. 8. cho f :  ! 
0
. C là lớp các tập con của 
0
. Khi đó
f
1
((C)) = (f
1
(C)):
Định nghĩa 1.2.1.12. Cho không gian (; F; ) đầy đủ. Ta nói P (!) đúng hầu khắp
nơi nếu f! : P (!) không đúng g = 0: Tức là
9N 2 F : (N) = 0; P (!) đúng 8! 2 N
Chú ý :
1. Nếu f 2 L
0
(; F; ) và f = g hầu khắp nơi thì g 2 L
0
(; F; ):
2. Nếu ff
n
g
n2N

i
g; i = 1; :::; n và 1
A
:  ! f0; 1g
1
A
(!) =

1 nếu ! 2 A
0 nếu ! =2 A
:
Định nghĩa 1 .2. 1. 14 . Cho hàm f 2 L
0
(; F; ). Ta có các định nghĩa sau :
1. Nếu f = 1
A
; A 2 F thì
R

fd =
R

1
A
d := (A):
Luận văn thạc sĩ toán học 8
CHƯƠNG 1. KIẾN THỨC NỀN TẢNG
2. Nếu f =
n
P

0
(; F; ) là lớp các hàm không âm đo được.
4. Nếu f 2 L
0
(; F; ). Đặt f
+
= max(f; 0); f

= max(f; 0) ) f = f
+
 f

:Vì thế
ta có
Z

fd =
Z

f
+
d 
Z

f

d:
- Nếu
R


1. Cho f; g 2 L
0
(; F; ), f + g xác định.
R

(f + g)d tồn tại và
R

fd +
R

gd xác
định. Khi đó
Z

(f + g)d =
Z

fd +
Z

gd:
Đặc biệt f; g 2 L
1
(; F; ) thì (f + g) 2 L
1
(; F; ):
2. Cho ff
n
g

a) Nếu g  f
n
8n 2 N,
R

gd > 1 và f
n
"
n
f thì
R

f
n
d "
n
R

fd:
b) Nếu g  f
n
8n 2 N,
R

gd < +1 và f
n
#
n
f thì
R


fd, n ! 1.
Định nghĩa 1.2.1.15. Cho độ đo có dấu (độ đo suy rộng) ; và độ đo  trên (; F).
Ta nói  tuyệt đối liên tục với  (  ) nếu :
(A) = 0 ) (A) = 0; 8A 2 F:
Ta nói độ đo  là độ đo có dấu trên (; F) nếu :  : F ! [1; +1) hoặc (1; +1]
thỏa mãn 2 tính chất :
- (?) = 0:
-  là cộng tính.
Định lý 1.2.1.10. Cho  là độ đo có dấu và  là độ đo trên không gian đo được (; F),
 < 1: Khi đó 2 điều sau đây là tương đương :
a)   :
b) (A
n
) ! 0, n ! 1 thì (A
n
) ! 0, n ! 1.
Luận văn thạc sĩ toán học 9
CHƯƠNG 1. KIẾN THỨC NỀN TẢNG
Định lý 1 .2 .1. 11 (Định l ý Radon - Nikodym). Cho  là độ đo có dấu,  là độ đo
trên (; F): Giả sử ,  < 1,   . Khi đó tồn tại hàm f 2 L
1
(; F; ) sao cho
(A) =
Z
A
fd, 8A 2 F:
Lúc này f được gọi là đạo hàm Radon - Nicodym của  đối với  và viết f =
d
d

i
) và ký hiệu bởi (f
i
; i 2 I) là đại
số bé nhất trên  sao cho tất cả các ánh xạ f
i
đo được.
Hiển nhiên rằng
(f
i
; i 2 I)  (f
1
i
(A
i
); A
i
2 
i
; i 2 I):
Định nghĩa 1.2.2.4. Giả sử (E
i
; 
i
)
i2I
là họ các không gian đo và E là tích Descartes
của các E
i
; E =

i
; i 2 I trong đó
A
i
= E
i
hầu tất cả (trừ một số hữu hạn các i):
Định nghĩa 1.2.2.5. Lớp K các tập con của  được gọi là co mpact nếu đối với dãy
bất kỳ (K
n
)  K mà
1
T
n=1
K
n
= ? thì tồn tại n
0
sao cho
n
0
T
n=1
K
n
= ?.
Nhận xét : Nếu  là không gian topo thì lớp các tập compact của nó thỏa mãn định
nghĩa.
Định lý 1.2.2.1. Giả sử K là lớp compact bất kỳ của . Khi đó lớp nhỏ nhất chứa K
đóng đối với hợp hữu hạn và giao đếm được cũng là lớp compact.

P (B) = sup
A2K
0
AB
P (A), với mỗi B 2 F
0
;
thì P có thể thác triển một cách duy nhất thành một độ đo xác suất trên F và chính quy
đối với K:
Định nghĩa 1.2.2.7. (; F) không gian đo đã cho, R = [1; +1]. Hàm thực X =
X(!) xác định  lấy giá trị trên R gọi là hàm F-đo được hoặc biến ngẫu nhiên suy rộng
nếu
f! : X(!) 2 Bg = X
1
(B) 2 F với mỗi B 2 B(R):
Trong đó B(R) là đại số các tập Borel của trục thực R (tập Borel được trình bày
trong phần 1.4). Thêm vào đó, nếu
X :  ! R = (1; +1):
thì X được gọi là biến ngẫu nhiên.
Định nghĩa 1.2.2. 8 (Hàm Borel). Hàm ' : (R
n
; B(R
n
)) ! (R; B(R)) được gọi là
hàm Borel, nếu nó B(R
n
)đo được, nghĩa là với mỗi B 2 B(R)
'
1
(B) 2 B(R

n1
là dãy các biến ngẫu nhiên xác định trên (; F) và sup
n
X
n
, inf
n
X
n
hữu
hạn trên . Khi đó sup
n
X
n
, inf
n
X
n
, lim X
n
= X (hữu hạn) đều là các biến ngẫu nhiên.
Định lý 1.2.2.3. Giả sử X là biến ngẫu nhiên xác định trên (; F) và Y là ánh xạ
từ  vào R. Lúc đó Y là F-đo được khi và chỉ khi tồn tại hàm Borel ' : R ! R sao cho
Y = ' X.
Định nghĩa 1.2.2.9. Giả sử X là phần tử ngẫu nhiên xác định trên (; F; P ) nhận giá
trị trên (E; ). Hàm tập
P
X
(B) = P (X
1

trên L
1
(; F; P ).
Định lý 1. 2. 2.4 . X 2 L
1
(; F; P ) nếu và chỉ nếu với mọi " > 0 tồn tại  > 0 sao cho
Z
A
jAjdP < "; EjXj < 1= với mọi A 2 F, P (A) < :
Định lý 1.2.2.5. Giả sử X là phần tử ngẫu nhiên từ không gian xác s uất (; F; P ) vào
không gian đo (E; ), P
X
là phân phối xác suất của X trên (E; ), nghĩa là
P
X
(B) = P (X
1
(B)); B 2 :
Khi đó, với mọi hàm thực ' từ E vào R (đo được) ta có
Z
B
'(x)dP
X
(x) =
Z
X
1
(B)
'(X(!))dP (!)
với mọi B 2  theo nghĩa tích phân này tồn tại thì tích phân kia cũng tồn tại và bằng

E'(X) =
Z
R
'(x)dP
X
(x):
1.2.3 Xác suất chuyển và độ đo tích
Định nghĩa 1 .2. 3. 1: Giả sử (
1
; F
1
), (
2
; F
2
) là hai không gian đo. Xác suất chuyển
là hàm P
12
(!
1
; A
2
) xác định trên không gian tích 
1
 F
2
và thỏa mãn :
a) Với !
1
2 

F
1
; P
12
là xác suất chuyển trên 
1
 F
2
. Khi đó, tồn tại xác suất P trên F
1
 F
2
sao cho
P (A
1
 A
2
) =
Z
A
1
P
1
(d!
1
)P
12
(!
1
; A

!
1
(!
2
)
xác định P
1
hầu chắc chắn, F
1
đo được, không âm (hoặc nữa khả tích) và
Z

1

2
XdP =
Z

1
P
1
(d!
1
)
Z

2
P
12
(!

2
) = P
1
(A
1
) P
2
(A
2
), A
1
2 F
1
, A
2
2 F
2
:
Đối với biến ngẫu nhiên bất kỳ X không âm (nửa khả tích) trên
(
1
 
2
; F
1
 F
2
)
ta có
Z

P
2
(d!
2
)
Z

1
P
1
(d!
1
)X
!
2
(!
1
):
Luận văn thạc sĩ toán học 13
CHƯƠNG 1. KIẾN THỨC NỀN TẢNG
1.3 Sự hội tụ của các biến ngẫu nhiên và kỳ vọng có
điều kiện
1.3.1 Sự hội tụ của các biến ngẫu nhiên
Định nghĩa 1.3.1 (Hội tụ theo phân phối). Giả sử (F
i
)
i2N
là một dãy các hàm
phân phối xác suất với các biến ngẫu nhiên (X
i

lim
n!1
P (jX
n
 Xj  ") = 0;
với mọi > 0. Hội tụ theo xác suất được ký hiệu X
n
P
! X: Hội tụ theo xác suất suy ra sự
hội tụ theo phân phối.
Định nghĩa 1.3.3 (Hội tụ hầu như chắc chắn). Ta nói rằng dãy (X
n
) hội tụ hầu
như chắc chắn hay hầu khắp nơi hay với xác suất 1 hay mạnh về X nếu :
P

lim
n!1
X
n
= X

= 1;
điều này tương đương với cách viết
P

f! 2 j lim
n!1
X
n

Hội tụ theo trung bình bậc r, với r > 0, suy ra hội tụ theo xác suất. Còn nếu r > s  1,
thì hội tụ theo trung bình bậc r sẽ suy ra hội tụ theo trung bình bậc s. Do đó hội tụ theo
trung bình dẫn đến hội tụ theo trung bình bình phương.
Luận văn thạc sĩ toán học 14
CHƯƠNG 1. KIẾN THỨC NỀN TẢNG
1.3.2 Kỳ vọng có điều kiện
Định nghĩa 1.3.1. Cho không gian xác suất (; F; P ), < là trường con của F khi
đó kỳ vọng có điều kiện của biến ngẫu nhiên X  0 đối với F là biến ngẫu nhiên suy rộng
không âm
E(Xj<) :  ! [0; 1]
sao cho
(i) E(Xj<) là < đo được.
(ii) Với mọi A 2 <
Z
A
XdP =
Z
A
E(Xj<)dP:
Tính chất :
1. Nếu X là <đo được thì E(Xj<) = X. Đặc biệt, nếu c là hằng số thì E(cj<) = c:
2. Nếu X  Y thì E(Xj<)  E(Y j<). Đặc biệt, ta có bất đẳng thức
jE(Xj<)j  E(jXj j<):
3. Nếu a; b 2 R thì E((aX + bY )j<) = aE(Xj<) + bE(Y j<).
4. E[E(Xj<)] = EX:
5. Nếu (X) và < độc lập thì E(Xj<) = EX: Đặc biệt nếu X; Y độc lập thì E(XjY ) =
EX:
6. Nếu <
1
 <

E(jX
n
 Xjj<) = 0 hầu chắc chắn
10. Nếu X
n
 Y , EY > 1; thì
E( lim
n!1
inf X
n
j<)  lim
n!1
inf E(X
n
j<) hầu chắc chắn.
11. Nếu X
n
 Y , EY < 1; thì
E( lim
n!1
sup X
n
j<)  lim
n!1
sup E(X
n
j<) hầu chắc chắn.
Luận văn thạc sĩ toán học 15
CHƯƠNG 1. KIẾN THỨC NỀN TẢNG
12. Nếu X

a
2
:
a) Bất đẳng thức Holder. Cho X 2 L
r
(; F; P ), Y 2 L
s
(; F; P ), trong đó r; s là
các số sao cho 1 < r < 1; 1=r + 1=s = 1 thì
E(jXY j j<)  [E(jXj
r
j<)]
1=r
:[E(jY j
s
j<)]
1=s
:
b) Bất đẳng thức Minkowski. Nếu X; Y 2 L
r
(; F; P ); 1  r thì
E(jX + Y j
r
j<)  [E(jXj
r
j<)]
1=r
+ [E(jY j
r
j<)]

). Nếu (X) = 1 Khi đó  được gọi là một độ đo xác suất Borel.
Luận văn thạc sĩ toán học 16
CHƯƠNG 1. KIẾN THỨC NỀN TẢNG
Cho (X; d) là không gian metric và ta đặt
C
b
(X) := ff : X ! R : f là liên tục và bị chặn g
Với mỗi f 2 C
b
(X) là khả tích tương ứng với bất kỳ độ đo Borel hữu hạn trên X.
Định nghĩa 1.4.3. Cho ; 
1
; 
2
; ::: là độ đo Borel hữu hạn trên X. Ta nói rằng (
i
)
i
hội tụ yếu tới  nếu
R
fd
i
!
R
fd
khi i ! 1 với mọi f 2 C
b
(X): Ta ký hiệu 
i
) .

; ) ! 0 suy ra 
i
) .
Định lý 1.4.3. Nếu (X; d) là không gian metric tách được, khi đó cho ; 
1
; 
2
; ::: 2
P (X), ta có

i
)  , d
p
(
i
; ) ! 0:
Định lý 1.4.4. Nếu (X; d) là không gian metric tách được, khi đó không gian (P (X); d
p
)
là không gian metric tách được.
Định lý 1.4.5. Một độ đo Borel hữu hạn  trên X cơ sở chặt nếu 8" > 0 tồn tại một
tập compact K  X sao cho (XnK) < " tức là (K)  (X) ". Nếu  là độ đo Borel
hữu hạn chặt trên X khi đó
(A) = supf(K) : K  A; K compactg
với mọi tập Borel A trên X.
Định lý 1.4.6. Nếu (X; d) là môt không gian metric đầy đủ tách được, khi đó mọi độ
đo Borel hữu hạn trên X là chặt.
Định nghĩa 1.4.5. Tập hợp  các độ đo xác suất Borel trên X được gọi là chặt hay
thỏa điều kiện Prokhorov nếu với mọi " > 0 tồn tại tập con compact K
"

P (x; dy) j(y)j  jj
1
= sup
x2X
j(x)j
 Cho  là một độ đo xác suất trên (X; B(X)). Khi đó với mọi A 2 B(X) ta định ng hĩa
P
P (A) =
Z
X
(dx)P (x; A);
ta dễ dàng thấy P là một độ đo xác suất.
 Với bất kỳ độ đo  và bất kỳ hàm bị chặn ; ta có:
P  =
Z
X
Z
X
(dx)P (x; dy)(y) = P [] = [P ];
trong đó với bất kỳ độ đo ; [] =
R
X
(dx)(x):
b) Hạt nhân xác suất chuyển trên không gian trạng thái rời rạc
 Cho X = fx
0;
x
1
; :::g là rời rạc (có thể là tập hữu hạn hoặc vô hạn đếm được) và cho
B(X) là họ các tập con của X:

X
x2X
(fxg)P (x; y)
 Cho Q
1
và Q
2
là 2 hạt nhân xác suất chuyển Markov. Ta định nghĩa, với bất kỳ x 2 X
và A 2 B(X) tích các hạt nhân Q
1
Q
2
là
Q
1
Q
2
(x; A) =
Z
X
Q
1
(x; dy)Q
2
(y; A)
 Khi không gian trạng thái X là rời rạc, tích của các hạt nhân chuyển Markov trùng
với tích các ma trận.
c) Hạt nhân lặp và phương trình Chapman-Kolmogorov
 Đặt P
0

P
m
(x; dy)P
nm
(y; A), x 2 X, A 2 B(X)
d) Định l ý Lonescu-Tulcea
Với độ đo ban đầu cho trước  trên B(X) và họ các hạt nhân xác suất chuyển P =
fP
k
(x; A); x 2 X; A 2 B(X)g. Với bất kỳ n > 0 và bất kỳ A
0
2 B(X); A
n
2 B(X)
P
(n)

[A
0
 A
1
 ::: A
n
] =
Z
A
0
Z
A
1

Luận văn thạc sĩ toán học 19
CHƯƠNG 1. KIẾN THỨC NỀN TẢNG
 P
(n)

định nghĩa là độ đo xác suất trên 
n
= (X
n
;
n
W
i=1
B(X)):
 P
(n)

=
R
P
(n)
x
(dx):
 Cho m < n, phép chiếu P
(n)

trên 
n
là bằng P
(m)

i=1
B(X)) có phép chiếu trên 
n
trùng với P
(n)

:
e) Định nghĩa cơ bản về Xích Markov
Cho X
n
; n  0 là dãy biến ngẫu nhiên trên (X; B(X)); Q = (Q
k
; k  0) là họ hạt nhân
chuyển trên (X; B(X)) và  là một xác suất của (X; B(X)). Ta nói rằng X = (X
n
; n  0)
là xích Markov trên (X; B(X)) với hạt nhân chuyển Q và phân phối  ban đầu cho trước
nếu
1. Luật (luật phân phối) của X
0
là .
2. Bất kỳ hàm bị chặn ;
E[(X
n+1
)jF
n
] = Q
n
(X
n

);
E[(X
n+p
)] = Q
1
:::Q
n+p1
[]
Khi Xích Markov là thời gian thuần nhất,
E[(X
n+p
)jF
n
] = Q
p
(X
n
):
 Theo tính chất Markov ta suy ra với bất kỳ n và hàm bị chặ n 
0
; :::; 
n
; ta có
E[(X
n+1
)
n
Q
k=0


n
; ta có
P

(X
0
= x
0
; X
1
= x
1
; :::; X
n
= x
n
) = (x
0
)P (x
0
; x
1
):::P (x
n1
; x
n
)
= P
(n)


Q
k=0

k
(x
k
)](x
n+1
)(x
0
)P (x
0
; x
1
):::P (x
n
; x
n+1
)
=
P
x
0
;:::;x
n
[
n
Q
k=0


Q
k=0

k
(X
k
)]
và (X
k
; k  0) là xích Markov thời gian thuần nhất với phân bố xác suất ban đầu  và
hạt nhân xác suất chuyển P:
 Định lý : Cho dãy (X
n
; n  0) là một xích Markov với ma trận xác suất chuyển Q và
phân bố xác suất ban đầu cho trước  nếu và chỉ nếu với bất kỳ n  0, phân bố của vector
ngẫu nhiên (X
0
; X
1
; :::; X
n
) trên 
n
trùng với P
(n)

:
f) Phân bố bất biến và tính dừng
 Một độ đo hữu hạn trên B(X) với tính chất
(A) =

X
(dx)P (x; dw)

P (w; A)
=
R
X
(dx)
R
X
P (x; dw)P (w; A)
=
R
X
(dx)P
2
(x; A)
:::
=
R
X
(dx)P
n
(x; A) = P

(
n
2 A):
 Ta xét P


n1
(x; dw)P (w; A)
=
R
X


(dw)P (w; A):
Vì thế nếu giới hạn 

tồn tại, thì giới hạn này sẽ là độ đo xác suất bất biến và nếu 

là duy nhất thì sẽ không phụ thuộc vào .

Luận văn thạc sĩ toán học 22