Website: http://www.docs.vn Email : [email protected] Tel : 0918.775.368
LỜI MỞ ĐẦU
Trong nghiên cứu và xử lý thống kê chuỗi thời gian nhiều chiều, mô hình
tự hồi quy là lớp mô hình được nghiên cứu sâu sắc và toàn diện nhất. Việc
nghiên cứu và xây dựng lớp mô hình này nhận được sự quan tâm của nhiều
tác giả và đã thu những kết quả có giá trị cho dù đây là mô hình tương đối
phức tạp. Dưới sự hướng dẫn của thầy giáo Tống Đình Quỳ cùng với sự mong
muốn và nổ lực của bản thân tác giả đã tìm hiểu, nghiên cứu mô hình này và
tiếp cận với phương pháp ước lượng tham số của mô hình đó do Bradley W.
Dickinson đưa ra năm 1979. Đây là một phương pháp hay và thực sự nó đã
thúc đẩy tác giả rất nhiều trong bước đầu nghiên cứu của mình cũng như đi
đến quyết định chọn đề tài cho đồ án tốt nghiệp Phương pháp Bradley W.
Dickinson ước lượng tham số trong mô hình tự hồi quy nhiều chiều.
Nghiên cứu đề tài này trước hết giúp chúng ta có thể hiểu sâu hơn về mô
hình tự hồi quy nhiều chiều, một mô hình được sử dụng nhiều trong thực tế,
tìm hiểu các phương pháp ước lượng tham số cho mô hình, đặc biệt là phương
pháp của tác giả Dickinson. Khi đã xây dựng được mô hình, trong những
trường hợp thực tế cụ thể, ta có thể dùng nó để kiểm tra một số giả thiết hay
lý thuyết về cơ chế đã sinh ra mô hình, xây dựng những quyết định điều khiển
cho quá trình, phân tích và đánh giá để đưa ra những điều chỉnh hợp lý hay dự
báo các kết quả tương lai cho quá trình đó.
Nội dung chính của đồ án được trình bày trong 3 chương. Ở chương 1,
trong phần đầu tiên sẽ giới thiệu khái quát về chuỗi thời gian một chiều và các
khái niệm liên quan đến quá trình tự hồi quy một chiều. Phần tiếp theo sẽ
trình bày rõ về quá trình tự hồi quy nhiều chiều, xem xét nó như là một sự mở
Website: http://www.docs.vn Email : [email protected] Tel : 0918.775.368
rộng của quá trình dừng tự hồi quy một chiều và các đặc trưng của nó để làm
cơ sở cho việc ước lượng tham số của mô hình trong những phần sau.
Với giả thiết chuỗi thời gian quan sát của chúng ta được cảm sinh bởi
một quá trình tự hồi quy nhiều chiều cấp
p

MỤC LỤC
Lời giới thiệu …………………………………………………………… 1
1 Quá trình tự hồi quy nhiều chiều ……...……………………………… 6
1.1 Chuỗi thời gian và quá trình tự hồi quy một chiều ............……….. 6
1.1.1 Khái niệm chuỗi thời gian ………………………..………………. 6
1.1.2 Quá trình dừng ngẫu nhiên dừng ………………………………….. 7
1.1.3 Định nghĩa quá trình tự hồi quy một chiều ………………………... 8
1.1.4 Các đặc trưng của quá trình dừng tự hồi quy một chiều …………. 9
1.1.5 Về nhận dạng mô hình ARIMA tổng quát và ước lượng tham số của
mô hình tự hồi quy một chiều …………………………………… 10
1.2 Quá trình tự hồi quy nhiều chiều …….………….….…….……… 11
1.2.1 Quá trình quy tâm dừng ……………..…………….………….…. 13
1.2.2 Định nghĩa quá trình tự hồi quy nhiều chiều …………………….. 13
1.2.3 Hàm tự hiệp phương sai của một quá trình dừng …….………….. 15
1.2.4 Hệ phương trình Yule-Walker cho trường hợp nhiều chiều ..…… 16
2 Ước lượng tham số trong mô hình tự hồi quy nhiều chiều ………… 20
2.1 Hàm tự hiệp phương sai riêng của một quá trình dừng …….……. 21
2.2 Phương pháp Durbin-Levinson ước lượng tham số trong mô hình tự
hồi quy nhiều chiều …………………………………………..….. 23
Website: http://www.docs.vn Email : [email protected] Tel : 0918.775.368
2.2.1 Phương pháp Durbin-Levinson cho trường hợp một chiều .…..… 23
2.2.2 Phương pháp Durbin-Levinson cho trường hợp nhiều chiều ……. 24
2.2.3 Nhận xét và kết luận …...………………………………………… 29
2.3 Các phương pháp khác ước lượng tham số trong mô hình tự hồi quy
nhiều chiều ………………………………….………………...… 30
2.3.1 Phương pháp bình phương tối thiểu …..…………………………. 30
2.3.2 Phương pháp R. H. Jones …...…………………………………… 31
2.3.3 Giới thiệu một số phương pháp khác …………………….……… 33
3 Phương pháp Bradley W. Dickinson ước lượng tham số của mô hình
tự hồi quy nhiều chiều …………………………………………...…… 40

Χ
được sắp xếp theo thứ tự thời gian.
)1(
Χ
là giá trị
quan sát ở thời điểm đầu tiên,
)2(
Χ
là giá trị quan sát ở thời điểm thứ hai,
còn
)(N
Χ
là giá trị quan sát ở thời điểm thứ
N
(và cũng là thời điểm cuối
cùng). Trong khi phương pháp thống kê cổ điển thường sử dụng các số liệu
quan sát được giả thiết là độc lập thì trong chuỗi thời gian các chuỗi quan sát
Website: http://www.docs.vn Email : [email protected] Tel : 0918.775.368
thường mất tính độc lập. Ở đây giá trị quan sát
)(t
Χ
tại thời điểm
t
phụ
thuộc ít nhiều vào giá trị quan sát
)1(
−Χ
t
tại thời điểm
1

Ζ∈Χ
tt ),(
là một quá trình ngẫu nhiên có phương sai hữu hạn thì
hàm tự hiệp phương sai của
{ }
)(t
Χ
được định nghĩa bởi
( ) ( )( )
[ ]
)()()()()(),(Cov:),(γ ssrrsrsr
ΕΧ−ΧΕΧ−ΧΕ=ΧΧ=
với
Ζ∈
sr,
.
Định nghĩa 1.1.2 ( Quá trình dừng ) [1, tr.40]
Chuỗi thời gian
{ }
Ζ∈Χ
tt ),(
được gọi là một quá trình dừng nếu nó thoả
mãn các điều kiện

Ζ∈∀∞<ΧΕ
tt ,)(
2
,

Ζ∈∀=ΧΕ

là một quá trình dừng với hàm tự hiệp phương sai
(.)γ

thì hàm tự tương quan của
{ }
)(t
Χ
được định nghĩa là
( )
Ζ∈∀Χ+Χ==
kttktkk , ,)(),(Corr:)0(γ/)(γ:)(ρ
.
Định lý 1.1.1 [1, tr.45]
Nếu
{ }
Ζ∈Χ
tt ),(
là một quá trình dừng, và nếu
Ζ∈∈
ia
i
R,
thoả mãn điều
kiện
∞<
∑
∞
−∞=
i
i

≠
p
a
. (1.1)
Website: http://www.docs.vn Email : [email protected] Tel : 0918.775.368
Ta cũng có thể viết biểu thức trên dưới dạng
)(ε)()( tta
=ΧΒ
,
với
Β
là toán tử lùi được định nghĩa theo hệ thức
)1(:)(
−Χ=ΒΧ
tt
, còn
)(
Β
a
là đa thức toán tử định nghĩa bởi
0 ,...1:)(
2
21
≠−−−−=
p
p
p
azazazaza
.
Ở đây

thì khi đó
{ }
Ζ∈Χ
tt ),(
được gọi là quá trình nhân quả tự hồi qui cấp
p
, đảm
bảo tính khả đảo của đa thức toán tử
)(
Β
a
và từ nay về sau nếu không nói gì
thêm thì chúng ta chỉ xét các quá trình nhân quả này.
1.1.4 Các đặc trưng của quá trình tự hồi quy một chiều
Từ định nghĩa của một quá trình tự hồi quy ta có thể chứng minh được
các tính chất sau:
i.
0)(
=ΕΧ
t
ii.
∑
=
+=
p
j
j
ja
1
2




−−
−−
−−
−−
1)1(ρ...)2(ρ)1(ρ
)1(ρ1...)3(ρ)2(ρ
...............
)2(ρ)3(ρ...1)1(ρ
)1(ρ)2(ρ...)1(ρ1
pp
pp
pp
pp















p
p
a
a
a
a
p
p
. (1.2)
Hệ phương trình này gọi là hệ phương trình Yule-Walker, song tuyến đối
với
a
và
ρ
, nghĩa là nếu cho
ρ
sẽ tính được
a
và ngược lại. Một chú ý là
hệ phương trình này đóng vai trò rất quan trọng trong việc ước lượng các
tham số của mô hình tự hồi quy một chiều.

1.1.5 Về nhận dạng mô hình ARIMA tổng quát và ước lượng tham số
của mô hình tự hồi quy một chiều
Giả sử thực tế cho ta một chuỗi quan sát
)(..., ),2(),1( N
ΧΧΧ
, đó cũng
là dữ liệu duy nhất mà chúng ta có, khi đó ta cần xây dựng các công thức, thủ
tục để nhận dạng mô hình ARIMA

)( p

chính là mô hình ARIMA
),,( qdp
khi
0 ,0
==
qd
.
Với mục đích tìm hiểu và nghiên cứu về mô hình tự hồi quy nên khi có
một chuỗi quan sát
)(..., ),2(),1( N
ΧΧΧ
, ta giả sử rằng chúng được cảm
sinh bởi một quá trình tự hồi quy AR
)( p
nào đó với
p
đã biết. Công việc
còn lại là phải tìm cách ước lượng được các tham số của mô hình đó. Có rất
nhiều phương pháp ước lượng đã tỏ ra hiệu quả đối với mô hình tự hồi quy
một chiều như thuật toán Durbin-Levinson [3], thuật toán J. P. Burg [3], thuật
toán B. W. Dickinson [4] và đặc biệt là ước lượng hợp lý cực đại của S. T.
Kay [5]
1.2 QUÁ TRÌNH TỰ HỒI QUY NHIỀU CHIỀU
Trong phần trước chúng ta đã nhắc lại những khái niệm cơ bản nhất liên
quan đến chuỗi thời gian một chiều và hiểu thế nào là một quá trình tự hồi
quy cũng như việc ước lượng tham số trong mô hình tự hồi quy một chiều.
Tuy nhiên, trong thực tế, để có những đánh giá toàn diện và chính xác về một
đối tượng quan sát nào đó, nhiều khi chúng ta không thể dùng một chỉ số mà

j
Χ
)( ji
≠
của quan sát
)(Χ t
nên việc nghiên cứu một cách riêng
rẽ
d
chuỗi thời gian
{ }
)(t
k
Χ

) ..., 1,( dk =
sẽ cho kết quả không chính xác.
Website: http://www.docs.vn Email : [email protected] Tel : 0918.775.368
Do đó các mô hình toán học mô tả thích hợp các chuỗi thời gian trong trường
hợp nhiều chiều sẽ phức tạp hơn nhiều so với trường hợp một chiều.
Cũng như trong trường hợp một chiều, mô hình tự hồi quy nhiều chiều
đóng một vai trò rất quan trọng trong việc mô hình hoá và xấp xỉ một chuỗi
thời gian nhiều chiều. Mô hình này cũng được ứng dụng rộng rãi hiện nay,
đặc biệt trong lĩnh vực kinh tế khi phân tích và dự báo các chỉ số kinh tế phụ
thuộc vào nhiều nhân tố khác nhau.
Đối với quá trình ngẫu nhiên nhiều chiều, khi nói đến chuỗi các véc tơ
ngẫu nhiên
( )
Τ
ΧΧ=

chúng ta thường chỉ hay quan tâm đến quá trình quy tâm và trong báo cáo này
chúng ta cũng chỉ xét các quá trình quy tâm.
Như đã nói ở trên, chúng ta sẽ tìm cách tiếp cận quá trình tự hồi quy
nhiều chiều như là một sự mở rộng của quá trình tự hồi quy một chiều. Nhưng
trước khi có định nghĩa chính xác quá trình này chúng ta sẽ tìm hiểu những
khái niệm cơ bản nhất liên quan đến một quá trình ngẫu nhiên nhiều chiều.
1.2.1 Quá trình quy tâm dừng
Định nghĩa 1.2.1 ( Quá trình quy tâm dừng ) [9, tr.15]
Quá trình
{ }
Ζ∈Χ
tt ),(
, với
)(t
Χ
là véc tơ ngẫu nhiên trong không gian
d
R
, được gọi là một quá trình quy tâm dừng bậc hai nếu nó thoả mãn
Website: http://www.docs.vn Email : [email protected] Tel : 0918.775.368

{ }
0)(X
=Ε
t
,

{ }
2
),( ),R()(Χ)(Χ

thời điểm, khi đó ma trận hiệp phương sai
U
không phải là ma trận chéo.
Quá trình tự hồi quy nhiều chiều được định nghĩa thông qua
)(ε t
và các quan
sát trước đó.
Định nghĩa 1.2.2 ( Quá trình tự hồi quy ) [9, tr.16]
Quá trình quy tâm dừng
Ζ∈
tt ),(Χ
được gọi là quá trình tự hồi quy cấp
p
, kí hiệu là AR
)( p
, nếu nó có thể được biểu diễn dưới dạng
∑
=
=−
p
j
tjtj
0
)(ε)(Χ)(Α
. (1.3)
Ở đây
pjj ,...,1),(Α
=
là các ma trận vuông cấp
d

)(Α)(Α
gọi là ma trận đa thức đặc trưng (tương ứng với toán tử AR).
Định lý 1.2.1 [9, tr.16-17]
Cho
)(Α..., ),1(Α p
là các ma trận sao cho đa thức đặc trưng
)(Α z

không có nghiệm có mô đun nhỏ hơn hoặc bằng
1
và
Ζ∈
tt ),(ε
là chuỗi véc
tơ ngẫu nhiên độc lập cùng phân phối. Khi đó tồn tại một quá trình tự hồi quy
dừng duy nhất có các ma trận hệ số tự hồi quy là
)(Α..., ),1(Α p
cùng với
Ζ∈
tt ),(ε
là quá trình nhiễu sao cho
∑
∞
=
−=
0
)(ε)(C)(Χ
j
jtjt
,

1
.
Nhận xét
Ma trận
)(C j
trong khai triển Taylor
∑
∞
=
−=
0
)(ε)(C)(Χ
j
jtjt
có thể tính
được xuất phát từ các ma trận
)(Α..., ),1(Α p
theo công thức
Website: http://www.docs.vn Email : [email protected] Tel : 0918.775.368
∑
=
=≥−−=
),min(
1
Ι)0(C ,1 ),(C)(Α)(C
pk
j
kjkjk
.
Chú ý

... ,1 ,0 ,1..., ,
)(R)(R
)(R)(R
)R(
1
111
−=










=
s
ss
ss
s
ddd
d



Số hạng
{ }
)()()(R stts

Χ+ΧΕ=
{ }
)(R)()( sstt
jiij
=−ΧΧΕ=
,
suy ra
)(R)(R ss
Τ
=−
.
1.2.4 Hệ phương trình Yule-Walker cho trường hợp nhiều chiều
Khi tìm hiểu về ước lượng tham số trong mô hình tự hồi quy một chiều,
chúng ta đã biết vai trò hết sức quan trọng của hệ phương trình Yule-Walker.
Để làm cơ sở cho việc ước lượng tham số trong mô hình tự hồi quy nhiều
chiều, trong phần này ta sẽ tìm cách xây dựng hệ phương trình Yule-Walker
cho trường hợp nhiều chiều.
Định lý 1.2.2 [9, tr.21]
Hàm tự hiệp phương sai của một quá trình tự hồi quy cấp
p
với các ma
trận hệ số tự hồi quy
)(Α..., ),1(Α p
và quá trình nhiễu
Ζ∈
tt ),(ε
có ma trận
hiệp phương sai
U
được xác định theo hệ phương trình Yule-Walker như sau