01/16/14 1
tham số giải thích của mô hình
biến nội suy
biến ngoại suy
biến ngẫu nhiên
E(ε)
Var(ε)
tham số ẩn
của mô hình
ikikiii
xxxy
εββββ
+++++=
ˆ

ˆˆˆ
33221
mô hình hồi quy tuyến tính bội
01/16/14 2
Mô hình hồi qui tổng thể
Mô hình hồi qui mẫu
Theo dạng thông thường
Theo dạng ma trận
Dạng kỳ vọng
Dạng ngẫu nhiên
Mô hình hồi qui bội

Thế nào là mô hình hồi qui bội?
Mô hình hồi qui bội là mô hình trong
đó biến phụ thuộc phụ thuộc vào ít
nhất hai biến giải thích.

κ
với i = 1, ,n
ikikiii
xxxy
εββββ
+++++=
ˆ

ˆˆˆ
33221
01/16/14 4
n,1iXX)XY(E
kiki221i
=∀β++β+β=

Hay
n,1i uXXY
ikiki221i
=∀+β++β+β=

Hay được biểu diễn một cách tường minh như sau







+β++β+β=
+β++β+β=

221
=∀++++=
εβββ








++++=
++++=
++++=
nknknn
kk
kk
XXY
XXY
XXY
εβββ
εβββ
εβββ




221
2222212
1121211










=

































=
n
i
k
i
knnn
kiii
k
k
n
i
xxx
xxx
xxx
xxx
X
y
y

2
1
32
32
23222
13121
2
1
( ) ( ) ( ) ( )
1,1,,1, nkkn
X
n
Y
εβ
+=
01/16/14 7
Ví dụ :
Y =
X =
β =
β
1
β
2
β
3
β
4
1
1

,
β
β
2
2
,…
,…
β
β
k
k
có thể được thực hiện bằng phương pháp BPBN
có thể được thực hiện bằng phương pháp BPBN
Mô hình hồi quy tuyến tính bội
01/16/14 9
Nguyên tắc hình học của phương pháp bình phương tối thiểu
x
1
x
2
y
y
i
β
1
x
1i
+ β
2
x

tuân theo quy luật phân phối chuẩn, Sai số tuân theo N(0, σ
2
)
[H6] : đầu tiên ta không có tý thông tin nào về những tham số β
1
, β
2
,…, β
κ

Mô hình hồi quy tuyến tính bội
[H5]1/n(X’X)->M ở đây M là ma trận không suy biến
01/16/14 11
STT Theo dạng thông thường Theo dạng ma trận
1
E(ε)=0 ∀I E(ε) = 0
2
E(ε
i
ε
j
) = 0 ∀i ≠j
= σ
2
∀i=j
E(εε
T
) = σ
2
I

0
)(

)(
)(

)(
2
1
2
1
=












=






ε
ε
ε
ε
ε
01/16/14 13
Giả thiết 2
[ ]














=








EuuuEE
εεεεε
εεεεε
εεεεε
ε
ε
ε
εε

















=
)()()(

)()()(
)()()(

'
100
010
001
00
00
00
)(
σσ
σ
σ
σ
εε
=












=















=
)()()(

)()()(
)()()(
)(
2
21
2
2
221
121
2
1
'
nnn
n
n
EEE

)()()(
)(
2
21
2
2
221
121
2
1
'
nnn
n
n
EEE
EEE
EEE
E
εεεεε
εεεεε
εεεεε
εε




01/16/14 16
Phương sai
của các sai sô
Hiệp phương














=Ω




01/16/14 17
Hậu quả của những giả thiết
Vecteur kỳ vọng
toán hoặc trung bình
Vecteur ngẫu nhiên ε là một vecteur tuân theo phân phối chuẩn, và :
ma trận
hiệp phương sai
Y laì một vecteur ngẫu nhiên tuân theo
quy luật phân phối chuẩn, và :
( )
β
XYE

để có S nhỏ nhất:
( ) ( )
MinSXYXYMineMineeMin
n
t
t
=−−==
∑
=
ββ
'
1
2
'
Mô hình hồi quy tuyến tính bội
01/16/14 19
ước lượng những tham số - 2
Kết quả của phương pháp bình phương tối thiểu
Kết quả của phương pháp bình phương tối thiểu
Ước lượng bằng phương pháp bình phương tối thiểu :
Người ta chứng minh :
có phương sai nhỏ nhât : đó là ước lượng BLUE (Best Linear Unbiased Estimator)
là một đó là ước lượng hội tụ của β
nhưng
nhưng
σ
σ
2
2
(

EXECO.GNP 0.689021 0.064034 10.7602 0.0000
EXECO.CPI -9.548226 1.137803 -8.3918 0.0000
EXECO.Rate -4.211399 2.296132 -1.8341 0.0938

R-SQ. (ADJ.) = 0.9908 SE= 11.289098 MAE= 8.200200 DurbWat= 1.917
ước lượng những tham số
Mô hình hồi quy tuyến tính bội
01/16/14 21
ước lượng những tham số - 3
ước lượng
ước lượng
σ
σ
2
2
(
(
ε
ε
)
)
Từ ước lượng a, ta có thể tính được ước lượng Y :
Sai số có thể được ước lượng bởi :
Từ đó có thể ước lượng được:
aXY
ˆ
ˆ
=
( )
( )

σ
( )
( )
eXXXXIee
i
n
i
'''
1
2
1
−
=
−=
∑
( )
2
1
2
1
ˆ
i
n
i
e
kn
∑
=
−
=

−
=Ω
XX
ε
β
σ
Mô hình hồi quy tuyến tính bội
01/16/14 23
ước lượng những tham số - 5
Quy luật phân phối xác suất
Quy luật phân phối xác suất
Theo giả thiết [H4], ta có :
Neu
Ơí đây Mii là thành phần ở vị trí thứ I ở đường chéo chính của ma trận

















Mô hình hồi quy tuyến tính bội
( )
i
ii
N
β
σββ
ˆ
,~
ˆ
( )
i
ii
N
β
ββ
ˆ
,~
ˆ
Ω
ii
M
i
2
ˆ
ε
β
σσ
=
i

*
ˆ
+−
( ) ( )






−−
εε
σ
χ
σ
χ
ˆ
;
ˆ
2
1
2
2
knkn
01/16/14 25
Ví dụ :
95 percent confidence intervals for coefficient estimates

Estimate Standard error Lower Limit Upper Limit
CONSTANT 357.189 42.7337 263.108 451.270