1. Mô hình hồi quy tuyến tính
Xem xét sự phụ thuộc của Y (biến phụ thuộc) vào các biến độc lập X
2
, X
3
,…, X
k
dưới dạng tuyến
tính, ta có
Hàm hồi quy tổng thể (PRF)
E(Y/X
2
, X
3
, , X
k
) =
kk
XX
βββ
+++
221
Mô hình hồi quy tổng thể (PRM)
Y =
uXX
kk
++++
βββ

221
Sử dụng thông tin từ mẫu ta xây dựng được

là ước lượng điểm của các hệ số hồi quy với 1 mẫu cụ thể
),1(
ˆ
kj
j
=
β
là thống kê ước lượng (1 biến ngẫu nhiên đặc trưng) của các hệ số hồi quy với 1 mẫu ngẫu
nhiên
u : sai số ngẫu nhiên (sai số giữa giá trị cá biệt của Y và giá trị trung bình E(Y/X
2
, X
3
, , X
k
) trong tổng thể)
e : phần dư (residual – sai số giữa giá trị cá biệt/thực tế của Y và giá trị ước lượng trong hồi quy,
Y
ˆ
trong
mẫu quan sát)
• Ý nghĩa của các hệ số:
1
β
là hệ số chặn, là giá trị trung bình của biến phụ thuộc khi các biến độc lập trong mô hình
nhận giá trị bằng 0.
),2( kj
j
=
β

j
)
11
2. Phương pháp ước lượng bình phương nhỏ nhất (OLS)
Để ước lượng 1 hồi quy mẫu tuyến tính với 1 mẫu quan sát cụ thể, phương pháp được sử dụng phổ
biến nhất hiện nay là phương pháp bình phương nhỏ nhất OLS với tiêu chuẩn ước lượng:
∑
=
n
i
i
e
1
2
 min
Giá trị này được gọi là Tổng bình phương phần dư (Residual Sum of Squares – RSS hoặc Sum squared
residual)
e
i
Y
X
SRF
Y
i
i
Y
ˆ
X
i
• Các giả thuyết cơ bản của phương pháp OLS:

σ
=
j
Xu
Giả thiết 3: Phương sai sai số ngẫu nhiên là thuần nhất/đồng đều/không thay đổi tại
mọi giá trị X
i
2
)var(
σ
=
ji
Xu
hoặc
i
∀
với
Giả thiết này thỏa mãn sẽ đảm bảo phương sai và sai số chuẩn của các ước lượng (
)
ˆ
var(
j
β
và
)
ˆ
(
j
se
β

).(
−
XX
T
Tồn tại ma trận
Giả thiết 5: Sai số ngẫu nhiên u, điều kiện X, có phân phối chuẩn độc lập
),0(~, ,
2
2
σ
NXXu
kii
Giả thiết này được thỏa mãn sẽ đảm bảo các ước lượng OLS cũng có phân phối chuẩn và có thể áp dụng bài
toán suy diễn thống kê để phân tích các hệ số hồi quy
Trong nội dung của giả thiết 5, bao gồm cả thông tin không tồn tại tự tương quan giữa các sai số ngẫu nhiên
(đề cập trong mục 8)
sj
≠∀

0),(
=
sj
uu
ρ
với
Giả thiết 6: Không tồn tại tự tương quan giữa các sai số ngẫu nhiên
Trên thực tế nội dung của giả thiết này thường được các nhà kinh tế lượng lồng ghép trong nội dung của giả
thiết 5 như đã trình bày ở trên.
Giả thiết này thỏa mãn sẽ đảm bảo phương sai của các ước lượng OLS không bị ước lượng chệch. Thông
thường khi giả thiết bị vi phạm sẽ dẫn tới các

) = 22180.83

=
)
ˆ
S.E(
ˆ
1
1
β
β
-0.979116
0.3413
K (
2
β
)
2
ˆ
β
=10751.92 S.E(
2
ˆ
β
) = 2165.515
=
)
ˆ
S.E(
ˆ

R
2
= 0.715471
Mean dependent var 109468.7
Adjusted R-squared
=
2
R
0.681997
S.D. dependent var 57734.42
S.E. of regression 32557.46 Akaike info criterion 23.75688
Sum squared resid. 1.80E+10 Schwarz criterion 23.90624
(Tổng bình phương phần dư)
Log likelihood -234.5688 F-statistic 21.37391
Durbin-Watson stat 2.289076 Prob(F-statistic) 0.000023
• Các kiểm định chuẩn đoán sự vi phạm các giả thiết OLS của mô hình hồi quy
44
Breusch-Godfrey Serial Correlation LM Test: (Kiểm tra hiện tượng tự tương quan – giả
thiết 6)
F-statistic
Fqs = 0.656872
Probability 0.429557
Obs*R-squared
χ
2
qs

=

0.788709

Normality test (Kiểm tra u có phân phối chuẩn – giả thiết 5)
Jarque – Bera
χ
2
qs

=24.71516
Probability 0.000004
• Mô hình hồi quy tuyến tính với các biến logarith:
uLKY +++= )ln()ln()ln(
321
βββ
Dependent Variable: LOG(Y)
Method: Least Squares
Date: 12/19/12 Time: 11:50
Sample: 1 20
Included observations: 20
Variable Coefficient Std. Error t-Statistic Prob.
C 9.770251 0.228568 42.74543 0.0000
LOG(K) 0.523699 0.093755 5.585820 0.0000
LOG(L) 0.693005 0.140540 4.931025 0.0001
R-squared 0.781422 Mean dependent var 11.45945
Adjusted R-squared 0.755707 S.D. dependent var 0.570617
S.E. of regression 0.282033 Akaike info criterion 0.443897
Sum squared resid 1.352226 Schwarz criterion 0.593257
Log likelihood -1.438970 F-statistic 30.38777
Durbin-Watson stat 1.833099 Prob(F-statistic) 0.000002
),2( kj
j
=

j
β
= 0 : X
j
thay đổi không làm Y thay đổi (Y không có quan hệ phụ thuộc tuyến tính vào X
j
)
Theo kết quả hồi quy ta có
2
ˆ
β
= 0.523699 cho biết khi biến vốn (K) tăng 1% thì biến sản lượng (Y)
tăng 0.523699% và ngược lại (trong điều kiện các yếu tố khác không đổi)
Tương tự,
3
ˆ
β
= 0.693005 cho biết khi biến lao động (L) tăng 1% thì biến sản lượng (Y) tăng
0.693005% và ngược lại (trong điều kiện các yếu tố khác không đổi)
(+) Các câu hỏi phân tích hồi quy với dạng hàm này chỉ khác với dạng hàm tuyến tính thông thường
ở đơn vị của các biến.
• Ví dụ: Trong dạng hàm tuyến tính thông thường, nếu hỏi X (biến độc lập) tăng 1 đơn vị thì Y (biến
phụ thuộc) tăng 2 đơn vị, nhận xét ý kiến này  cần kiểm định cặp giả thuyết:
H
0
:
2
β
= 2 (tương đương với nhận xét ý kiến đầu bài là đúng)
H


– SE(
j
β
ˆ
)t
α
/2
(n – k) <
β
j
<
j
β
ˆ
+ SE(
j
β
ˆ
)t
α
/2
(n – k)
KTC bên phải :
j
β
ˆ
– SE(
j
β

dùng KTC (BÊN TRÁI) tối đa, và ngược lại.
- Khi mối quan hệ là ngược chiều (
β
j
< 0), nếu hỏi lượng thay đổi tối đa của biến phụ thuộc ta sử dụng
KTC (BÊN PHẢI) tối thiểu và ngược lại. Sau đó đổi dấu giá trị tìm được để có kết quả cuối cùng.
66
Với độ tin cậy (1 -
α
) cho trước, khoảng tin cậy của a.
β
j
+ b.
β
s
KTC đối xứng :
)(
2
)(
2
).
ˆ
.
ˆ
.(
ˆ
.
ˆ
.).
ˆ

.(
ˆ
.
ˆ
.
(k là số hệ số của mô hình)
KTC bên trái :
)(
).
ˆ
.
ˆ
.(
ˆ
.
ˆ
.
kn
sjsjj
tbaSeba
−
+++<<∞−
α
βββββ
Trong đó:
)
ˆ
,
ˆ
cov( 2)]

ββ
ββ
Tiêu chuẩn kiểm định : T =
)
ˆ
(
ˆ
*
j
jj
Se
β
ββ
−
Với kết quả ước lượng, ta có:
)
ˆ
(
ˆ
*
j
jj
qs
Se
T
β
ββ
−
=
Với α cho trước, miền bác bỏ H

1
*
0
:H
:H
jj
jj
ββ
ββ

Với α cho trước, miền bác bỏ H
0
:
{ }
)(
:
kn
tTTW
−
>=
αα
Nếu
α
WT
qs
∈
thì bác bỏ H
0
Nếu ngược lại : chấp nhận H
0

αα
Nếu
α
WT
qs
∈
thì bác bỏ H
0
Nếu ngược lại : chấp nhận H
0
• Trường hợp đặc biệt khi
0
*
=
j
β
→ T
qs
=
)
ˆ
(
ˆ
j
j
Se
β
β
= T- Statistic
77

j
j
β
β
Khi hỏi X
j
(biến độc lập) tăng (giảm) có làm Y (biến phụ thuộc) giảm (tăng) hay không 
cần kiểm định cặp giả thuyết:



<
=
0:H
0:H
1
0
j
j
β
β
• Khi kiểm định cặp giả thuyết



≠
=
0:H
0:H
1

sj
ββ
ββ
Tiêu chuẩn kiểm định : T =
)
ˆ
.
ˆ
.(
ˆ
.
ˆ
.
*
sj
sj
baSe
aba
ββ
ββ
+
−+
Với kết quả ước lượng, ta có:
)
ˆ
.
ˆ
.(
ˆ
.

∈
thì bác bỏ H
0
Nếu ngược lại : chấp nhận H
0
.
(v) Cặp giả thuyết 2





>+
=+
*
1
*
0
:H
:H
aba
aba
sj
sj
ββ
ββ

Với α cho trước, miền bác bỏ H
0
:

0
:H
:H
aba
aba
sj
sj
ββ
ββ

Với α cho trước, miền bác bỏ H
0
:
{ }
)(
:
kn
tTTW
−
−<=
αα
Nếu
α
WT
qs
∈
thì bác bỏ H
0
Nếu ngược lại : chấp nhận H
0

cách tính R
2
như sau:
2
R
= 1- (1 –
2
R
)
1
−
−
n
kn
Hệ số
2
R
được sử dụng để đánh giá việc đưa thêm 1 biến độc lập mới (trường hợp thêm vào mô hình
nhiều biến độc lập mới thì cần sử dụng kiểm định thu hẹp hồi quy) vào mô hình có cần thiết hay không.
So sánh hệ số này của mô hình đã thêm biến và mô hình chưa thêm biến mới, nếu
2
R
tăng lên khi đưa
thêm biến thì biến độc lập mới là cần thiết cho mô hình và ngược lại.
• Kiểm định sự phù hợp của hàm hồi quy
Cặp giả thuyết



≠

Tiêu chuẩn kiểm định :
Chọn thống kê :
)(
)1(
)1(
2
2
kn
R
k
R
F
−
−
−
=

Với kết quả ước lượng : F
qs
=
)(
)1(
)1(
2
2
kn
R
k
R
−

Bác bỏ H
0

Prob >
α
→
chấp nhận H
0
• Chú ý: Có thể từ công thức kiểm định trên
→
cách tính R
2

1
1
1
1
2
−
−
×
−
+
=
k
kn
statisticF
R
7. Kiểm định thu hẹp hồi quy (kiểm định thêm biến hay bớt biến bằng kiểm định F)
(Kiểm định nhiều điều kiện ràng buộc với các hệ số hồi quy)

β
1
+
β
2
X
2
+ +
β
k -m
X
k - m
(R)



+−=≠∃
===
+−+−
),1(:0:H
0 :H
1
210
kmkj
j
kmkmk
β
βββ
(Có thể bỏ m biến…ra khỏi mô hình (UR))
(Không thể bỏ…………….)

2
UR
22
2
22
1)/()1(
/)(
Trong đó:
m – số điều kiện ràng buộc
k – số hệ số hồi quy của mô hình (UR)
n – số quan sát
Nếu F
qs
> F
α

(m, n - k)
→
bác bỏ H
0
và ngược lại.
8. Các mô hình có chứa biến giả:
Biến giả D1 =



2
1
0
1

βββ
)(
1
A
hoặc
iiii
uXYD +++== ).(:)11(
321
βββ
1010
)(
2
A
hoặc
iiii
uXYD ++==
21
:)01(
ββ
• Mô hình có cả biến giả và biến tương tác
iiiiii
uDXDXYPRM ++++= )1*(1:
4321
ββββ
)(
1
A
hoặc
iiii
uXYD ++++== ).()(:)11(

3i
X
,
)(
32 ii
XX
×
Hồi qui mô hình hồi qui phụ:
(2)
2
i
e
=
iiiii
VXXXX
+++++
2
3534
2
23221
ααααα
(no cross terms)
(3)
2
i
e
=
iiiiiii
VXXXXXX +++×+++
2

2
0
i
i
R
R
H
0
: Mô hình ban đầu có phương sai của sai số đồng đều
H
1
: Mô hình ban đầu có phương sai của sai số thay đổi
Kiểm định F, χ
2
Kiểm định χ
2
:
22
iqs
nR
=
χ
= Obs*R-squared (White test) nếu
)1(
22
−>
m
qs
α
χχ

i
i
i
i
= F-statistic (White test)
nếu F
qs
> F
α
(m-1, n –m) thì bác bỏ H
0

Có thể sử dụng mức xác suất đã được máy tính tính ra trong kiểm định White để thực hiện kiểm định cặp giả
thuyết theo quy tắc: Prob <
α

→
Bác bỏ H
0
Prob >
α

→
Chưa bác bỏ H
0
• Chú ý: Nếu mô hình ban đầu chỉ có 1 biến độc lập thì không phân biệt kiểm định có hệ số
chéo hay không và hồi quy phụ trong cả 2 trường hợp kiểm định đều là:
1111
iiii
VXXe

thỏa mãn các giả thiết của OLS
- 1 <
ρ
< 0 tự tương quan âm
ρ
= 0 không có tự tương quan
0 <
ρ
< 1 tự tương quan dương
∑
∑
−
=
2
1
t
tt
u
uu
ρ
• Kiểm định DURBIN – WATSON (chỉ dùng để kiểm định tự tương quan bậc 1)
Trong thực tế ta dùng ước lượng
ρ
ˆ
để thay thế
ρ
khi quan sát hiện tượng tự tương quan
∑
∑
=

2
2
1
2
2
2
1
ρ
−≈
−+
=
−
=
∑
∑∑∑
∑
∑
=
=
−
=
−
=
=
=
−
n
t
t
n

quan dương
ρ
> 0
Không có kết
luận
Không có tự
tương quan
ρ
= 0
Không có kết
luận
Tự tương
quan âm
ρ
< 0
0 d
L
d
U
4 – d
U
4 – d
L
4
• Chú ý: Kiểm định DW sẽ không dùng được trong các trường hợp sau:
• khi mô hình không có hệ số chặn
tttt
UZXY ++=
32
ββ

Bước 3: Kiểm định cặp giả thuyết
H
0
: Mô hình không có tự tương quan
H
1
: Mô hình có tự tương quan
Kiểm định χ
2
:
2
3
2
)( Rpn
qs
×−=
χ
= Obs*R-squared (Breusch – Godfrey test) nếu
)1(
22
α
χχ
>
qs
thì bác bỏ H
0
và ngược lại (trong phần mềm EVIEWS số quan sát được lấy đủ là n quan sát vì quan
sát bị thiếu do biến trễ của phần dư gây ra sẽ được gán trị bằng 0)
Kiểm định F: F
qs

i
))
Có thể sử dụng mức xác suất đã được máy tính tính ra trong kiểm định Breusch – Godfrey để kết luận về cặp
giả thuyết theo quy tắc: Prob <
α

→
Bác bỏ H
0
Prob >
α

→
Chưa bác bỏ H
0
11. Phát hiện mô hình thiếu biến giải thích
Kiểm định RAMSEY RESET
Bước 1: Hồi quy mô hình ban đầu thu được e
t
và
t
Y
ˆ
Bước 2: Hồi quy phụ
(2) Y
t
=
β
1
+

+
β
3
2
ˆ
t
Y
+…+
β
p+1
p
t
Y
ˆ
+ u
t
Bước 3: Kiểm định cặp giả thuyết
H
0
: Mô hình ban đầu không thiếu biến (mô hình có dạng hàm đúng)
H
1
: Mô hình ban đầu thiếu biến (mô hình có dạng hàm sai)
)1(
22
α
χχ
>
qs
2

qs
= = F - statistic (Ramsey Reset test)
Nếu Fqs > F
α
(1,n-k-1) thì bác bỏ H
0
và ngược lại
1313
Có thể sử dụng p-value để thực hiện kiểm định cặp giả thuyết
Prob <
α

→
Bác bỏ H
0
Prob >
α

→
Chưa bác bỏ H
0
• Chú ý: k là số hệ số hồi quy của mô hình ban đầu. Mô hình ban đầu có bao nhiêu biến độc lập, ta đều
đưa vào trong hồi quy phụ (2) và (3). Dạng ban đầu của các biến độc lập cũng được giữ nguyên trong
các hồi quy phụ này (nếu trong mô hình gốc là dạng ln(X
i
) thì trong các hồi quy phụ cũng là ln(X
i
))
12. Kiểm định về quy luật phân phối xác suất của yếu tố ngẫu nhiên (Kiểm định JARQUE
BERA)

1
2
1
3












=
∑
∑
=
=
n
e
n
e
S
n
i
i
n

n
i
i
n
i
i
Nếu
)2(
22
α
χχ
>
qs
thì bác bỏ H
0
, ngược lại chấp nhận H
0
Có thể sử dụng p-value để thực hiện kiểm định cặp giả thuyết.
Prob <
α

→
Bác bỏ H
0
,
Prob >
α

→
Chưa bác bỏ H