Hiện tượng đa cộng tuyến - Pdf 67

LỜI MỞ ĐẦU
Trong mô hình phân tích hồi quy bội, chúng ta giả thiết giữa các biến
giải thích X
i
của mô hình độc lập tuyến tính với nhau, tức là các hệ số hồi
quy đối với một biến cụ thể là số đo tác động riêng phần của biến tương ứng
khi tất cả các biến khác trong mô hình được giữ cố định. Tuy nhiên khi giả
thiết đó bị vi phạm tức là các biến giải thích có tương quan thì chúng ta
không thể tách biệt sự ảnh hưởng riêng biệt của một biến nào đó.
Hiện tượng trên được gọi là đa công tuyến.Vậy để đa cộng tuyến là gì,
hậu quả của hiện tượng này như thế nào, làm thế nào để phát hiện và biện
pháp khắc phục nó. Để trả lời được những câu hỏi trên, sau đây chúng ta cùng
đi thảo luận về đề tài “ Hiện tượng đa cộng tuyến”.
1
Chương 1. Lý luận cơ bản về hiện tượng đa cộng tuyến
1.1. Khái niệm đa cộng tuyến và nguyên nhân
1.1.1. Khái niệm
Khi xây dựng mô hình hồi quy bội, trường hợp lý tưởng là các biến X
i
trong mô hình không có tương quan với nhau; mỗi biến X
i
chứa một thông
tin riêng về Y, thông tin không chứa trong bất kì biến X
i
khác. Trong thực
hành, khi điều này xảy ra ta không gặp hiện tượng đa cộng tuyến.
Trong những trường hợp còn lại, ta gặp hiện tượng đa cộng tuyến.Giả
sử ta phải ước lượng hàm hồi quy Y gồm k biến giải thích X
1
, X
2

,..., λ
k
không đồng thời bằng không
sao cho:
λ
2
X
2
+ λ
3
X
3
+ ... + λ
k
X
k
= 0
Các biến X
2
, X
3
,..., X
k
gọi là các đa cộng tuyến không hoàn hảo nếu
tồn tại λ
2
,..., λ
k
không đồng thời bằng không sao cho:
λ

V
X X
λ
λ λ
λ λ λ λ
− − − − −
2
Từ (1.2) ta thấy hiện tượng đa cộng tuyến xảy ra khi một biến là tổ
hợp tuyến tính của các biến còn lại và một sai số ngẫu nhiên, hay nói cách
khác là có một biến biểu diễn xấp xỉ tuyến tính qua các biến còn lại.
1.1.2. Nguyên nhân
• Do phương pháp thu thập dữ liệu: Các giá trị của các biến độc lập phụ
thuộc lẫn nhau trong mẫu nhưng không phụ thuộc lẫn nhau trong tổng
thể.
Ví dụ: Người thu nhập cao sẽ có khuynh hướng nhiều của cải hơn. Điều
này có thể đúng với mẫu mà không đúng với tổng thể. Trong tổng thể sẽ có
các quan sát về các cá nhân có thu nhập cao nhưng không có nhiều của cải
và ngược lại.
• Các dạng mô hình dễ xảy ra đa cộng tuyến:
- Hồi quy dạng các biến độc lập được bình phương sẽ xảy ra đa cộng
tuyến, đặc biệt khi phạm vi giá trị ban đầu của biến độc lập là nhỏ.
- Các biến độc lập vĩ mô được quan sát theo chuỗi thời gian.
1.2. Ước lượng khi có đa cộng tuyến
1.2.1. Ước lượng khi có hiện tượng đa cộng tuyến hoàn hảo
Sau đây chúng ta sẽ chỉ ra rằng khi có đa cộng tuyến hoàn hảo thì các hệ
số hồi quy là không xác định còn các sai số tiêu chuẩn là vô hạn. Để đơn
giản về mặt trình bày chúng ta sẽ xét mô hình hồi quy 3 biến và chúng ta sẽ
sử dụng dạng độ lệch trong đó:
3
YYy

1
1
(1.4)
thì mô hình hồi quy 3 biến có thể viết lại dưới dạng:
iiii
exy
++=
∧∧
322
ββ
(1.5)
Theo tính toán trong chương hồi quy bội ta thu được các ước lượng:
( )
( ) ( )
( )( ) ( )
2
2
2
2
2
2
2
2
2
2
22
2
∑∑∑
∑∑∑


iiii
iiiiiii
xxxx
xxxyxxy
β
(1.7)
Giả sử:
ii
XX
23
λ
=
trong đó
λ
là hằng số khác không, thay điều kiện
này vào (1.6) ta được:
( )
( )
( )
( )
( )( ) ( )
2
2
2
22
2
2
2
2
22

2
β
cho ta tốc độ thay đổi trung bình của
Y

khi
2
X

thay đổi 1 đơn vị còn
3
X
không đổi. Nhưng khi
ii
XX
23
λ
=
thì điều
đó có nghĩa là không thể tách ảnh hưởng của
2
X

3
X
khỏi mẫu đã cho.
Trong kinh tế lượng thì điều này phá hủy toàn bộ ý định tách ảnh hưởng
riêng của từng biến lên biến phụ thuộc.
Thí dụ:
ii

từ một phương trình 2 ẩn.
Như vậy trong trường hợp đa cộng tuyến hoàn hảo, chúng ta không thể
nhận được lời giải duy nhất cho các hệ số hồi quy riêng, nhưng trong khi đó
ta lại có thể nhận được lời giải duy nhất cho tổ hợp tuyến tính của các hệ số
này. Chú ý rằng trong trường hợp đa cộng tuyến hoàn hảo thì phương sai và
các sai số tiêu chuẩn của các ước lượng

2
β

3

β
là vô hạn.
5


=+=
∧∧∧
i
ii
x
yx
2
2
32
)(
βλβα
1.2.2. Ước lượng trong trường hợp có đa cộng tuyến không hoàn hảo
Đa cộng tuyến hoàn hảo chỉ là 1 trương hợp đặc biệt hiếm xảy ra. Trong

thu được các ước lượng

2
β

3

β
.
Chẳng hạn:
( )
( )
( )
( )
( )( ) ( )
2
2
2
2
2
222
2
2
2
i2
22
2
2
2
2

. Có một số trường hợp xảy ra như sau:
1.3.1. Phương sai và hiệp phương sai của các ước lượng bình quân bé nhất
lớn
6
Trong chương mô hình hồi quy bội ta đã có biểu thức:
Var( ) = (1.10)
Var( (1.11)
Và: cov( ) = (1.12)
Trong đó là hệ số tương quan giữa
Từ 1.10 và 1.11 ta thấy tăng dần tới 1 (nghĩa là cộng tuyến tăng)
thì phương sai của hai ước lượng này tăng dần tới vô hạn 1.12 chỉ ra rằng
khi tăng dần tới 1 thì cov( ) tăng về giá trị tuyệt đối.
1.3.2. Khoảng tin cậy rộng hơn
Giả sử khi thực hành ta có khoảng tin cậy 95% cho khi đã
biết là:
)
Trong đó:
Se(
Se(
Cho nên ta có thể viết lại các khoảng tin cậy 95% cho là
7
(1.13)
Và cho là:
(1.14)
(1.13) và (1.14) chứng tỏ càng gần tới 1 thì khoảng tin cậy cho
các tham số càng rộng.
Do đó trong trường hợp có đa cộng tuyến gần hoàn hảo thì số liệu của
mẫu có thể thích hợp với tập các giả thiết khác nhau. Vì thế xác suất chấp
nhận giả thiết sai tăng lên (tức là tăng sai lầm loại II).
1.3.3. Tỷ số t mất ý nghĩa

2
cao nhưng tỉ số t thấp
Trong trường hợp R
2
cao (thường R
2
> 0,8) mà tỉ số t thấp thì đó chính
là dấu hiệu của hiện tượng đa cộng tuyến .
1.4.2. Tương quan cặp giữa các biến giải thích cao
9
Nếu hệ số tương quan cặp giữa các biến giải thích cao (vượt 0,8) thì
có khả năng có tồn tại đa cộng tuyến. Tuy nhiên tiêu chuẩn này thường
không chính xác.
Có những trường hợp tương quan cặp không cao nhưng vẫn có đa
cộng tuyến. Thí dụ, ta có 3 biến giải thích X
1
, X
2
, X
3
như sau:
X
1
= (1,1,1,1,1, 0,0,0,0,0, 0,0,0,0,0, 0,0,0,0,0)
X
2
= (0,0,0,0,0, 1,1,1,1,1, 0,0,0,0,0, 0,0,0,0,0)
X
3
= (1,1,1,1,1, 1,1,1,1,1, 0,0,0,0,0, 0,0,0,0,0)

cao trong khi đó r
2
34,12
; r
2
24,13
; r
2
23,14
tương đối thấp thì điều đó có thể gợi ý rằng các biến X
2
, X
3

và X
4
có tương quan cao và ít nhất một trong các biến này là thừa.
Dù tương quan riêng rất có ích nhưng nó cũng không đảm bảo rằng
sẽ cung cấp cho ta hướng dẫn chính xác trong việc phát hiện ra hiện tượng
đa cộng tuyến.
1.4.4. Hồi quy phụ
10
Một cách có thể tin cậy được để đánh giá mức độ của đa cộng tuyến là
hồi quy phụ. Hồi quy phụ là hồi quy mỗi một biến giải thích X
i
theo các
biến giải thích còn lại. R
2
được tính từ hồi quy này ta ký hiện R
2

điểm tới hạn F
i
(k-2, n-k+1) ở mức ý nghĩa đã cho thì có nghĩa là X
i
có liên
hệ tuyến tính với các biến X khác. Nếu F
i
có ý nghĩa về mặt thống kê
chúng ta vẫn phải quyến định liệu biến X
i
nào sẽ bị loại khỏi mô hình. Một
trở ngại của kỹ thuật hồi quy phụ là gánh nặng tính toán. Nhưng ngày nay
nhiều chương trình máy tính đã có thể đảm đương được công việc tính toán
này.
1.4.5. Nhân tử phóng đại phương sai
Một thước đo khác của hiện tượng đa cộng tuyến là nhân tử phóng đại
phương sai gắn với biến X
i
, ký hiệu là VIF(X
i
).
VIF(X
i
) được thiết lập trên cơ sở của hệ số xác định R
2
i
trong hồi quy
của biến X
i
với các biến khác nhau như sau:


Nhờ tải bản gốc

Tài liệu, ebook tham khảo khác

Music ♫

Copyright: Tài liệu đại học © DMCA.com Protection Status