09/16/15 1
Mô hình kinh tế lượng
Mô hình kinh tế lượng
tham số giải thích của mô hình
Biến phụ thuộc, biến nội suy , biến được giải thích
Biến độc lập, biến ngoại suy, biến giải thích
biến ngẫu nhiên
E(ε)
Var(ε)
tham số ẩn
của mô hình
ikikiii
xxxy
εββββ
+++++=
33221
Mô hình hồi quy tuyến tính bội
09/16/15 2
Mô hình hồi qui tổng thể
Mô hình hồi qui mẫu
Theo dạng thông thường
Theo dạng ma trận
Dạng kỳ vọng
Dạng ngẫu nhiên
Mô hình hồi qui bội
Thế nào là mô hình hồi qui bội?
Mô hình hồi qui bội là mô hình trong đó
biến phụ thuộc phụ thuộc vào ít nhất hai
biến giải thích.
Dạng mô hình
09/16/15 3
Mô hình hồi quy tuyến tính bội
Dạng biểu thức đầu tiên của mô hình :
y : biến mà giá trị quan sát là y
i
∀i, i = 1, ,n,
x
ki
: biến mà giá trị quan sát là x
it
β
1
, β
2
, . . .,β
κ
là những
tham số chưa biết
tham số chưa biết
ε
i
: sai số
Mục tiêu : ước lượng những tham số
Mục tiêu : ước lượng những tham số β_mu
1
, β_mu
2
, . . .,β_mu
κ
với i = 1, ,n
ikikiii
exxxy
+++++=
ββββ
ˆ
ˆˆˆ
33221
09/16/15 4
Hay
Hay được biểu diễn một cách tường minh như sau
Giả sử ta có n quan sát và mỗi quan sát gồm k trị số (Y
i
,X
2i
X
ki
)
Mô hình hồi qui tổng thể theo dạng
thông thường
niXXXYE
kikii
,1)(
221
=∀+++=
βββ
niXXY
ikikii
,1
221
=∀++++=
εβββ
++++=
++++=
++++=
nknknn
kk
kk
XXY
XXY
XXY
εβββ
εβββ
εβββ
221
2222212
1121211
09/16/15 5
Ví dụ :
Investment = β
1
+ β
2
.
GNP + β
3
. CPI + β
4
Rate+ ε
09/16/15 6
Mô hình hồi quy tuyến tính bội
Dạng biểu thức thứ hai của mô hình :
Biểu thức ma trận
=
=
=
=
n
i
k
i
knnn
kiii
k
k
n
i
xxx
xxx
xxx
xxx
X
y
y
y
y
Y
ε
ε
ε
ε
ε
β
β
β
β
β
;
;
1
1
1
1
;
2
1
2
1
32
32
23222
13121
2
1
( ) ( ) ( ) ( )
1,1,,1, nkkn
X
n
Y
εβ
+=
09/16/15 7
Ví dụ :
Y =
X =
β =
β
1
β
2
β
3
β
4
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
09/16/15 8
!
!
Có thể nói những vec tơ và ma trận của mô hình là
những biến.
Về nguyên tắc chung, X
pt
= 1, ∀t, t=1, ,T. biến X
k
là hằng số.
ước lượng tham số
ước lượng tham số
β
β
_mu
_mu
1
1
,
,
β
β
_mu
_mu
2
2
,…
,…
β
β
_mu
_mu
k
k
có thể được thực hiện bằng phương pháp BPBN
có thể được thực hiện bằng phương pháp BPBN
Mô hình hồi quy tuyến tính bội
09/16/15 9
Nguyên tắc hình học của phương pháp bình phương tối thiểu
x
1
x
2
y
y
i
β
1
x
1i
+ β
2
x
2i
Sum e
2
Nhỏ nhất
Nhỏ nhất
có thể
có thể
PYTHAGORE
PYTHAGORE
Mô hình hồi quy tuyến tính bội
09/16/15 10
STT Theo dạng thông thường Theo dạng ma trận
1
E(ε)=0 ∀I E(ε) = 0
2
E(ε
i
ε
j
) = 0 ∀i ≠j
= σ
2
∀i=j
E(εε
T
) = σ
2
I
3 X
1
,X
2
X
k
không ngẫu
nhiên
Ma trận X không ngẫu
nhiên
4 Không có hiện tượng đa
cộng tuyến
Không có đa cộng tuyến,
tức hạng của ma trận X
bằng khác nhau
5
ε
i
~ N(0,σ
2
) ε ~ N(0,σ
2
I)
Các giả thiết cho mô hình hồi
qui tuyến tính cổ điển
09/16/15 11
Giả thiết cổ điển
I. Tuyến tính
nếu không, mô hình phi tuyến không
thể giải quyết mô hình
II. Trung bình Zero: E(ε
i
) = 0
nếu không, mô hình sẽ không chính
xác
III. Không có tương quan giữa sai số và
biến độc lập: Cov(x
i
, ε
i
) = 0
nếu không, tồn tại phương trình
đồng thời
09/16/15 12
Giả thiết cổ điển
IV. Không có hiện tượng tự tương quan giữa
các sai số: Cov(ε
i
, ε
j
) = 0
•
nếu không, GLS (chuỗi thời gian) (Bài sau)
V. Đồng đẳng: Var(ε
i
) = σ
2
•
nếu không, sử dụng phương pháp GLS (Bài
sau)
VI. Sai số phân phối chuẩn ε – N(0, σ)
VII. Không có hiện tượng đa cộng tuyen
09/16/15 13
Giả thiết 1
0
0
0
0
)(
)(
)(
)(
2
1
2
1
=
=
=
=
nn
E
E
E
EE
ε
ε
ε
ε
ε
ε
ε
09/16/15 14
Phương sai
của các sai sô
Hiệp phương
sai của các sai
số
Ma trận hiệp phương sai của sai số
I
VarCovCov
CovVarCov
CovCovVar
nnn
n
n
2
2
21
2
2
221
121
2
1
)()()(
)()()(
)()()(
εε
σ
εεεεε
εεεεε
εεεεε
=
=Ω
09/16/15 15
Hiệp
phương
sai
Phương
sai
Giả thiết 2
=
)()()(
)()()(
)()()(
)(
2
21
2
2
221
121
2
1
'
nnn
n
n
EEE
EEE
EEE
E
εεεεε
εεεεε
εεεεε
εε
09/16/15 16
Giả thiết 2
[ ]
=
=
2
21
2
2
221
121
2
1
21
2
1
'
)
()(
nnn
n
n
n
n
EuuuEE
εεεεε
εεεεε
εεεεε
ε
ε
ε
εε
=
)()()(
)()()(
)()()(
)(
2
21
2
2
221
121
2
1
'
nnn
n
n
EEE
EEE
EEE
E
εεεεε
εεεεε
εεεεε
εε
IE
22
2
2
2
'
100
010
001
00
00
00
)(
σσ
σ
σ
σ
εε
=
=
=
09/16/15 17
=
)()()(
)()()(
)()()(
)(
2
21
2
2
221
121
2
1
'
nnn
n
n
EEE
EEE
EEE
E
εεεεε
εεεεε
εεεεε
εε
09/16/15 18
Hậu quả của những giả thiết
Vecteur kỳ vọng
toán hoặc trung bình
Vecteur ngẫu nhiên ε là một vecteur tuân theo phân phối chuẩn, và :
ma trận
hiệp phương sai
( )
β
XYE
=
Mô hình hồi quy tuyến tính bội
I
Y
2
ε
σ
=Ω
Y là một vecteur ngẫu nhiên tuân theo
quy luật phân phối chuẩn, và :
09/16/15 19
ước lượng những tham số
x
1
x
2
y
y
i
β
1
x
1i
+ β
2
x
2i
ε
i
Phương pháp bình phương tối thiểu
Phương pháp bình phương tối thiểu
Tìm giá trị những tham số
để có S nhỏ nhất:
( ) ( )
MinSXYXYMineMineeMin
n
i
i
=−−==
∑
=
ββ
'
1
2
'
Mô hình hồi quy tuyến tính bội
09/16/15 20
ước lượng những tham số - 2
Kết quả của phương pháp bình phương tối thiểu
Kết quả của phương pháp bình phương tối thiểu
Ước lượng bằng phương pháp bình phương tối thiểu :
Người ta chứng minh :
có phương sai nhỏ nhât : đó là ước lượng BLUE (Best Linear Unbiased Estimator)
là một đó là ước lượng hội tụ của β
nhưng
nhưng
σ
σ
2
2
(
(
ε
ε
) là chưa biết
) là chưa biết
( ) ( )
YXXX ''
ˆ
1
−
=⇒
β
( )
12
ˆ
'
−
=Ω
XX
ε
β
σ
Mô hình hồi quy tuyến tính bội
09/16/15 21
Ví dụ :
Model fitting results for: EXECO.Investment
Independent variable coefficient std. error t-value sig.level
CONSTANT 357.188693 42.733747 8.3585 0.0000
EXECO.GNP 0.689021 0.064034 10.7602 0.0000
EXECO.CPI -9.548226 1.137803 -8.3918 0.0000
EXECO.Rate -4.211399 2.296132 -1.8341 0.0938
R-SQ. (ADJ.) = 0.9908 SE= 11.289098 MAE= 8.200200 DurbWat= 1.917
ước lượng những tham số
Mô hình hồi quy tuyến tính bội
09/16/15 22
ước lượng những tham số - 3
ước lượng
ước lượng
σ
σ
2
2
(
(
ε
ε
)
)
Từ ước lượng a, ta có thể tính được ước lượng Y :
Sai số có thể được ước lượng bởi :
Từ đó có thể ước lượng được:
β
XY
=
ˆ
( )
( )
ε
''
1
XXXXIe
−
−=
ββ
XeXYYe
−+=−=
ˆ
( ) ( )
ineeE
i
n
i
−=
∑
=
'
2
2
1
σ
( )
( )
eXXXXIee
i
n
i
'''
1
2
1
−
=
−=
∑
( )
2
1
2
1
ˆ
i
n
i
e
kn
∑
=
−
=
εσ
Mô hình hồi quy tuyến tính bội
09/16/15 23
ước lượng những tham số - 4
ước lượng có thể bởi ước lượng σ2(ε) và bởi công thức
ước lượng không chệch của ma trận hiệp phương sai
ước lượng không chệch của ma trận hiệp phương sai
( )( )
1
2
ˆ
'
−
=Ω
XX
εσ
β
β
ˆ
ˆ
Ω
læåüng Æåïc
( )
12
ˆ
'
ˆ
ˆ
−
=Ω
XX
ε
β
σ
Mô hình hồi quy tuyến tính bội
09/16/15 24
ước lượng những tham số - 5
Quy luật phân phối xác suất
Quy luật phân phối xác suất
Theo giả thiết [H4], ta có :
Neu
Ơí đây Mii là thành phần ở vị trí thứ I ở đường chéo chính của ma trận
=
k
i
β
β
β
β
β
2
1
i
i
t
i
β
β
σ
ββ
*
ˆ
ˆ
ˆ
=
−
Mô hình hồi quy tuyến tính bội
( )
i
ii
N
β
σββ
ˆ
,~
ˆ
( )
i
ii
N
β
ββ
ˆ
,~
ˆ
Ω
ii
M
i
2
ˆ
ε
β
σσ
=
i
β
ˆ
Ω
09/16/15 25
ước lượng những tham số - 6
Luật phân phối đã biết Tính Khoảng tin cậy
Khoảng tin cậy đối với β
i
Khoảng tin cậy đối với σ
2
ε
Mô hình hồi quy tuyến tính bội
[ ]
ii
tt
ii
β
α
β
α
σβσβ
ˆ
2/
ˆ
2/
ˆ
*
ˆ
;
ˆ
*
ˆ
+−
( ) ( )
−−
εε
σ
χ
σ
χ
ˆ
;
ˆ
2
1
2
2
knkn