Company
LOGO
(Ordinary Least Square)
Giả sử có một
mẫu gồm n quan sát
(Y
= 1, ta
2, phải
. . . ˆ, n)
Theo
pp(iOLS,
i, Xi),
Y
tìm
sao cho nó i
càng gần với giá
trị thực (Yi) càng tốt,
ˆ
ei = Yi Yi
ˆ
ˆ
= Yi 1 2
càng nhỏ
càng tốt
Xi
Y
Yi
Y^i
0
.
.
.
.
SRF
.
.
.
.
.
.
.
e
.
.
..
.
i
Xi
X
Do ei có thể
dương, có thể
âm, nên ta cần
tìm SRF sao cho
tổng bình phương
ˆ các
ˆ , phần
Tức
phải
của
dư
1
2
thoả
mãn
đạt
cực
tiểu.điều
n
n
ˆ
e Y
i 1
2
i
i
i 1
1
ˆ
2Xi
2
min
(*)
ÑK (*) có nghóa là
tổng bình phương
các sai lệch giữa
giá trị thực tế
ˆ
q.sát
Yi được (Yi) và
ˆ qui
ˆ
Tức đường hồi
1 2
mẫu với
,
thỏa mãn điều kiện
(*)
sẽ
là
đường
thẳng
“gần
nhất”
với
tập
hợp
các
điểm quan sát, do vậy
nó được coi là đường
thẳng
“tốt
nhất”,
Y
Y
H. 1a
X
H. 1b
X
Do Yi, Xi (i = 1, 2, . . . , n)
n
2
đã biết, nên
ˆ
ˆ
Y
i
1
2Xi
i 1
ˆ
ˆcủa
là hàm
1
2
,
ˆ
ˆ
Vì vậy ta cần
tìm
sao
cho:
ˆ
ˆ
1
2
1
ˆ
ˆ
1 2
2
,
f(
,
) =(Yi Xi )
ˆ
ˆ
,
là
nghiệm
của
hệ
2
1
2
min
f (ˆ 1 , ˆ 2 ) n
ˆ
ˆ
2
(
Y
i
1
2 X i )( 1) 0
ˆ 1
i 1
ˆ ˆ
n
f ( 1 , 2 ) 2( Y ˆ ˆ X )( X ) 0
i
1
2 i
i
ˆ
i 1
2
n
n
Hay:
ˆ ˆ
n
X i Yi
1
2
i 1
i 1
n
n
(2.6 ˆ n
2
ˆ
1 X i 2
X i X i .Yi
)
i 1
i 1
i 1
Hệ phương trình
(2.6) gọi là hệ
phương
trình
Giải hệ p.tr này
chuẩn.
n
ta được:
X i Yi n X.Y
ˆ i 1
2
n
2
2
Xi n X
i 1
ˆ Y ˆ X
1
2
ˆ
Có thể tính
2
theo công thức:
ˆ
2
xy
x
Trong đó: xi =XXi
i
i
2
i
;
yi
Y
Xét điều kiện đủ:
Ta có ma trận Hessian
''
''
như fsau:
fˆ ˆ 2n
2 X i
ˆ ˆ
1 1
H ''
fˆ ˆ
21
''
fˆ ˆ 2 X i
2 2
1
Với
2
H 4 n X i
:
2
2 X i
2
X
4n X n X
2
i
4n x 0
2
i
2
i
2
Vậy ma trận H xác
ˆ , dương
ˆ
định
nên
1
2
xác định bằng các
côngˆ 1 , ˆthức
trên
là
2
điểm cực tiểu của
hàm f(
).
Thí dụ 2:
Bảng sau cho số liệu
về lượng bán được (Ytấn/tháng)
và
đơn
giá của hàng A (Xngàn đồng/kg)
Giả sử Y, X có q.hệ
t.quan t.t. Hãy ước
Giải:
Từ
số
liệu
q.sát của X và Y cho
ở
bảng
trên
ta
tính
Yi = 36 Y=6 Xi = 24-->
được:
2
2 X=6
Xi = 120 xi =24 XiYi = 111;
xiyi = - 33
33
ˆ2
1,375
24
ˆ1 6 ( 1,375) 4 11,5
Hàm hồi qui tt
mẫu của chi tiêu
theo thu nhập là:
ˆ
Yi 11,5 1,375 X i
Biến giải thích là
phi
ng.n
Kỳ vọng toán của
Ui bằng 0,
E(Ui/Xi)nha
=
Các Ui có tức:
p.sai bằng
0
Không có t.quan
giữa các Ui, tức
cov(Ui, Uj) = 0
Ui j)và Xi không
(i
t.quan với nhau,
tức
ĐỊNH LÝ GAUSS-MARKOV
Với các giả thiết
1-5 của MH hồi qui
tt cổ điển, các
ước lượng của PP
OLS sẽ là các
ước lượng tuyeán
Đối với
hai
biến,
ˆ
ˆ
1
,
2
hàm
tương ứng
là
các
ước
lượng
t.tính,
không
chệch,
2- Phương sai và sai
số
n
chuẩn của
các
2
Xi
ước lượng
2
i 1
ˆ
var( 1 ) n
2
i
n x
i 1
ˆ
ˆ
se( 1 ) var( 1 )
ˆ
var( 2 )
n
2
2
i
x
i 1
ˆ
ˆ
se( 2 ) var( 2 )
Trong đó: = var(Ui)
2
se: sai số chuẩn
(Standard
Erorr)
2
được ước
bằng
không
ước
n
2
chệch
ei
2
ˆ
ˆ
lượng
2
lượng
ˆ
i 1
n 2
2
là
ˆ sai số chuẩn
n
n.Y
TSS Yi Y
i 1
=
SS (Total Sum of Squares)
2
n
ESS
=
2
2
Yi
2
ˆY Y (ˆ ) 2
i
2
i 1
n
i 1
ESS (Explained Sum of
Squares)
2
xi