Khoá lu n t t nghi p

Tr

GV Nguy n Trung D ng

ng đ i h c s ph m hà n i 2
Khoa toán
****o0o****

L u th ph

ng

M t s mô hình h i quy
Khoá lu n t t nghi p đ i h c
Chuyên ngành : Toán ng d ng

Ng

ih

ng d n khoa h c

GV. Nguy n Trung D ng

Hà n i - 2008

SV L u Th Ph

ng-K30B CN

1


Khoá lu n t t nghi p

GV Nguy n Trung D ng

L ic m n
Qua đây em xin bày t lòng bi t n sâu s c t i th y giáo
Th.S. Nguy n Trung D ng
đư dành th i gian, tâm huy t giúp đ em hoàn thành lu n v n này. Em xin
g il

i c m n chân thành, l i chúc s c kho h nh phúc và thành đ t t i đ n

các th y cô trong khoa đư t o đièu ki n giúp đ em trong su t th

i gian hoàn

thành khoá lu n.
Em xin chân thành c m n!
Tác gi
L u Th Ph

SV L u Th Ph

ng-K30B CN

2


ng


Khoá lu n t t nghi p

GV Nguy n Trung D ng
L i cam đoan

Tôi xin cam đoan khoá lu n này là công trình nghiên c u c a riêng tôi.
Trong khi nghiên c u, tôi đư k th a nh ng thành qu nghiên c u c a các nhà
khoa h c, nhà nghiên c u v i s trân tr ng bi t n.
Nh ng k t qu nêu trong khoá lu n ch a đ

c công b trên b t kì công

trình nào khác.
Xuân Hoà, tháng 05 n m 2008
Tác gi
L u Th Ph

SV L u Th Ph

ng-K30B CN

3

ng



Khoá lu n t t nghi p

GV Nguy n Trung D ng
L i nói đ u

Trong nhi u bài toán th c t ng
nhi u bi n ng u nhiên X,Y đ

i ta quan tâm đ n quan h c a hai hay

c kh o sát đ ng th i trên cùng m t t ng th .

i u này có ngh a là khi ta l y ng u nhiên m t cá th c a t ng th ra xen xét
thì ph i cân đo, phân tích, th nghi m ,…đ ng th i hai đ c tính sinh h c đ nh
l

ng X và Y.
Thí cân và đo chi u cao c a m t em h c sinh l p 4, cân tr ng l

ng và

đo chi u dài c a cá, đo chi u cao c a con trai và con gái trong cùng m t gia
đình…
Tuy nhiên ta không th nghiên c u đ y đ m i đ c tr ng c a quan h
đó. Mà thông th

ng ta ch có th kh o sát m t m u g m n cá th , ta thu đ

dưy n c p s ( xi , yi ), i  1, n đ


c

c xem nh là c p quan sát c a hai bi n ng u

nhiên X,Y.
M t câu h i r t t nhiên đ

c đ t ra là hai bi n X, Y có quan h v i

nhau nh th nào? Và câu tr l i bi n Y thay đ i theo s thay đ i c a bi n X
nh th nào là ph n trình bày c a đ tài “Các mô hình h i quy”.
C th ,

đây tôi nghiên c u hai v n đ :

1) Nghiên c u mô hình h i quy tuy n tính.
2) Nghiên c u mô hình h i quy phi tuy n.
Do th i gian và n ng l c có h n nên khoá lu n c a tôi ch c ch n không
tránh kh i nh ng thi u sót, vì v y tôi r t mong nh n đ
c a các th y giáo, cô giáo và các b n sinh viên.

SV L u Th Ph

ng-K30B CN

4

c ý ki n đóng góp



Khoá lu n t t nghi p

GV Nguy n Trung D ng

M cl c
Trang
L i nói đ u……………………………………………………………..1
Ch

ng 1. H i quy tuy n tính…………………………………………..2

1.1. Mô hình h i quy…………………………………………………....2
1.1.1. Các gi thuy t cho mô hình……………………………………....2
1.1.2. Ph

ng trình h i quy……………………………………………..2

1.2. Mô hình h i quy tuy n tính đ n……………………………………3
1.3.

cl

1.3.1. Ph

ng các tham s h i quy………………………………….....4
ng pháp bình ph

ng bé nh t……………………………….4

1.3.2.


cl

ng đi m cho trung bình đáp ng…………………………7

1.3.3.

cl

ng sai s  2 ……………………………………………..9

1.4. Mô hình h i quy tuy n tính đ n v i sai s chu n……………….. .11
1.5. Phân tích cho mô hình h i quy tuy n tính đ n………………….. ..14
1.5.1. Ki m đ nh 1 …………………………………………………… 14
1.5.2. Kho ng tin c y cho 1 ………………………………………….. .15
1.5.3. Kho ng tin c y cho 0 …………………………………………...16
1.6. D ng ma tr n c a h i quy tuy n tính……………………………. ..17
1.6.1. D ng ma tr n c a h i quy tuy n tính đ n………………………..17
1.6.2.

cl

ng bình ph

ng bé nh t c a tham s h i quy……………19

1.7. H i quy tuy n tính b i……………………………………………...21
Ch

ng 2. H i quy phi tuy n……………………………………………27


2.1. Mô hình h i quy phi tuy n…………………………………….. ….27
2.2.

cl

ng tham s h i quy……………………………………. ….30

2.3. H i quy logistic……………………………………………………31
2.3.1. H i quy v i m t bi n đáp ng nh phân………………………. ..31

SV L u Th Ph

ng-K30B CN

5


Khoá lu n t t nghi p

GV Nguy n Trung D ng

2.3.2. H i quy logistic đ n……………………………………………..32
2.3.3. H i quy logistic b i……………………………………………..34
2.4. H i quy Poatxông…………………………………………………35
K t lu n………………………………………………………………..37
Tài li u tham kh o…………………………………………………….38

SV L u Th Ph


ng-K30B CN

6


Khoá lu n t t nghi p

GV Nguy n Trung D ng
L i nói đ u

Trong nhi u bài toán th c t ng
nhi u bi n ng u nhiên X,Y đ
M t câu h i r t t nhiên đ

i ta quan tâm đ n quan h c a hai hay

c kh o sát đ ng th i trên cùng m t t ng th .

c đ t ra là hai bi n X, Y có quan h v i nhau nh

th nào? Và câu tr l i bi n Y thay đ i theo s thay đ i c a bi n X nh th
nào là ph n trình bày c a đ tài khoá lu n “M t s mô hình h i quy”.
Khoá lu n g m hai ch
Ch

ng:

ng 1. Mô hình h i quy tuy n tính. Trong ch

ng này trình bày


các mô hình h i qui tuy n tính đ n, mô hình h i qui tuy n tính b i và d ng
ma tr n c a các mô hình đó.
Ch

ng 2. Mô hình h i quy phi tuy n. Trong ch

ng này gi i thi u

m t s mô hình h i qui phi tuy n nh : h i qui logistic và h i qui Poatxông.
Khoá lu n đ

c th c hi n t i tr

Qua đây, tôi xin bày t

ng

i h c S ph m Hà N i 2.

lòng bi t

n sâu s c đ n th y giáo

GV Nguy n Trung D ng đư dành nhi u th i gian, tâm huy t giúp đ tôi
hoàn thnàh lu n v n này. Tôi xin g i l i c m n chân thành, l i chúc s c
kho h nh phúc và thành đ t đ n các th y cô trong khoa đư t o đi u ki n giúp
đ tôi trong su t th i gian hoàn thành khóa lu n.
Hà N i, tháng 5 n m 2008.
Sinh viên

L u Th Ph

SV L u Th Ph

ng-K30B CN

7

ng


Khoá lu n t t nghi p
Ch

GV Nguy n Trung D ng
ng 1: H i qui tuy n tính

1.1. Mô hình h i qui
1.1.1. Các gi thuy t cho mô hình
Xét mô hình h i qui nghiên c u m i liên h gi a các bi n X và Y. Trong
đó X là bi n đ c l p (independent variable ) và đ
nghiên c u, do đó các giá tr c a X đ
trên các giá tr đ
đ

c ng

c ki m soát b i ng

i


i nghiên c u ch n l a và d a

c ch n c a X thì các giá tr c a Y s đ

c xác đ nh, bi n Y

c g i là bi n ph thu c ( independent variable ) hay bi n đáp ng.
Mô hình h i qui d a trên các gi thuy t sau :
1. Giá tr c a bi n X là c đ nh và có m t s l
2. Bi n X đ

qua đ

ng gi i h n

c thu th p không có sai s ho c sai s r t bé và có th b

c.

3. V i m i giá tr c a bi n X s xác đ nh đ

c m t t p h p các giá tr

c a bi n Y.
4. T t c các ph

ng sai c a t p h p giá tr Y là b ng nhau.

5. T t c các trung bình c a t p h p giá tr Y đ u n m trên m t đ

th ng, gi thuy t này g i là gi thuy t tuy n tính và nó đ
r ng:  yx   +  x .

ng

c th hi n

đây  yx là giá tr trung bình c a t p h p các giá tr

Y ng v i m t giá tr c a X, t c là E{Y  X = x } =  0 +  1x .
6. Các giá tr c a Y là đ c l p v i nhau
E{Y  X = x} =  0 +  1x _ đ c g i là hàm h i qui
 0 ,  1 là các h s h i qui
1.1.2. Ph

ng trình h i qui

M c tiêu c a ph

ng trình h i qui là xây dung m t ph

ng trình tham

s mô t m i liên h th c gi a bi n đ c l p X và bi n ph thu c Y.
Các b

c ti n hành m t phân tích h i qui :

SV L u Th Ph


ng-K30B CN

8


Khoá lu n t t nghi p
1.

GV Nguy n Trung D ng

ánh giá xem các gi thuy t và m i liên h t

ng quan tuy n tính có

đúng không?
2. Xác đ nh ph ng trình h i qui mô t h s li u đó m t cách chính xác nh t.
3.

ánh giá ph ng trình h i qui đ xác đ nh m c đ c a m i t ng quan.

4. N u s li u đ
s d ng ph

c th hi n t t trong mô hình tuy n tính v a xây d ng,

ng trình h i qui đ d đoán và

cl

ng các giá tr .


1.2. Mô hình h i qui tuy n tính đ n
Xét mô hình có d ng :
Yi =  0 +  1Xi +  i

(1.1)

Trong đó :
Yi là giá tr quan sát c a bi n đáp ng Y trong l n quan sát th i.
Xi là giá tr quan sát c a bi n d báo X trong l n quan sát th i .

 0 ,  1 là các tham s h i qui.
 i là các bi n ng u nhiên đ c l p ( không t

ng quan ) v i E{  i} = 0 ,

var(  i) =  2 , i = 1,n .

 Mô hình (1.1) tho mãn các gi thuy t c a mô hình h i qui. Th t v y, ta có:
1. Vì v i m i i (1  i  n) thì  i là bi n ng u nhiên nên Yi c ng là bi n
ng u nhiên.
2. Bi n ng u nhiên  I có k v ng E{  i} = 0 nên suy ra :
E{Yi} = E{  0 +  1xi +  i}
Suy ra
E{Yi} =  0 +  1Xi , i = 1,n .
3. Bi n ng u nhiên  I có ph
ph

ng sai là  2 . Bi n đáp ng Yi c ng có


ng sai nh v y :
Var{Yi} =  2
T đó ta có :

SV L u Th Ph

ng-K30B CN

9


Khoá lu n t t nghi p

GV Nguy n Trung D ng

Var{  0 +  1Xi +  i} =  2{  i} =  2
Do đó, đ phân tán c a Yi là nh nhau đ i v i các m c c a X.
Vì  i,  j là không t ng quan nên suy ra Yi, Yj c ng không t ng quan.

4.

 ý ngh a c a h s h i qui

 0 ,  1 đ c g i là các h s h i qui.
 1 là h s góc c a đ

ng h i qui ( f(X) =  0 +  1X )

H s góc ch s thay đ i c a trung bình đáp ng khi thay đ i m t đ n v
c a bi n d báo X .


 0 là trung bình c a đáp ng khi d báo X b ng 0 .
 M t s phiên b n khác c a mô hình (1.1)
Gi s X0 là m t bi n gi , khi đó (1.1) đ
Yi =  0X0 +  1Xi +  i

c vi t l i là :

(1.2) , trong đó Xi  1 .

T (1.1) ta có :
Yi =  0 +  1(Xi - X ) +  1 X +  i



Yi =  0 +  1 X +  1(Xi - X ) +  i



Yi =  0* +  1(Xi - X ) +  i

Trong đó  0* =  0 +  1 X
Tu t ng tr

(1.3)

và X =

1
n


n

Xi
i 1

ng h p thu n ti n ta s d ng m t trong các mô hình (1.1) ,

(1.2) và (1.3) .
1.3.

cl

ng các tham s h i qui

Gi s ta có n quan sát (X1,Y1) , (X2,Y2) , …, (Xn,Yn) v (X,Y) . V n đ
đ t ra d a trên n quan sát này hưy

cl

ng các  0 ,  1 trong mô hình (1.1)

.
1.3.1. Ph

ng pháp bình ph

ng bé nh t

V i m i i thì đ i l ng Yi - (  0 +  1)Xi là đ l ch c a Yi v i giá tr lý thuy t.


SV L u Th Ph

ng-K30B CN

10


Khoá lu n t t nghi p

t Q(  0 ,  1) =
Các
g i là

cl
cl

n

 (Y i -  0 -  1Xi)2
i 1

ng ˆ 0 , ˆ 1 c a  0 ,  1 sao cho Q(  0 ,  1) bé nh t thì đ

ng bình ph

Xét h ph

GV Nguy n Trung D ng


ng bé nh t c a  0 ,  1 .

ng trình :

 Q( 0 ,1 )
   0

0

 Q( 0 ,1 )  0
 1

 n
2 (Yi  0  1 Xi )  0
 i 1
  n
2 X (Y     X )  0
i
i
0
1 i
 
i 1
n
n



n



X
Yi

1 i
 0

i 1
i 1
  n
n
n
2

Xi  1  Xi   XiYi
 0 
i 1
i 1
i 1

(1.4)

 ˆ0  Y  ˆ1 X

n
n

XiYi  Y Xi

 

i 1
i 1
ˆ
 1  n
n
2

X
X
Xi



i

i 1
i 1
Hay

 ˆ  Y  ˆ1 X
 0
n
n

X
X
Y
Y
(
)(

)
( Xi  X )(Yi  Y)



i
i
ˆ 
i 1
 i 1 n
 1  n

Xi 2  n( X ) 2
( Xi  X ) 2



i 1
i 1

SV L u Th Ph

ng-K30B CN

11

(1.5)

c



Khoá lu n t t nghi p
(1.4) đ

GV Nguy n Trung D ng

c g i là ph

ng trình chu n.

Ví d 1.1. Cho b ng th ng kê s li u d

i đây c a 25 lô s n ph m c a

m t công ty Z.
B ng1.1. S đ tán x và đ
(1)

ng h i qui thích h p

(2)

S TT S s n

(3)

Gi s n

(4)


Xi- X

(5)

Yi- Y

(6)

(7)

(Xi- X )(Yi- Y ) (Xi- X )2 (Yi-

Y )2

ph m(Xi) su t (Yi)
1

80

399

10

86,72

867,2

110

7520,4


2

30

121

-40

-191,28

7651,2

1600

36558,0

3

50

221

-20

-91,28

1825,6

400


8332,0

…

…

….

….

….

….

…

…

23

40

244

-30

-68,28

2048,4


900

4662,2

24

80

342

10

29,72

297,2

100

883,3

25

70

323

0

10,72


0,0

0

114,9

T ng 1750 7807

0

0

70690

Trung 70,0 312,28
bình
V y ta có :

 ( X  X )(Y  Y)  70690
i

i

 ( X  X)

2

i


 19800

X = 70,0
Y = 312,28

áp d ng (1.5) ta đ
ˆ1  

c:

( Xi  X )(Yi  Y)

 ( X  X)
i

SV L u Th Ph

2



70690
 3,5702
19800

ng-K30B CN

12

19800 307203



Khoá lu n t t nghi p

GV Nguy n Trung D ng

ˆ0  Y  ˆ1 X  312,28  3,5702(70,0)  62,37
Nh v y s ph thu c c a th i gian s n xu t vào s s n ph m có th
đ

c mô t b ng ( h i qui m u ) :
y= 0.0436x + 0,0857

Hình1.1. S đ tán x và đ
đ

tán x

ng h i quy thích

Hình b:
h p

Gi

Gi

Hình a: S

ng h i qui thích h p _ Ví d 1.1


Lô s n ph m

 Tính ch t c a

cl

Lô s n ph m

ng bình ph

ng bé nh t

nh ngh a 1.1
Cho Y1,Y2,…,Yn là các quan sát v tham s  .
đ

c g i là

cl

cl

ng ˆ c a 

ng tuy n tính không ch ch t t nh t cho  n u :

i/ ˆ là t h p tuy n tính c a các quan sát Y1, Y2 , …, Yn
ii/ ˆ có phân ph i nh nh t trong các


cl

ng tuy n tính c a  .

nh lý Gauss-Markov
i v i mô hình (1.1) thì các
cho các tham s  0 ,  1 t

cl

ng ng là các

t t nh t

SV L u Th Ph

ng-K30B CN

13

ng bình ph
cl

ng bé nh t ˆ 0 , ˆ 1

ng không ch ch tuy n tính


Khoá lu n t t nghi p


GV Nguy n Trung D ng

nh lý Gauss-Markov kh ng đ nh r ng d
(1.1) thì ˆ 0 , ˆ 1 là các
trong các

cl
cl

1.3.2.

cl

i gi thuy t c a mô hình

ng không ch ch và có ph

ng sai nh nh t

ng không ch ch tuy n tính.

ng đi m cho trung bình đáp ng

Gi s ˆ 0 , ˆ 1 là các

cl

ng c a các tham s trong hàm h i qui

E{Y}= 0 + 1 x

Khi đó chúng ta có

cl

ng cho hàm h i qui là :

Yˆ = ˆ 0+ ˆ 1X ,

Trong đó Yˆ là giá tr c a

c l ng c a hàm h i qui t i m c X c a bi n d báo.

T đ nh lý Gauss-Markov và do ˆ 0 , ˆ 1 là các
cho các tham s  0 ,  1 nên Yˆ là

cl

cl

ng không ch ch

ng không ch ch cho E{Y}.

Ví d 1.2.
Trong Ví d 1.1
, ˆ 1 = 3,5702 thì

trên , n u cho các

cl


cl

ng h s h i qui ˆ 0= 62,37

ng c a hàm h i qui là :
Yˆ = 62,37 + 3,5702X

C th , v i X = 65 ,
Nh v y, chúng ta

ng đi m Yˆ = 62,37 + 3,5702(65) = 294,4

cl
cl

ng trung bình th i gian s n xu t cho 65 s n

ph m là 294,4 gi .
T

ng t , v i X1=80 thì ta có Yˆ1 = 62,37 + 3,5702(80) = 348,0.

 Khi mô hình h i qui có d ng (1.3) Yi =  0* +  1(Xi - X ) +  i .

B ng ph

ng pháp bình ph

ng bé nh t ta


cho  0 ,  1 .
T  0* =  0 +  1 X suy ra

ˆ0*  ˆ0  ˆ1 X  (Y  ˆ1 X)  ˆ1 X  Y

SV L u Th Ph

ng-K30B CN

14

cl

ng đ

c ˆ 0 , ˆ 1


Khoá lu n t t nghi p
Do đó

cl

GV Nguy n Trung D ng

ng h i qui cho hàm (1.3) là :
Yˆ  Y  ˆ1( X  X)

(1.6)


Trong ví d 1.1 , = 312,28 và = 70. Do đó :

Yˆ = 312,28 + 3,5702(X - 70)
V i X1 = 80 , = 312,28 + 3,5702( 80 – 70) = 348,0 .

 Ph n d
Kí hi u ei là đ chênh l ch c a giá tr Yi và trong l n quan sát th i :
ei = Yi - Yˆi

(1.7)

i v i mô hình h i qui (1.1) ta có :
ei = Yi – ( ˆo  ˆ1 Xi )=Yi - ˆ0 - ˆ1 Xi (1.7a)
Ví d 1.3. Cho b ng s li u nh

ví d 1.1

B ng 1.2. Giá tr thích h p, ph n d , và ph n d bình ph
(1)
S TT S s n
ph m(Xi)

(2)

(3)

Gi s n

cl


su t (Yi)

ng

TB đáp ng

ng_Ví d 1.1

(4)

(5)

Ph n d

Bp ph n d

Yi - Yˆi = ei

(Yi - Yˆi )2= ei2

1

80

399

347,98

51,02


2603,0

2

30

121

169,47

-48,47

2349,3

3

50

221

240,88

-19,88

395,2

…

…


….

….

….

….

23

40

244

205,17

38,83

1507,8

24

80

342

347,98

-5,98


35,8

25

70

323

312,28

10,72

114,9

T ng 1750

7807

0

54825

7807

Nhìn vào b ng s li u trên ta th y
e1 = Y1 –

SV L u Th Ph


tr

ng h p th nh t X1 = 80 thì

Yˆ1 = 399 – 347,98 = 51,02 .

ng-K30B CN

15


Khoá lu n t t nghi p
1.3.3.

GV Nguy n Trung D ng

2

cl

ng sai s

cl

ng đi m c a  2

Ta có :

1 n
(Yi  Y)2

s 

n  1 i 1
2

Là

ng ch ch cho  2

cl

1 n
n 1 n
2
Es  E (
(Yi  Y) )  E (
(Yi  Y)2 )  ES 2


n  1 i 1
n  1 n i 1
2

Ta đi tìm ES 2

S2 

1 n
(Yi  Y)2


n i 1

Yi    Yi  Y  Y   ,   EX
(Yi   )2  (Yi  Y) 2  2(Yi  Y)(Y   )  (Y   ) 2
n

n

 (Y   )   (Y  Y)
2

i

i 1

n

2

i

i 1

 2(Y   ) (Yi  Y)  n(Y   )2
i 1

Mà
n

( X   ) (Yi  Y)  (Y   )(nY  nY)  0

i 1

n

n

  (Yi   )   (Yi  Y)2  n(Y   ) 2
2

i 1

i 1

n

n

i 1

i 1

 E ( (Yi   ) 2  E ( (Yi  Y) 2 )  nE (Y   ) 2
 n 2  nES 2  nvar (Y)  nES 2  n
 ES 2 

n 1 2

n

V y


SV L u Th Ph

ng-K30B CN

16

2
n


Khoá lu n t t nghi p

Es 2 

GV Nguy n Trung D ng

n n 1 2

n 1 n

 s 2 là

ng không ch ch cho  2

cl

Ta có :
ei  Yi  Yˆi


t
n

n

i 1

i 1

SSE   (Yi  Yˆi )2   ei 2

(1.8)

Trong đó SSE là t ng bình ph

ng c a các ph n d .

t
n

MSE 

SSE

n2

n

 (Yi  Yˆi )2


e

n2

n2

i 1

i 1

2

i

Có th ch ra r ng MSE là m t

cl

ng không ch ch c a  2 trong mô

hình h i qui (1.1) :
E MSE   2

V y

MSE là

cl

ng đi m cho  2


Ví d 1.4.
Trong Ví d 1.1 v công ty Z , tra b ng 1.2 , c t 4, bình ph
đ

c ch ra

c t 5, ta đ

ng th ng d

c:

SSE  54825
V i n= 25 , MSE 
V y

cl

54825
 2384
25  2

ng đi m c a  , phân ph i xác su t c a Y cho m i X là

2384  48,8
1.4.Mô hình h i qui tuy n tính đ n v i sai s chu n
Mô hình

SV L u Th Ph


ng-K30B CN

17


Khoá lu n t t nghi p

GV Nguy n Trung D ng
Yi  0  1 Xi   i

(1.9)

Trong đó :
Yi là giá tr c a bi n đáp ng ng u nhiên trong l n quan sát th

i.

Xi là h ng s đư bi t, ch o m c th i c a bi n d báo X

o, 1 là các tham s
 i là bi n nh u nhiên đ c l p ,  i , j không t

ng quan (Cov(  i , j )=0 , i

 j), i= 1,n .



cl


ng các tham s b ng ph

V i mô hình (1.9) thì các

cl

ng pháp h p lý c c đ i
ng c a o, 1 có th tìm b ng ph

pháp h p lý c c đ i nh sau :
V i m i i thì Yi ฀ N (0  1Xi , 2 )

 1

exp  2 (Yi  0  1X i )2 
2
 2

2

n

1

 L(  0 , 1, )  
2

i 1


 1 n
2
= (2 ) exp  2   Yi   0  1 Xi  
 2 i 1

2



n
2

n
n
1 n
2
ln L(  0 , 1, )   ln2  ln  2  (Yi   0  1Xi )2
2
2
2 i 1
2

Xét h ph

ng trình h p lý sau

  ln L(  0 , 1, 2 )
0




0

  ln L(  0 , 1, 2 )
0



1

  ln L(  ,  , 2 )
0
1

0
2



SV L u Th Ph

ng-K30B CN

18

ng


Khoá lu n t t nghi p


GV Nguy n Trung D ng


 ˆ  Y  ˆ X
1
 0
n

( Xi  X)(Yi  Y)



1
i
  ˆ1 
n

Xi2  n( X)2


i 1

n
ˆ 2  1  (Yi  ˆ0 Xi )2

n i 1
nh lý 1.2.
i v i mô hình (1.9) các

ng h p lý c c đ i o, 1 và  2 đ


cl

xác đ nh b i h (1.10) . H n n a ta có :
1. ˆ0 , ˆ1 là các

cl

ng không ch ch cho o, 1 .

2.( o, 1 ) có phân ph i chu n 2 chi u v i

ˆ  0 , ˆ  1
0

1


 2ˆ 
0

n

2

x
i 1

2
i


n

n( xi2  nX )
2

i 1

 
2
ˆ

1

2
n

x

2
i

i 1

và  

3.

nˆ 2




2

 nX2

x
1 n 2
x
n i 1 i
có phân ph i  2 v i (n=2) b c t do.

4. ˆ0 và ˆ1 là đ c l p v i ˆ 2 .
Ch ng minh :

SV L u Th Ph

ng-K30B CN

19

c


Khoá lu n t t nghi p

GV Nguy n Trung D ng

1. Ta có E(Y)=    x  E(Y)     x


 n

  xi Yi  nxY 
Do đó E( ˆ1 )  E  i 1 n

2
2 

xi  x
 

i 1
n

 x (
i

i 1

0

 1xi )  nx(  0  1 x)
n

x

2
i

i 1


 nx2

n

1  xi2  n1 x2
i 1
n

  nx
i 1

2
i

2

 1 hay ˆ  1
1

M t khác, E(  0 )  E(Y)  E( ˆi x)   0  1 x   0 hay ˆ   0
0

 Các kh ng đ nh 2,3,4 th a nh n.
1.5.

Phân tích h i qui cho mô hình h i qui tuy n tính đ n.

1.5.1.Ki m đ nh 1
Xét mô hình (1.9)


Yi  0  1 Xi   i ,

i = 1 ,…,n .

T mô hình (1.9) ta nh n th y r ng n u 1  0 thì không có m i liên h
tuy n tính gi a X và Y . Vì v y đ đánh giá s phù h p c a mô hình ta xét bài
toán ki m đ nh gi thuy t sau :
H0 : 0  1 , v i đ i thi t H1 : 1  0 và ý ngh a  .(0    1) .
n

T đ nh lý (1.1) ta có :

ˆ1 

 xY  n XY
i 1
n

x
i 1

là

cl

i i
2
i


 nX

2

ng không ch ch cho 1 và ˆ1 có phân ph i chu n v i :

SV L u Th Ph

ng-K30B CN

20


Khoá lu n t t nghi p
ˆ  1 , ( ˆ1 ) 

GV Nguy n Trung D ng
2

2

1

n

x

2
i


i 1

 nX

2

t:

SX2 
và Z 

n
2
1
( xi2  n X )
n  1 i 1

ˆ1  1


2

s có phân ph i chu n t c N(0,1) .

(n  1) SX2

vì v y n u  2 ch a bi t thì :
( ˆ1  1 ) /

t=


2
(n  1) S x2

ˆ 2
2

 ( ˆ1  1 )

(n  1) S x2
s2

có phân ph i Student v i (n-2) b c t do , trong đó s 2 

n
ˆ 2 .
n2

Ta ti n hành ki m đ nh d a trên tính ch t phân ph i này . Các b

c ti n

hành ki m đ nh :

 n  1 SX2

B

c 1 . Tính t  ˆ1


B

 
c 2 . Tìm t n2   trong b ng phân ph i Student v i (n-2) b c t do .
2

B

c 3 . So sánh t và tn1 ( )
2

s2

.





N u t  tn1 ( ) ta bác b gi thuy t H0 .
2



N u t < tn1 ( ) ta ch p nh n gi thuy t H0.
2

SV L u Th Ph

ng-K30B CN


21


Khoá lu n t t nghi p

GV Nguy n Trung D ng

Ví d 1.5. Trong ví d 1.1 v công ty Z , v i   0,05 ; ˆ1  3,5702 và



 

ˆ ˆ1  0,3470 ( ˆ ˆ1 

s2
) ; n=25.
n  1SX2

 0,05 
c t 24 
  2,06 .
 2 

Tra b ng ta tìm đ
Ta có : t  3,5702

0,3470


 10,29  2,06 .

V y ta bác b H0 , ch p nh n Ha : ˆ1  0 .
1.5.2. Kho ng tin c y cho 1
T k t qu

trên ta có



t= ˆ1  1



 n  1 SX2
s2

Có phân ph i Student v i (n-2) b c t do nên ta có :
V i đ tin c y 1    0    1 thì

n  1 SX2


  
 
ˆ
P  tn2     1  1
 tn 2    1  
2
s

 2 
2

Do đó kho ng tin c y cho tham s 1 v i đ tin c y



 
là ˆ1  tn2  
2



s2
 
   ˆ1  tn2  
2
 n  1 SX
2

1   

s2
 n  1 SX2

Ví d 1.6.
Xét ví d 1.1 v công ty Z. Tìm kho ng tin c y cho ˆ1 v i h s tin c y

  95% .
S d ng s li u


b ng 1.1 ta có đ

c:



 

n=25; ˆ1  3,5702; ˆ ˆ1  0,3470 ( ˆ ˆ1 

SV L u Th Ph

ng-K30B CN

22

s2
)
n  1SX2


Khoá lu n t t nghi p

Tra b ng ta tìm đ

GV Nguy n Trung D ng

 0,05 
c : t 23 

  2,07 .
 2 

V y kho ng tin c y cho  1 là :
3,5702 - 2,07(0,3470)  1  3,5702 + 2,07(0,3470)
2,85  1  4,29 .



1.5.3. Kho ng tin c y cho 0
T đ nh lý 1.1. ta có ˆ0 là

cl

ng không ch ch cho 0 và ˆ0 có phân

 

ph i chu n v i trung bình ˆ  0 và  2 ˆ0 
1

áp d ng t



ˆ0   0
 ˆ0

 


x
i 1

2
i

2

n   xi2  nx 
 i 1

n

ng t nh m c 1.5.1 ta c ng ch ra đ
t

n

2

.

c

có phân ph i Student v i (n-2) b c t

do. Do đó v i đ tin c y 1    0    1 thì kho ng tin c y cho tham s 0 l

 ˆ
 

 
ˆ ˆ
ˆ 
  0  tn  2  2    0 ,  0  tn  2  2    0 
 
 



 

 

Ví d 1.7.

 

Xét ví d v công ty Z , m c X = 0 ,  = 0,1 ,  ˆ0  26,18 .
Tra b ng ta tìm đ

 0,1 
c t 23    1,714 .
 2 

V y kho ng tin c y cho  0 là :
62,37 - 1,714(26,18)   0  62,37 + 1,714(26,18).
1.6. D ng ma tr n c a h i qui tuy n tính
1.6.1. D ng ma tr n c a mô hình h i qui tuy n tính đ n
T mô hình (1.9) :


SV L u Th Ph

ng-K30B CN

23


Khoá lu n t t nghi p
Yi  0  1 Xi   i

GV Nguy n Trung D ng

, i  1, n

ngh a là :

Y1  0  1 X1  1
Y2  0  1 X2   2
…

(1.10)

Yn  0  1 Xn   n
t

1 X1 
1 X 
2
,
X

n.2
...... 


1 Xn 

Y1 
Y 
Y   2 ,
n.1
... 
 
Yn 

Thì ta có th vi t l i (1.10) d

Y  X 
n.1

n.2 2.1

n.1

 
   0 ,
2.1
 1 

1 
 

   2
n.1
... 
 
 n 

i d ng nh sau :

(1.12)

T

Y1  1 X1 
1   0  1 X1  1 
Y  1 X  
      X   


0
2
1 2 
2
  =

+  2 =  0
+  2


...  ......   1  ...  .................. ... 
  

  
  

Yn  1 Xn 
 n   0  1 Xn   n 
  0  1 X1  1 
   X   
1 2
2
= 0
...................... 


  0  1 Xn   n 
Chú ý r ng X  là véct và t E{Yi} = o  1 Xi , ta có :

SV L u Th Ph

ng-K30B CN

24

(1.11)


Khoá lu n t t nghi p

GV Nguy n Trung D ng

 E{Y1} 



E Y2 

, E    0 , t c là
E{Y}  X , E{Y} 
n.1
.........  n.1
n.1
n.1


 E{Yn } 

 2 0

0 2
2
2
2

     I , v i    
... ...
n.n
n.n
n.n

0 0

 E{1}  0 


  
 E  2   0  ,
.........  ...

  
 E{ n }  0 

0 

0 ... 0 
.
... ... ... 

0 ...  2 

0 ...

V y d ng ma tr n c a mô hình h i qui tuy n tính đ n (1.9) là :

Y  X  

(1.13)

, trong đó :

 là vect ng u nhiên có phân ph i chu n v i E   và  2     2 I .
1.6.2.

 Ph


cl

ng bình ph

ng bé nh t c a tham s h i qui

ng trình chu n
nˆ0  ˆ1  Xi   Yi

(1.14)

ˆ0  Xi  ˆ1  Xi2  XiYi
Có d ng ma tr n
 ˆ  XY

XX
2.2

2.1

2.1

(1.15)

trong đó ˆ là vect c a các h s h i qui bình ph
 ˆ0 
ˆ
  
2.1

 ˆ1 
1 1 ... 1   n
 
XX

2.2
X
X
...
X
 1 2
n
  Xi

SV L u Th Ph

ng-K30B CN

 X 
 X 
i

2
i

25

ng bé nh t