ĐẠI HỌC ĐÀ NẴNG
TRƯỜNG ĐẠI HỌC SƯ PHẠM
KHOA TOÁN
========
Đề tài:
PHƯƠNG PHÁP ƯỚC LƯỢNG ĐIỂM
Giáo viên hướng dẫn
Sinh viên thực hiện
Lớp
: ThS. Tôn Thất Tú
: Trịnh Thị Thảo Hằng
: 10CTT1
Đà Nẵng, tháng 5 năm 2014
MỤC LỤC
MỞ ĐẦU ....................................................................................................................3
PHẦN NỘI DUNG ....................................................................................................5
Chương 1: KIẾN THỨC CHUẨN BỊ.....................................................................5
1. Đại lượng ngẫu nhiên......................................................................................5
2. Hàm phân phối ................................................................................................6
3. Một số đặc trưng của ĐLNN...........................................................................6
4. Một số hàm đặc biệt ........................................................................................8
5. Phân phối liên tục tuyệt đối.............................................................................9
6. Môment bậc k................................................................................................12
7. Hội tụ theo xác suất – Luật số lớn.................................................................12
8. Khái niệm mẫu ..............................................................................................13
9. Các số đặc trưng mẫu ....................................................................................16
10. Phân phối của một số đặc trưng mẫu ..........................................................16
Chương 2: PHƯƠNG PHÁP ƯỚC LƯỢNG ĐIỂM ............................................20
1. Định nghĩa ....................................................................................................20
2. Phân loại ước lượng điểm .............................................................................20
3. Phương pháp mômen ....................................................................................25
3.1. Giới thiệu................................................................................................25
3.2. Phương pháp giải ...................................................................................25
3.3. Một số ví dụ ...........................................................................................25
4. Phương pháp hợp lí cực đại ..........................................................................33
4.1. Giới thiệu................................................................................................33
4.2. Phương pháp giải ...................................................................................33
4.3. Một số ví dụ ...........................................................................................34
KẾT LUẬN ..............................................................................................................40
TÀI LIỆU THAM KHẢO ......................................................................................41
Trang 1
Để hồn thành khóa luận này, tơi xin chân thành bày tỏ lịng biết
ơn sâu sắc đến thầy Tơn Thất Tú, người đã hướng dẫn, giúp đỡ tơi
tận tình, chu đáo trong suốt q trình thực hiện đề tài này.
Tơi cũng xin chân thành gởi lời cảm ơn chân thành đến q thầy
cơ trong khoa Tốn, các thầy cơ trong ban Quản lý Thư viện thuộc
trường Đại Học Sư Phạm – Đại Học Đà Nẵng đã tạo điều kiện cho
tôi thực hiện khóa luận này.
Nhân đây tơi cũng xin gởi lời cảm ơn đến gia đình, bạn bè đã
quan tâm, động viên và đã nhiệt tình giúp đỡ tơi trong q trình học
tập và hồn thành khóa luận này.
Trong q trình làm luận văn, mặc dù đã có sự cố gắng và nỗ lực
hết sức, nhưng khóa luận sẽ khơng tránh khỏi những thiếu sót. Rất
mong nhận được sự đóng góp q báu của các thầy cơ giáo và các
bạn sinh viên, để khóa luận của tơi được hồn thiện hơn.
Tôi xin chân thành cảm ơn!
Đà nẵng, ngày 19 tháng 5 năm 2014
Sinh viên thực hiện
Trịnh Thị Thảo Hằng
Trang 2
MỞ ĐẦU
1. Lí do chọn đề tài
Lý thuyết xác suất là một ngành toán học ra đời vào khoảng thế kỷ XVII. Dưới
sự nghiên cứu của nhiều nhà Toán học, cho đến nay nó đang là một trong những
ngành khoa học phát triển cả về lý thuyết cũng như ứng dụng. Nó được ứng dụng
rộng rãi trong hầu hết các lĩnh vực khoa học tự nhiên, khoa học xã hội, khoa học
giáo dục và các ngành kinh tế, kĩ thuật, y học, … Đối tượng nghiên cứu của xác suất
là các hiện tượng ngẫu nhiên, quy luật ngẫu nhiên mà chúng ta thường gặp trong
thực tế.
Trong nhiều bài toán, ta thu được mẫu dữ liệu với phân phối đã biết nhưng phụ
thuộc vào các tham số chưa biết. Do đó, vấn đề đặt ra là dựa vào mẫu dữ liệu quan
sát chúng ta phải rút ra được các thông tin về giá trị của các tham số này. Có nhiều
phương pháp để giải quyết trong đó có một phương pháp xây dựng giá trị xấp xỉ của
nó. Người ta gọi phương pháp này là phương pháp ước lượng điểm.
Với vấn đề cần quan tâm như vậy, dưới sự hướng dẫn của Thầy Th.S Tôn Thất
Tú, đề tài Phương pháp ước lượng điểm đã được chọn làm đề tài nghiên cứu cho
khóa luận tốt nghiệp của tơi.
2. Mục đích chọn đề tài
Tìm hiểu, nghiên cứu về phương pháp ước lượng điểm trong đó chủ yếu là vận
dụng lý thuyết ước lượng điểm để giải một số bài toán về ước lượng.
3. Đối tượng và phạm vi nghiên cứu
Đối tượng nghiên cứu là phương pháp ước lượng điểm. Ở đây tôi chỉ dừng lại ở
mức độ nghiên cứu và vận dụng lý thuyết ước lượng điểm để xây dựng ước lượng
các tham số thống kê.
4. Phương pháp nghiên cứu
Nghiên cứu tài liệu, phân tích, giải thích, chứng minh, nhận xét, tổng hợp.
5. Ý nghĩa khoa học và thực tiễn của đề tài
Trình bày hai phương pháp giải là phương pháp mômen và hợp lý cực đại cùng
Trang 3
một số ví dụ minh họa cho hai phương pháp trên nhằm xây dựng một tài liệu tham
khảo cho những ai nghiên cứu về ước lượng trong bộ môn lý thuyết xác suất.
6. Tóm tắt nội dung của khóa luận
Nội dung khóa luận gồm hai chương:
Chương 1: Kiến thức chuẩn bị, bao gồm các kiến thức liên quan đến đại lượng
ngẫu nhiên, hàm phân phối, một số đặc trưng của đại lượng ngẫu nhiên, luật số lớn
và lý thuyết mẫu.
Chương 2: Phương pháp ước lượng điểm. Đây là nội dung chính của khóa luận.
Trong chương này trình bày một số định nghĩa, định lý, phân loại ước lượng điểm,
phương pháp ước lượng mômen, phương pháp hợp lý cực đại và một số ví dụ minh
họa.
Trang 4
PHẦN NỘI DUNG
Chương 1: KIẾN THỨC CHUẨN BỊ
1. Đại lượng ngẫu nhiên
1.1. Định nghĩa
Cho (, A, P ) là một không gian xác suất. Ánh xạ X : được gọi là đại
lượng ngẫu nhiên (ĐLNN) nếu X là hàm đo được, tức là:
a ,{ : X ( ) a} A.
Để đơn giản ta kí hiệu [X B ] { : X ( ) B}.
1.2. Tính chất
(i) Nếu X, Y là các ĐLNN trên (, A, P ), a, b thì aX bY , X Y , X / Y (Y 0),
max{X,Y}, min{X, Y} cũng là các ĐLNN trên (, A, P ) .
(ii) Nếu X là ĐLNN trên (, A, P ) , g là hàm đo được trên thì g(X) là ĐLNN
trên (, A, P ) .
1.3. Đại lượng ngẫu nhiên độc lập
1.3.1. Một vài định nghĩa
(i) Hai ĐLNN X1 , X2 được gọi là độc lập nếu với mọi số thực a1 , a2 ta có:
P([ X1 a1 ] [ X2 a2 ]) P( X1 a1 ).P( X2 a2 )
(ii) Nhóm n ĐLNN X1 , X2 ,..., X n được gọi là độc lập nếu với mọi số thực
a1 , a2 ,..., an ta có:
n
n
P [ X k ak ] P( X k ak )
k 1
k 1
(iii) Dãy các ĐLNN X n , n 1 được gọi là độc lập đôi một nếu hai ĐLNN bất kỳ
của dãy độc lập.
(iv) Dãy các ĐLNN X n , n 1 được gọi là độc lập nếu mọi tập con hữu hạn các
ĐLNN của dãy độc lập.
Trang 5
1.3.2. Tính chất
Nếu X1 , X2 ,..., X n là các ĐLNN độc lập g1 , g2 ,..., gn là các hàm Borel đo được
trên thì gi ( Xi ), i 1, n cũng độc lập.
2. Hàm phân phối
2.1. Định nghĩa
Trong không gian xác suất (, A, P ) cho ĐLNN X. Ta gọi hàm thực F ( x ) được
xác định bởi hệ thức: F ( x ) FX ( x ) P( X x ), x là hàm phân phối của X. Rõ
ràng khi X là ĐLNN thì [ X x ] A nên hàm phân phối xác định x .
2.2. Tính chất
Hàm phân phối F ( x ) của X trên (, A, P ) có tính chất:
(i) 0 F ( x ) 1, x .
(ii) Nếu x1 x2 thì F ( x1 ) F ( x2 ).
(iii) lim F ( x ) 1, lim F ( x ) 0.
x
x
(iv) F ( x ) liên tục trái trên .
3. Một số đặc trưng của ĐLNN
3.1. Kì vọng tốn học
3.1.1. Định nghĩa
a) Kì vọng của ĐLNN rời rạc
Giả sử X là ĐLNN rời rạc với miền giá trị {xi , i I} , nếu:
| x
iI
i
| P ( X xi )
hội tụ thì giá trị
E (X) xi P( X xi )
iI
được gọi là kì vọng tốn của X
b) Kì vọng của ĐLNN lttđ
Giả sử X là ĐLNN lttđ với hàm mật độ f ( x ) , nếu:
| x | f ( x )dx
Trang 6
thì giá trị
E( X )
xf ( x )dx
được gọi là kì vọng tốn của X
Kí hiệu: Trong cả hai trường hợp, người ta thường kí hiệu tốn học là E (X) hay EX .
Dựa và định nghĩa trên ta có thể thấy kì vọng tốn EX thực chất là tích phân Lebesgue
trừu tượng của X theo độ đo P trên , tức là:
EX X dp
3.1.2 Tính chất và ý nghĩa của kì vọng
a) Tính chất
Trong điều kiện tồn tại, kì vọng tốn có tính chất sau:
(i) EC C ( C const )
(ii) | EX | E | X |
(iii) Neáu X Y thì EX EY
(iv) E (aX bY ) aEX bEY , trongđó X , Y là các ĐLNN và a, b là các số thực.
(v) Ta coù : inf X ( ) EX sup X ( )
(vi) E ( XY ) EX . EY với X , Y độc lập
b) Ý nghĩa của kì vọng
Kì vọng EX là đại lượng đặc trưng cho giá trị trung bình của các giá trị của
ĐLNN X .
3.2. Phương Sai
3.2.1. Định nghĩa
Giả sử X là đại lượng ngẫu nhiên có kỳ vọng E ( X ) . Ta gọi phương sai của đại
lượng X là một số ký hiệu D( X ) được xác định như sau:
D( X ) E [( X E ( X ))2 ]
với điều kiện tồn tại kỳ vọng
Như vậy:
Nếu X là đại lượng ngẫu nhiên rời rạc có bảng phân phối xác suất:
Trang 7
X
x1
x2
…
P
p1
p2
…
xn …
pn …
Khi đó:
n
D( X ) xi2 pi (E ( X ))2
i 1
Nếu X là đại lượng ngẫu nhiên liên tục có hàm mật độ f ( x )
Khi đó:
D( X ) x 2 f ( x )dx ( E ( X ))2
3.2.2. Tính chất của phương sai
(i) DC 0( C const)
(ii) D(CX ) C 2 D( X )( C const)
(iii) D( X ) E ( X 2 ) ( E ( X ))2
(iv) X , Y độc lập: D( X Y ) D( X ) D(Y )
3.2.3. Ý nghĩa
Phương sai là đại lượng đặc trưng cho mức độ tập trung quanh kỳ vọng EX của
các giá trị của ĐLNN X.
Phương sai DX càng nhỏ thì nhìn chung các giá trị của X càng gần với giá trị
trung bình EX, phương sai càng lớn thì các giá trị của X càng phân tán xa EX.
4. Một số hàm đặc biệt
4.1. Hàm gamma
4.1.1. Định nghĩa
Với mọi p 0 ta có tích phân:
( p) x p 1e x dx
0
hội tụ, do đó nó xác định một hàm p, gọi là hàm gamma hay tích phân Euler loại 2.
4.1.2. Tính chất của hàm gamma
(i)
(1) 1.
(ii)
( p 1) p( p) với p 0.
Trang 8
(iii)
(n 1) n!
(iv)
1
( )
2
4.2. Hàm Bêta
4.2.1. Định nghĩa
Với p 0, q 0 thì tích phân sau được Euler chứng minh là luôn hội tụ và được
gọi là hàm Bêta hay tích phân Euler loại 1.
1
(p,q) t p 1 (1 t )q1 dt
0
4.2.2. Tính chất của hàm Bêta
(i)
(ii)
(iii)
(iv)
( p, q) B(q, p)
p 1
B( p 1, q)
p q 1
(n 1)!(m 1)!
( p, q)
Với n, m N
(m n 1)!
( p).(q)
( p, q)
( p q )
( p, q)
5. Phân phối liên tục tuyệt đối
5.1. Định nghĩa
ĐLNN X được gọi là có phân phối liên tục tuyệt đối (lttđ) nếu hàm phân phối của
X lttđ trên .
5.2. Hàm mật độ của phân phối liên tục tuyệt đối
5.2.1. Định nghĩa
ĐLNN X có phân phối lttđ nếu và chỉ nếu tồn tại hàm f ( x ) 0 trên sao cho:
F( x)
x
f (u)du x .
Khi đó ta gọi f ( x ) là hàm mật độ của X. Cũng từ định nghĩa ta có:
f (x)
dF ( x )
(h.k .n).
dx
5.2.2. Tính chất
Nếu X là ĐLNN có phân phối lttđ với hàm mật độ f ( x ) thì:
Trang 9
(i)
f ( x )dx 1.
(ii)
x , P( X x ) 0.
b
(iii) a, b , a b, P(a X b) f ( x )dx FX (b) FX (a).
a
5.2.3. Một số phân phối lttđ thường gặp
5.2.3.1. Phân phối đều
ĐLNN X được gọi là có phân phối đều trên [a, b] nếu:
1
neáu x [a, b]
f ( x) fX ( x) b a
0
neáu x [a, b]
Khi đó hàm phân phối có dạng:
0
nếu x a
x
x a
F( x ) f (u)du
neáu a x b
b
a
nếu x b
1
Kí hiệu: X U [a, b].
5.2.3.2. Phân phối mũ
ĐLNN X được gọi là có phân phối mũ tham số ( 0) nếu:
1 x
e neáu x 0
f ( x )
0
nếu x 0
Khi đó hàm phân phối có dạng:
x
F ( x ) 1 e nếu x 0
neáu x 0
0
5.2.3.3. Phân phối gamma
ĐLNN X được gọi là có phân phối gamma tham số , p , kí hiệu
X G ( , p) nếu:
p p 1 x
x e neáu x 0
f ( x ) ( p )
0
Trang 10 neáu x 0
trong đó , p là các hằng số dương.
5.2.3.4. Phân phối bêta
ĐLNN X được gọi là có phân phối bêta với 2 tham số , nếu hàm mật độ:
f ( x)
( ) a 1
x (1 x) 1
( ).( )
0 x 1; , 0
5.2.3.5. Phân phối chuẩn
ĐLNN X được gọi là có phân phối chuẩn N (a, 2 ) nếu :
f (x)
1
2 2
e
( x a )2
2 2
x
trong đó a, là các hằng số dương.
Kí hiệu: X N (a, 2 )
Khi a 0, 1 ta có phân phối chuẩn chính tắc X N (0,1) với hàm mật độ là:
f (x)
1
2
e
x2
2
x
5.2.3.6. Phân phối Poisson
Giả sử là một số thực dương, ta nói X là ĐLNN có phân phối Poisson với
tham số nếu:
Im( X ) {0,1,2,...}
e k
P[
X
k
]
k Im (X)
k!
Kí hiệu: X P ( )
Rõ ràng hệ xác suất:
pk P[X k ]
e k
0 k Im ( X )
k!
và
e k
k
pk
e
e .e 1
k!
k 0
k 0
k 0 k !
Trang 11
5.2.3.7. Phân phối nhị thức
Đại lượng ngẫu nhiên X được gọi là có phân phối nhị thức tham số n, p nếu:
Im( X ) {0,1,2,..., n}
k k
nk
k 0, n
P[X k ] Cn p (1 p)
trong đó p là một hằng số, 0 p 1
Kí hiệu X B(n, p), đặc biệt B(1, p) có tên gọi là phân phối Bernoulli tham số p.
BẢNG GIÁ TRỊ KỲ VỌNG VÀ PHƯƠNG SAI CỦA MỘT SỐ PHÂN PHỐI
THƯỜNG GẶP
Phân phối
Kỳ vọng
Phương sai
B ( n, p )
n. p
np (1 p)
P ( )
P ( p)
p
1 p
p
(1 p)2
U ( a, b )
ab
2
(b a)2
12
G( , p)
p
p
2
a
2
N ( a, 2 )
6. Môment bậc k
k
Nếu đại lượng ngẫu nhiên X có X L1 (k 0, k ) thì M k ( X ) X k dP
được gọi là moment bậc k của X .
7. Hội tụ theo xác suất – Luật số lớn
7.1. Hội tụ theo xác suất
Dãy đại lượng ngẫu nhiên {X n , n 1} được gọi là hội tụ theo xác suất đến X nếu:
0, P[ : X n ( ) X ( ) ] 0(n )
Trang 12
P
X (n ) .
Kí hiệu: X n
7.2. Luật số lớn
7.2.1. Định nghĩa
Ta nói họ đại lượng ngẫu nhiên {X n , n 1} tuân theo luật số lớn (dạng
Tchébyshev) nếu 0 :
1 n
1 n
P X k EX k 1 (n )
n k 1
n k 1
Như vậy điều kiện ban đầu để xem họ ĐLNN có tn theo luật số lớn (LSL) hay
khơng là chúng phải có các kì vọng EX k , k 1
Hệ thức tương đương của định nghĩa:
{X n , n 1} tuân theo LSL
1 n
1 n
1 n
P
0, P X k EX k 0 (n ) ( X k EX k )
0 (n )
n k 1
n k 1
n k 1
7.2.2. Bất đẳng thức Tchébyshev
Nếu X là ĐLNN có mơmen bậc 2 hữu hạn thì 0,
P[| X EX | ]
D( X )
2
.
7.2.3. Định lí Tchébyshev
Nếu {X n , n 1} là họ ĐLNN độc lập có phương sai bị chặn đều, tức là tồn tại
hằng số C, sao cho DX k C , k 1, thì nó tn theo LSL.
7.2.3. Hệ quả
Nếu {X n , n 1} là họ ĐLNN độc lập, cùng phân phối, có kì vọng chung hữu hạn
là a, phương sai chung 2 thì khi n , ta có:
1 n
P
X k
a
n k 1
8. Khái niệm mẫu
Nhiều bài toán thực tế dẫn đến việc nghiên cứu một hay nhiều dấu hiệu định tính
(mức độ hài lịng của khách hàng, đánh giá chất lượng sản phẩm,…) hay định lượng
Trang 13
(thu nhập bình quân của người dân, năng suất giống cây trồng,…) đặc trưng cho các
phần tử của một tập hợp nào đó. Để làm việc này người ta tiến hành thu thập các
mẫu dữ liệu làm cơ sở cho các phép phân tích và đánh giá các dấu hiệu đó.
8.1. Tổng thể và mẫu ngẫu nhiên
- Tồn bộ tập hợp các phần tử đồng nhất theo một dấu hiệu nghiên cứu định tính
hay định lượng nào đó được gọi là tổng thể.
- Số lượng phần tử của tổng thể được gọi là kích thước của nó. Kích thước của
tổng thể có thể vơ hạn.
- Mỗi phần tử của tổng thể được gọi là các thể.
- Việc chọn ra một tập con nào đó của tổng thể gọi là phép lấy mẫu. Tập con này
được gọi là một mẫu.
- Ta nói rằng một mẫu là ngẫu nhiên nếu trong việc chọn các cá thể được tiến
hành độc lập và có xác suất chọn như nhau. Nói các khác, một mẫu ngẫu nhiên kích
thước n từ tổng thể có phân phối theo đại lượng ngẫu nhiên X có thể xem như một
bộ n đại lượng ngẫu nhiên { X 1 , X 2 ,..., X n } độc lập và có cùng phân phối với X .
- Giả sử xi là giá trị quan sát của X i , i 1, n khi đó bộ n giá trị {x1 , x2 ,..., xn } được
gọi là mẫu thực nghiệm.
- Cho mẫu ngẫu nhiên { X 1 , X 2 ,..., X n } . Khi đó một hàm đo được
T T ( X 1 , X 2 ,..., X n )
được gọi là một thống kê trên mẫu ngẫu nhiên
{ X 1 , X 2 ,..., X n } .
8.2. Phương pháp lấy mẫu đơn giản
a) Mẫu ngẫu nhiên chọn có hồn lại: Từ tập hợp tổng qt gồm N phần tử ta
chọn ngẫu nhiên 1 phần tử, khảo sát và ghi lại kết quả X1 . Sau đó hồn phần tử đó
vào tập tổng qt, rồi chọn ngẫu nhiên phần tử thứ hai khảo sát và ghi lại kết quả
X 2 . Sau đó ta hồn lại phần tử này vào tập tổng quát và tiếp tục chọn ngẫu nhiên
phần tử thứ ba v.v.. Lặp lại như thế đến n lần. Ta nhận được dãy kết quả
( X1 , X2 ,..., X n ) . Mẫu ngẫu nhiên này được gọi là mẫu ngẫu nhiên chọn có hồn lại.
Trang 14
b) Mẫu ngẫu nhiên khơng hồn lại: Trên đám đơng gồm N phần tử, chọn
ngẫu nhiên khơng hồn lại và quan sát n lần ta được mẫu ( X1 , X2 ,..., X n ) khơng
hồn lại. Nhìn chung mẫu khơng hồn lại khơng phải là mẫu độc lập. Song nếu N
rất lớn so với kích thước mẫu n thì mẫu khơng hồn lại cũng có thể coi là đồng nhất
với mẫu ngẫu nhiên hoàn lại, nghĩa là khi đó ta cũng có mẫu ngẫu nhiên độc lập.
c) Mẫu cơ học: Để chọn mẫu cơ học ta phải đánh số tất cả các phần tử của đám
đông , ấn định một kích thước n của mẫu, rồi dùng bảng số ngẫu nhiên và quan
sát các cá thể có chỉ số được tìm thấy trong bảng số ngẫu nhiên.
d) Mẫu ngẫu nhiên đặc trưng: Từ đám đông ta chọc một mẫu với một tỉ lệ nào
đó: 15%, 20% hay 30%... Ta phân thành các nhóm, từ mỗi nhóm ta chọn theo tỉ
lệ đã định bằng một trong các cách trên.
8.3. Các loại mẫu thường sử dụng:
- Mẫu đơn giản: Mẫu được chọn trực tiếp từ danh sách đã đánh số của tổng thể
bằng các rút ngẫu nhiên n phần từ theo một bảng số ngẫu nhiên nào đó.
- Mẫu hệ thống: Phần tử đầu tiên của mẫu được chọn ngẫu nhiên, sau đó dựa trên
danh sách đã đánh số của tổng thể để chọn các phần tử cịn lại theo một thủ tục nào
đó.
- Mẫu chùm: Tổng thể được chia ra làm nhiều chùm theo nguyên tắc: Mỗi phần
tử chỉ thuộc vào một chùm, mỗi chùm chứa nhều phần tử khác nhau về dấu hiệu
nghiên cứu và có độ phân tán như của tổng thể, quy mơ các chùm tương đối đồng
đều nhau. Sau đó,, ngon ngẫu nhiên 1 số chùm và nghiên cứu tất cả các phần tử của
những chùm đó.
- Mẫu phân tổ: Chia tổng thể ra làm các tổ có độ thuần nhất cao nhất giữa các
phần tử và sau đó chọn ngẫu nhiên 1 số phần tử ở mỗi tổ để làm đại diện cho tổ đó.
- Mẫu nhiều cấp: Nếu các phần tử của tổng thể phân tán quá rộng và thiếu thơng
tin về chúng, người ta có thể tiến hành chọn mẫu theo nhiều cấp được đánh số,
chẳng hạn mẫu cấp 1, mẫu cấp 2,… Việc chọn mẫu ở mỗi cấp được tiến hành dựa
trên thông tin về dấu hiệu nghiên cứu ở cấp ấy và có thể thực hiện theo phương
pháp mẫu đơn giản, mẫu hệ thống, mẫu chùm hay mẫu phân tổ.
Trang 15
9. Các số đặc trưng mẫu
a) Trung bình mẫu
- Với mẫu {x1 , x2 ,..., xn } thì trung bình mẫu:
x1 x2 ... xn 1 n
x
xi
n
n i 1
- Với mẫu có dạng
X
xi
x2
x3
…
xk
Tần số
n1
n2
n3
…
nk
x
n1 x1 n2 x2 ... nk xk 1 n
ni xi
n
n i 1
b) Phương sai mẫu
- Với mẫu {x1 , x2 ,..., xn } thì:
Phương sai mẫu: S 2
1 n
1 n 2
2
(
X
X
)
Xi X 2 X 2 X 2
i
n i 1
n i 1
Phương sai mẫu hiệu chỉnh: S 2
1 n
( X i X )2
n 1 i 1
Với mẫu có dạng:
X
xi
x2
x3
…
xk
Tần số
n1
n2
n3
…
nk
Phương sai mẫu: S 2
1 n
1 n
2
n
(
x
x
)
ni xi2 x 2
i
i
n i 1
n i 1
Phương sai mẫu hiệu chỉnh: S 2
1 n
n 2
ni ( xi x ) 2
S
n 1 i 1
n 1
10. Phân phối của một số đặc trưng mẫu
Mệnh đề 1
Nếu X là đặc tính chuẩn N (a, 2 ),( X1 , X2 ,..., X n ) là mẫu ngẫu nhiên độc lập của
X thì:
Trang 16
i) X
1 n
X k và S 2 là độc lập với nhau
n k 1
ii) X N (a,
(n 1)S 2
iii)
2
2
)
n
2 (n 1)
Chứng minh
i) Ta công nhận kết quả này
ii) Do mẫu độc lập và tính duy nhất của hàm đặc trưng
n
x (t ) E (e ) E (e
it X
1
it . . Xi
n i1
) E (e
1
it . .( X1 X2 ... X n )
n
n
) E ( e
it
.X
n i
i 1
n
) Ee
i 1
it
.X
n i
n
Xi (t )
i 1
n
Theo giả thiết ta có: X N (a, )
2
X (t ) e . X ( t) e
ita
n
n
ita 2 .
t2
2
ita
n
n
X (t) e X ( t) e
i 1
i
i
i 1
n
ita 2 t 2
n 2 n2
e
n(
ita 2 t 2
)
n 2 n2
e
i 1
n
iii) Từ (ii) ta có được X N (a,
2
n
ita
2t2
2n
X N ( a,
2
n
)
)
Ta coù :
n
(X
i 1
n
i
n
n
a) [( Xi X ) ( X a)] (Xi X ) 2( X a) (Xi X ) n( X a)2
2
2
i 1
2
i 1
i 1
n
(Xi X )2 n( X a)2
i 1
Vaäy :
n
i 1
( X i a )2
2
n
( X i X )2
i 1
2
(n 1)
2
n( X a ) 2
2
(n 1)( Xi X )2 n( X a)2
(n 1) 2
2
i 1
n
1
n( X a)2 n 1 n 1 2
2
(n 1) ( Xi X ) 2 2 2 S Z 2
Từ i) X và S 2 độc lập nên
n 1
S 2 và Z 2 cũng độc lập
Trang 17
Từ
Và
Xi a
n 1
2
( X i a )2
N (0,1)
n
S2
( X i X )2
i 1
2
n
(1)
2
2
( X i a )2
i 1
2
2 ( n)
2 (n 1) (Ñpcm)
Mệnh đề 2
Nếu ( X1 , X2 ,...,X n ) là mẫu độc lập của đặc tính chuẩn N (a, 2 ) thì:
t
X a
X a
n 1
n T (n 1)
*
S
S
Chứng minh
Ta có
n 1
S *2
n 1
1
( X X )2
n i 1 i
n
n
1
( X X )2
n a i 1 i
n
n
n
2
S
S
Do đó:
t
Từ (ii) ta có: X
n ( X a)
n
Từ (iii) ta có: Y
i 1
N (0,1)
( Xi X )2
2
X a
X a
n 1
n (1)
*
S
S
2 (n 1)
Theo định nghĩa phân phối student (n 1) bậc tự do ta có: X N (0,1), Y 2 (n 1)
Khi đó phân phối của đại lượng ngẫu nhiên là:
T (n 1)
X
Y
n 1
n ( X a)
T (n 1) (2)
S
Tương tự ta cũng có
Trang 18
X
Y
n 1
n ( X a)
n
i 1
( X i X )2
2
n 1
Từ (1) , (2) và (3)
n 1( X a)
( X i X )2
n
i 1
n 1( X a)
n
S *2
n 1( X a)
T (n 1)
S*
X a
X a
n 1
n T (n 1) (Ñpcm)
*
S
S
Trang 19
Chương 2: PHƯƠNG PHÁP ƯỚC LƯỢNG ĐIỂM
1. Định nghĩa
Cho mẫu dữ liệu ngẫu nhiên {X1 , X2 ,..., X n} từ phân phối phụ thuộc tham số
ˆ ˆ
chưa biết. Khi đó, một hàm ( X1 , X2 ,..., X n ) chỉ phụ thuộc vào mẫu
{X1 , X2 ,..., X n} được gọi là một ước lượng của tham số .
2. Phân loại ước lượng điểm
2.1. Định nghĩa
a) Ước lượng không chệch (Ước lượng trúng): Ước lượng T ( X1 , X2 ,..., X n ) của
( ) được gọi là ước lượng không chệch nếu:
E{T(X1 , X2 ,..., X n )} ( )
- Ước lượng không chệch tiệm cận: Ước lượng T ( X1 , X2 ,..., X n ) của ( ) được
gọi là ước lượng không chệch tiệm cận nếu:
n
E{T(X1 , X2 ,..., X n )}
( )
b) Ước lượng vững (Ước lượng nhất quán): Ước lượng T ( X1 , X2 ,..., X n ) của ( )
được gọi là ước lượng vững (nhất quán) nếu:
P
T(X1 , X2 ,..., X n )
( ) (n )
c) Ước lượng tốt nhất: Ước lượng T ( X1 , X2 ,..., X n ) của ( ) được gọi là tốt nhất
nếu nó có phương sai bé nhất trong tất cả các ước lượng không chệch của ( )
D(T ( X1 , X2 ,..., X n )) min DT ' ( X1 , X2 ,..., X n )
E ( T ' ) ( )
2.2. Ví dụ
Ví dụ 1: Cho X có đặc tính N (a, 2 ), ( X1 , X2 ,..., X n ) là mẫu của X , khi đó:
a)
X
b) S 2
1 n
X là ước lượng khơng chệch và vững của a.
n i 1 i
1 n
( Xi X )2 là ước lượng không chệch của 2 .
n 1 i 1
Trang 20
Giải
Ta có: X
1 n
1 n
X
EX
EX
n i 1 i
n i 1 i
Theo giả thiết X N (a, 2 ) nên Xi N (a, 2 ) ( Vì ( X1 , X2 ,..., X n ) là mẫu độc
lập của X ) và EXi a ; DXi 2
Vaäy EX
1
n a a X là ước lượng không chệch của a
n
Mặt khác theo định lí Tchébyshev về luật số lớn ta có:
X
1 n
P
Xi
a(n )
n i 1
Vậy X là ước lượng vững của a.
a)
S2
1 n
( Xi X )2 , a EXi
n 1 i 1
Ta có:
n
(X
i 1
i
n
n
n
X ) [(Xi a) ( X a)] (Xi a) 2(X a) (Xi a) n( X a)2
2
2
i 1
2
i 1
i 1
n
(Xi a)2 n( X a)2
i 1
S2
1 n
(Xi a)2 n( X a)2
n 1 i 1
1 n
1 n 2
E(Xi a)2 nE( X a)2
X n. X2
n 1 i 1
n 1 i 1
n
1
1
Vaäy ES2
X2 n. X2
(n. 2 2 ) 2
n 1 i 1
n 1
Do đó ES2
i
i
S 2 là ước lượng khơng chệch của 2 .
Theo bất đẳng thức Tchébyshev ta có: P[ | X EX | ]
P[ | S 2 2 | ]
DS 2
2
2. 4 (n 1) P
0 (n )
n2 . 2
Vậy S 2 là ước lượng vững.
Trang 21
D( X )
2
, 0
2.3. Định lý
Cho mẫu dữ liệu {X1 , X2 ,..., X n} qua sát từ đại lượng ngẫu nhiên X có kỳ vọng
E ( X ) a và phương sai D ( X ) 2 . Khi đó:
-
X
1 n
X là ước lượng khơng chệch và vững của a.
n i 1 i
-
S2
1 n
( Xi X )2 là ước lượng không chệch của 2 .
n 1 i 1
2.4. Nhận xét
Xét mô hình n dãy phép thử Bernoulli với xác suất xảy ra biến cố A trong mỗi
phép thử là p P ( A) . Gọi Xi là số lần xảy ra biến cố A ở phép thử thứ i, i 1, n .
Khi đó, X
1 n
X là ước lượng không chệch và vững của xác suất p , hay nói dễ
n i 1 i
hiểu hơn, tần suất với k là số lần xuất hiện biến cố A, là một ước lượng không
chệch và vững của p. Điều này giải thích cho tính đúng đắn của định nghĩa xác suất
theo quan điểm thống kê.
2.5. Phân phối C – R chính quy
Họ { f ( x, ), } được gọi là họ phân phối C – R chính quy hay chính quy
Cramer – Rao nếu các điều kiện sau được thỏa mãn:
(i ) Không gian tham số là R hay khoảng nào đó {x : f ( x, ) 0} .
(ii ) Với thì
(iii )
f ( x, )
tồn tại và hữu hạn.
i f ( x, )
dx , i 1, 2
i
2
ln f ( X , )
(iv) E
J ( ) ,
Các phân phối thường gặp như chuẩn, mũ, poisson, …. đều là các phân phối CR chính quy:
2
ln f ( X , )
Đại lượng J ( ) E0
được gọi là lượng thông tin
Trang 22
2 ln f ( X , )
Nhận xét: J ( ) E
2
2.6. Bất đẳng thức Cramer – Rao
Giả sử {f ( x , ), } là họ phân phối C – R chính quy, ( ) là hàm khả vi của
, T ( X1 , X2 ,..., X n ) là ước lượng không chệch của ( ) . Khi đó với ta có:
DT ( X1 , X2 ,...,X n )
[ ( )]2
ln f ( X1 , X2 ,...,X n )
D
ˆ
Ở đây ( )
2.7. Ước lượng không chệch hiệu quả
Ước lượng T ( X ) không chệch của ( ) được gọi là hiệu quả nếu:
D[T ( X )]
[ ( )]2
nghĩa là DT ( X ) đạt được cận dưới Cramer – Rao và với họ
nJ ( )
C – R chính quy thì ước lượng hiệu quả chính là ước lượng khơng chệch tốt nhất.
2.8. Ví dụ
Ví dụ 1: Cho ( X 1 , X 2 ,..., X n ) là mẫu ngẫu nhiên độc lập của đặc tính X có phân
phối mũ với hàm mật độ:
1 x
f ( x, ) e ; x 0, 0 .
n
Chứng minh X
1 n
X i là ước lượng hiệu quả của .
n i 1
Giải
Ta có: EX
1 n
1
EX i n
n i 1
n
(do EX ). Nên X là ước lượng không
chệch của ( ( ))
DX
1 n
1
2
DX
n
DX
(do DX 2 )
i
2
2
n i 1
n
n
- Tính J ( )
Trang 23
Ta có: ln f ( x, ) ln
x
ln f ( x, )
1 x
2 ln f ( x, ) 1 2 x
2
2 3
2
2
ln f ( X , ) 1 2 EX
1
2
1
E
2 3 2 2 2
2
2 ln f ( X , ) 1
Vậy J ( ) E
2
2
Từ đó DX
2
n
1
n
1
2
2
n
, đạt cận dưới Cramer – Rao.
Ví dụ 2: Cho ( X 1 , X 2 ,..., X n ) là mẫu độc lập đặc tính X có phân phối Poisson với
hàm mật độ:
f ( x, )
Chứng minh X
e x
( x 0,1, 2,...), 0 .
x!
1 n
X k là ước lượng hiệu quả của .
n k 1
Giải
Vì ( X 1 , X 2 ,..., X n ) độc lập, cùng phân phối X nên:
EX
1 n
1
1
EX k n EX n .
n k 1
n
n
Vậy X là ước lượng không chệch của .
DX
1 n
1
DX k 2 n DX
2
n k 1
n
n
2 ln f ( x, ) 1
I ( ) E
2
Vì ln f ( x, ) x ln ln( x !) nên:
2 ln f ( x, ) EX 1
2 ln f ( x, ) x
2 E
2
2
I ( )
1
Trang 24