Bài 1: Các phương pháp tìm ước lượng điểm

Mời các bạn cùng eLib tham khảo nội dung bài giảng Bài 1: Các phương pháp tìm ước lượng điểm sau đây để tìm hiểu về phương pháp hàm ước lượng, phương pháp ước lượng hợp lý tối đa.

Bài 1: Các phương pháp tìm ước lượng điểm

Bài 1: Các phương pháp tìm ước lượng điểm

1. Phương pháp hàm ước lượng

Mô tả phương pháp:

Giả sử cần ước lượng tham số θθ của đại lượng ngẫu nhiên X. Từ X ta lập mẫu ngẫu nhiên kích thước n:

WX=(X1,X2,...,Xn)WX=(X1,X2,...,Xn)

Chọn

ˆθ=f(X1,X2,...,Xn)ˆθ=f(X1,X2,...,Xn)

ˆθˆθ là hàm của các đại lượng ngẫu nhiên X1, X2, . . . , Xn nên nó là một đại lượng ngẫu nhiên, ˆθˆθ được gọi là hàm ước lượng của θθ. Trong thực tế người ta thường chọn hàm ước lượng như sau:

  • Chọn ˆθ=¯X=1nni=1Xiˆθ=¯¯¯¯¯X=1nni=1Xi nếu là ước lượng trung bình của tổng thể
  • Chọn ˆθ=S2=1n1ni=1(Xi¯X)2ˆθ=S2=1n1ni=1(Xi¯¯¯¯¯X)2 nếu là ước lương phương sai của tổng  thể
  • Chọn  ˆθ=F=1nni=1Xiˆθ=F=1nni=1Xi, nếu là ước lượng tỷ lệ tổng thể

Từ mẫu cụ thể WX = (X1, X2, . . . , Xn), ta tính giá trị của ˆθˆθ (ký hiệu là ˆθˆθ).

Tức là: ˆθ=f(x1,x2,....,xn)^θ=f(x1,x2,....,xn)

Ước lượng điểm của θθ chính là giá trị ˆθˆθ vừa tính được.

Các tiêu chuẩn lựa chọn hàm ước lượng

Ta thấy có vô số cách chọn dạng hàm f, tức có vô số đại lượng ngẫu nhiên ˆθˆθ có thể dùng làm hàm ước lượng của θθ. Vì vậy, cần đưa ra một tiêu chuẩn để đánh giá chất lượng của ước lượng. Từ đó lựa chọn được một hàm ước lượng “tốt hơn” theo một nghĩa nào đó.

Dưới đây ta sẽ xét một số tiêu chuẩn đó.

Ước lượng không chệch

Định nghĩa: ˆθˆθ được gọi là ước lượng không chệch của tham số θθ nếu: E(ˆθ)=θE(ˆθ)=θ

Ngược lại, nếu E(ˆθ)θE(^θ)θ thì ˆθˆθ được gọi là ước lượng chệch của θθ.

Ý nghĩa: Ta thấy (ˆθθ)(ˆθθ) là đại lượng ngẫu nhiên biểu thị sai số của ước lượng. Theo tính chất của kỳ vọng toán, ta có:

E(ˆθθ)=E(ˆθ)E(θ)=θθ=0E(ˆθθ)=E(ˆθ)E(θ)=θθ=0 nếu θθ là ước lượng không chệch.

Như vậy, ước lượng không chệch là ước lượng có sai số trung bình băng 0. Tức là giá trị của θθ không bị lệch về một phía, nếu dùng ˆθˆθ để ước lượng θθ thì không mắc phải sai số hệ thống. Rõ ràng trong hai loại ước lượng: chệch và không chệch thì ta nên chọn ước lượng không chệch.

Chú ý rằng, ˆθˆθ là ước lượng không chệch của θθ không có nghĩa là mọi giá trị của ˆθˆθ ,đều trùng khít với θθ mà chỉ có nghĩa là: Trung bình các giá trị của ˆθˆθ bằng θθ, một giá trị của ˆθˆθ có thể sai khác nhiều so với θθ. Thí dụ :

  • Trung bình mẫu ngẫu nhiên (¯X)(¯¯¯¯¯X) là ước lượng không chệch của trung bình tổng thể (μ)(μ). Vì theo kết quả ở chương 6, ta có: E(¯X)=μE(¯¯¯¯¯X)=μ.
  • Phương sai mẫu ngẫu nhiên (S2) là ước lượng không chệch của phương sai tổng thể (σ2)(σ2) vì: E(S2)=σ2E(S2)=σ2 .
  • Tỷ lệ mẫu ngẫu nhiên (F) là ước lượng không chệch của tỷ lệ tổng thể (p) vì: E(F) = p.

Chứng minh: Thật vậy, theo định nghĩa tỷ lệ mẫu ngẫu nhiên ta có:

F=1nni=1XiF=1nni=1Xi

Trong đó Xi là số phần tử có tính chất A có trong lần lấy phần tử thứ i vào mẫu. Xi (i = 1, 2, ...,n) là các đại lượng ngẫu nhiên có phân phối xác suất như sau:

Xi 0 1 P q p

với q = 1 - p

Ta có: E(Xi)=0xq+1xp=p(i)E(Xi)=0xq+1xp=p(i)

Vậy: 

E(F)=E(1nni=1Xi)=1nni=1E(Xi)=1n.np=pE(F)=E(1nni=1Xi)=1nni=1E(Xi)=1n.np=p

Ước lượng hiệu quả

Giả sử ˆθˆθ là ước lượng không chệch của θθ. Áp dụng bất đẳng thức Chebyshev cho đại lượng ngẫu nhiên ˆθˆθ, ta có:

P(|ˆθE(ˆθ)|ε)1Var(ˆθ)ε2P(^θE(^θ)ε)1Var(^θ)ε2

Vì E(ˆθ)=θE(^θ)=θ nên bất đẳng thức Chebyshev trở thành:

P(|ˆθE(θ)|ε)1Var(ˆθ)ε2P(^θE(θ)ε)1Var(^θ)ε2

Như vậy, nếu phương sai Var(ˆθ)Var(^θ) càng nhỏ thì xác suất để ˆθˆθ nhận giá trị gần θθ bao nhiêu cũng được, sẽ càng lớn. Do đó phương sai của ˆθˆθ là một chỉ tiêu quan trọng phản ánh chất lượng của hàm ước lượng ˆθ=f(X1,X2,...,Xn)ˆθ=f(X1,X2,...,Xn). Tất nhiên một cách hợp lý là cần chọn những hàm ước lượng không chệch và phương sai nhỏ nhất.

Định nghĩa:  ˆθ=f(X1,X2,...,Xn)ˆθ=f(X1,X2,...,Xn) là ước lượng không chệch của θθ và phương sai var(ˆθ)var(ˆθ) bằng cận dưới các phương sai của các hàm ước lượng được xây dựng từ mẫu ngẫu nhiên Wx thì ˆθˆθ được gọi là ước lượng hiệu quả của θθ.

Để tìm cận dưới của phương sai các hàm ước lượng ta dựa vào bất đẳng thức Crame-Rao được nêu trong định lý dưới đây

Định lý: Cho mẫu ngẫu nhiên Wx = (X1, X2,. . ., Xn) được xây dựng từ đại lượng ngẫu nhiên X có hàm mật độ xác suất (hay biểu thức xác suất)  f(x,θ)f(x,θ). Thỏa mãn một số điều kiện nhất định (thường được thỏa mãn trong thực tế) và ˆθˆθ là ước lượng không chệch bất kỳ của θθ thì:

Var(ˆθ)1n.E[.ln(x,θ)θ]2Var(ˆθ)1n.E[.ln(x,θ)θ]2

Ước lượng vững

Một hàm ước lượng được coi là hợp lý nếu như kích thước của mẫu tăng lên khá lớn thì giá trị của nó phải gần tham số cần ước lượng bao nhiêu cũng được. Nhận xét sơ bộ này được chính xác bởi định nghĩa sau:

Định nghĩa: Cho mẫu Wx = (X1, X2, .... Xn) xây dựng từ đại lượng ngẫu nhiên X. Hàm ước lượng ˆθ=f(X1,X2,...,Xn)ˆθ=f(X1,X2,...,Xn) của θθ được gọi là vững nếu mọi ε>0ε>0 bé tùy ý cho trước ta đều có:

LimnP[|f(X1,X2,...,Xn)θ|<ε]=1LimnP[|f(X1,X2,...,Xn)θ|<ε]=1

Điều kiện đủ của ước lượng vững được phát biểu dưới dạng định lý sau:

Định lý: Nếu ˆθˆθ là ước lượng không chệch của θθ và LimnVar(ˆθ)=0LimnVar(ˆθ)=0 thì ˆθˆθ là ước lượng vững của θθ.

2. Phương pháp ước lượng hợp lý tối đa

Giả sử đã biết qui luật phân phối xác suất dạng tổng quát của đại lượng ngẫu nhiên X, chẳng hạn hàm mật độ f(x,θ)f(x,θ) (cũng có thể xem f(x,θ)f(x,θ) là công thức tính xác suất nếu X là đại lượng ngẫu nhiên rời rạc), cần ước lượng tham số θθ.

Lập mẫu cụ thể: Wx = (X1, X2,..., Xn).

Hàm của đối số θθL(x1,x2,...,xn,θ)=f(x1,θ).f(x2,θ)....f(xn,θ)L(x1,x2,...,xn,θ)=f(x1,θ).f(x2,θ)....f(xn,θ)

và gọi là hàm hợp lý của tham số θθ.

Giá trị của hàm hợp lý chính là xác suất (hay mật độ xác suất) tại điểm Wx = (X1, X2,..., Xn)

Giá trị θ=f(x1,x2,...,xn)θ=f(x1,x2,...,xn) được gọi là ước lượng hợp lý tối đa nếu ứng với giá trị này hàm hợp lý đạt cực đại.

Vì hàm L và hàm lnL đạt cực đại cùng một giá trị của θθ. Do vậy có thể tìm giá trị của θθ để lnL đạt cực đại với các bước sau

Bước 1: Tìm đạo hàm bậc nhất của lnL theo θθ.

Bước 2: Lập phương trình lnLθ=0lnLθ=0

Phương trình này được gọi là phương trình hợp lý. Giả sử nó có nghiệm là θ0=φ(x1,x2,...,xn)θ0=φ(x1,x2,...,xn)

Bước 3: Tìm đạo hàm bậc 2: 2lnLθ22lnLθ2

Nếu tại điểm θ0=φ(x1,x2,...,xn)θ0=φ(x1,x2,...,xn) đạo hàm bậc hai âm thì tại điểm này hàm lnL đạt cực đại. Do đó θ0=φ(x1,x2,...,xn)θ0=φ(x1,x2,...,xn) là ước lượng hợp lý tối đa của θθ

Trên đây là nội dung bài giảng Bài 1: Các phương pháp tìm ước lượng điểm mà eLib.VN muốn chia sẻ đến các bạn sinh viên. Hy vọng đây sẽ là tư liệu hữu ích giúp các bạn nắm được nội dung bài học tốt hơn. Chúc các bạn học tốt.

Ngày:23/11/2020 Chia sẻ bởi:Denni

CÓ THỂ BẠN QUAN TÂM