Tarea 1. Estimación Puntual

Tarea 1. Precede a examen 1. La tarea se deberá entregar el 31 de marzo (fecha tentativa). Se puede entregar por equipos de máximo 3 integrantes.

1.

Sea \(X_{1},...,X_{n}\) una m.a. de la distribución \(U(0,\theta)\), es decir:

\[f(x_i|\theta)=\frac{1}{\theta}, \;\; 0 \le x \le \theta, \;\; \theta>0.\]

1. Encuentre el estimador por el método de momentos de \(\theta\). Calcule su esperanza y error cuadrático medio. ¿Es insesgado? ¿Es consistente en error cuadrático medio?
2. Encuentre el estimador por el método de máxima verosimilitud de \(\theta\). Calcule su esperanza y error cuadrático medio. ¿Es insesgado? ¿Es consistente en error cuadrático medio?
3. Sea \(X_{(n)}=max\{X_1, ..., X_n\}\). Dentro de la clase de estimadores \(\{aX_{(n)}: a \in R \}\) encuentre el que tenga el menor error cuadrático medio para todo \(\theta>0\). Calcule su esperanza y error cuadrático medio. ¿Es insesgado? ¿Es consistente en error cuadrático medio?
4. Compare el sesgo y error cuadrático medio de los tres estimadores anteriores. ¿Cuál elegiría y por qué?.

2.

Considere la misma m.a. del ejercicio 1.

1. Encuentre el mejor estimador insesgado (UMVUE) de \(\theta\). Argumente su respuesta, es decir, en caso de usar que alguna estadística es suficiente, minimal o completa, esto se deberá demostrar.

2. Encuentre el estimador máximo verosímil de la varianza de \(X\). ¿Es el mejor estimador insesgago? En caso contrario, indique cuál sería el mejor estimador insesgado.

3.

Considere la misma m.a. del ejercicio 1.

1. Considere el estimador \(\dfrac{n+1}{n}X_{(n)}\) para \(\theta\). Demuestre que es insesgado y calcule su varianza.

2. Evalúe la CICR para los estimadores insesgados de \(\theta\).

3. Compare lo obtenido en i y ii. ¿Por qué la varianza obtenida en i es menor que lo obtenido en ii?

4.

• Sea \(X_{1},...,X_{n}\) una m.a. de la distribución \(N(\mu,\sigma^2)\).

  1. Suponga que \(\sigma^2\) es conocida. Considere que la función de distribución a priori de \(\mu\) es una \(N(\eta,\lambda^2)\), donde \(\eta\) y \(\lambda\) son conocidas.

     • Encuentre la distribución a posteriori de \(\mu\)
     • Encuentre el estimador Bayesiano de \(\mu\) usando la función de pérdida cuadrática.

  2. Suponga que \(\mu\) es conocida. Considere que la función de distribución a priori de \(\sigma\) es una scaled inverse chi-squared distribution con parámetros \(v>0\) y \(\tau^2>\) conocidos, es decir \[f(\sigma^2|v,\tau^2)=\dfrac{(v\tau^2/2)^{v/2} e^{-\dfrac{v\tau^2}{2\sigma^2} }} {\Gamma(v/2)(\sigma^2)^{v/2+1}}, \;\; 0 < \sigma^2.\]

     • Encuentre la distribución a posteriori de \(\sigma^2\)
     • Encuentre el estimador Bayesiano de \(\sigma^2\) usando la función de pérdida cuadrática.

• Sea \(X_{1},...,X_{n}\) una m.a. de la distribución \(Geométrica(\theta)\). Es decir \[f(y|\theta)=\theta(1-\theta)^y, \;\; y=\{0, 1, \dots\}, \;\;\;\; 0 < \theta < 1.\] Considere que la distribución a priori de \(\theta\) es una \(Beta(\alpha, \beta)\).

  • Encuentre la distribución a posteriori de \(\theta\)
  • Encuentre el estimador Bayesiano de \(\theta\) usando la función de pérdida cuadrática.

5.

Sea \(X_{1},...,X_{n}\) una m.a. de la distribución \(Pareto(k,\theta)\), esto es:

\[f(x_i|k,\theta)=\dfrac{\theta k^{\theta}}{x^{\theta+1}}, \;\; k\le x, \;\; \theta>0.\]

Suponga \(k\) conocida.

1. Encuentre la distribución de \(Y=\ln(X/k)\). Indique cuál es la esperanza y varianza de \(Y\).
2. Encuentre la distribución de \(T(Y_i,...,Y_n)= \sum_{i=1}^n Y_i\). Dé \(E(T)\) y \(E(T^2)\).
3. Demuestre que la distribución de Pareto con estas características pertenece a la familia exponencial.
4. Dé una estadística suficiente, minimal y completa para \(\theta\).
5. Encuentre los UMVUEs de \(\frac{1}{\theta}\) y \(\frac{1}{\theta^2}\) usando la estadística encontrada en iv) para proponer estimadores insesgados.

6.

Considere la misma m.a. del ejercicio 5.

1. Encuentre el estimador máximo verosímil de \(\theta\).
2. Calcule la CICR para los estimadores insesgados de \(\theta\), \(\frac{1}{\theta}\) y \(\frac{1}{\theta^2}\).
3. ¿Para qué función de \(\theta\) se alcanza la CICR?
4. Dé las varianzas asintóticas para \(\theta\), \(\frac{1}{\theta}\) y \(\frac{1}{\theta^2}\).
5. Dé las expresiones de un estimador de las varianzas asintóticas de los estimadores máximo verosímiles de \(\theta\), \(\frac{1}{\theta}\) y \(\frac{1}{\theta^2}\).
6. Suponga que \(k=e\) y que de un m.a. de tamaño \(n=5\) se observan los valores \(x_1,...,x_5\) tal que \(\sum_{i=1}^5 ln(x_i) =19\). Dé estimaciones para \(\theta\), \(\frac{1}{\theta}\) y \(\frac{1}{\theta^2}\), así como de sus varianzas asintóticas.

7.

Sea \(X_{1},...,X_{n}\) una m.a. de la distribución \(Pareto(k,\theta)\), esto es:

\[f(x_i|k,\theta)=\dfrac{\theta k^{\theta}}{x^{\theta+1}}, \;\; k\le x, \;\; \theta>0.\]

Suponga \(\theta\) conocida.

1. Encuentre el estimador máximo verosímil de \(k\). ¿Es insesgado? En caso negativo, dar un estimador insesgado a partir del estimador máximo verosímil.

2. Encuentre el estimador por el método de momentos para \(k\). ¿Es insesgado? En caso negativo, dar un estimador insesgado a partir del estimador obtenido por el método de momentos.

3. Calcule los errores cuadráticos medios de los estimadores insesgados obtenidos en i y ii. ¿los estimadores son consistentes en error cuadrático medio? ¿Cuál estimador elegiría?

8.

Sea \(X_{1},...,X_{n}\) una m.a. de la distribución \(N(\mu,1)\) y \(Y_{1},...,Y_{n}\) una m.a. de la distribución \(N(\mu,2)\), ambas muestras aleatorias son independientes entre sí.

1. Calcule la función de verosímilitud para \(\mu\) considerando las \(2n\) variables aleatorias.
2. Dé una estadística suficiente para \(\mu\) considerando las dos muestras aleatorias.
3. Ahora considere que \((X_{1}, Y_{1}),...,(X_{n}, Y_{n})\) son una m.a. de \(n\) vectores aleatorios, donde la distribución conjunta de \((X_{i}, Y_{i})\) se obtiene al considerar la independencia entre \(X_{i}\) y \(Y_{i}\). Demuestre que la distribución de \((X_{i}, Y_{i})\) pertenece a la familia exponencial de un parámetro.
4. Usando iii) dé una estadística suficiente y completa para \(\mu\).
5. Obtenga el estimador máximo verosímil de \(\mu\) y demuestre que es insesgado.
6. Dé el UMVUE para \(\mu\) y \(\mu^2\).

9.

Sea \(X_{1},...,X_{n}\) una m.a. de la distribución \(N(0,\sigma^2)\).

1. Encuentre el estimador máximo verosímil de \(\sigma^2\).
2. Verifique si el estimador en i) es insesgado, en caso de no serlo, dé un estimador insesgado para \(\sigma^2\).
3. Dé el estimador máximo verosímil de \(\sigma\), verifique si es insesgado, en caso de no serlo, dé un estimador insesgado para \(\sigma\).
4. Dé una estadística suficiente, minimal y completa para \(\sigma^2\) y para \(\sigma\).
5. Encuentre el UMVUE de \(\sigma\) y \(\sigma^2\).
6. Calcule la CICR para los estimadores insesgados de \(\sigma^2\).
7. Calcule el ECM del estimador insesgado encontrado en ii) ¿Este estimador alcanza la CICR? viii. Verifique si el estimador encontrado en ii) es consistente en error cuadrático medio.

10.

Sea \(X_{1},...,X_{n}\) una m.a. de la distribución \(Poisson(\theta)\).

1. Demuestre que pertenece a la familia exponencial.
2. A partir de i) dé una estadística suficiente, minimal y completa para \(\theta\).
3. Demuestre que \(\sum_{i=1}^n X_i\) es una estadística suficiente usando el teorema de factorización.
4. Demuestre que \(\sum_{i=1}^n X_i\) es una estadística suficiente y minimal usando el criterio visto en clase.
5. Encuentre el estimador máximo verosímil de \(\theta\).
6. Encuentre el estimador por el método de momentos de \(\theta\).
7. Dé un estimador insesgado de \(\theta\) a partir de los estimadores en v) y vi). Para ese estimador calcule su ECM.
8. Dé el UMVUE de \(\theta\). ¿Alcanza la CICR?
9. Calcule la varianza asintótica del estimador máximo verosímil.
10. Dé un estimador de la varianza asintótica del estimador máximo verosímil.

11.

Considere la misma m.a. del ejercicio 10.

1. Dé una estadística suficiente, minimal y completa para \((1+\theta)e^{-\theta}\).
2. Dé la CICR para los estimadores insesgados de \((1+\theta)e^{-\theta}\).
3. ¿Existe un estimador insesgado de \((1+\theta)e^{-\theta}\) que alcance la CICR? Argumente su respuesta.
4. Considere la siguiente estadística \(h(X_1)= I(X_1 \le 1)\), es decir, la función indicadora que vale 1 si \(X_1 \le 1\) y cero en otro caso. ¿para qué función de \(\theta\) es un estimador insesgado?
5. Obtenga el UMVUE de \((1+\theta)e^{-\theta}\).
6. Obtenga el UMVUE de \(e^{-\theta}\)

12.

Sea \(X_{1},...,X_{n}\) una m.a. de la distribución \(Geométrica(\theta)\). Es decir \[f(x_i|\theta)=\theta(1-\theta)^{x_i}, \;\; x_i=\{0, 1, \dots\}, \;\;\;\; 0 < \theta < 1.\]

1. Demuestre que pertenece a la familia exponencial.
2. A partir de i) dé una estadística suficiente, minimal y completa para \(\theta\).
3. Demuestre que \(\sum_{i=1}^n X_i\) es una estadística suficiente usando el teorema de factorización.
4. Demuestre que \(\sum_{i=1}^n X_i\) es una estadística suficiente y minimal usando el criterio visto en clase.
5. Encuentre el estimador máximo verosímil de \(\theta\).
6. Encuentre el estimador por el método de momentos de \(\theta\).
7. Calcule la varianza asintótica del estimador máximo verosímil.
8. Dé un estimador de la varianza asintótica del estimador máximo verosímil.

13.

Considere la misma m.a. del ejercicio 12.

1. Calcule la CICR de los estimadores insesgados de \(\theta\).
2. ¿Existe algún estimador insesgado de \(\theta\) que alcanza la CICR?
3. Considere la estadística \(h(X_1)= I(X_1 = 0)\), es decir, la función indicadora que vale 1 si \(X_1 = 0\) y cero en otro caso. ¿para qué función de \(\theta\) es un estimador insesgado?
4. Dé el UMVUE de \(\theta\).
5. Encuentre el estimador máximo verosímil de \(\dfrac{1-\theta}{\theta}\).
6. Calcule la esperanza y varianza del estimador máximo verosímil de \(\dfrac{1-\theta}{\theta}\).
7. Calcule la CICR de los estimadores insesgados de \(\dfrac{1-\theta}{\theta}\).
8. ¿Para qué función de \(\theta\) existe un estimador insesgado que alcanza la CICR?
9. ¿El estimador máximo verosímil es el UMVUE de \(\dfrac{1-\theta}{\theta}\)?

14.

Sea \(X_{1},...,X_{n}\) una m.a. de la distribución \(exp(1/\theta)\). Es decir \[f(x_i|\theta)=\dfrac{e^{-\frac{1}{\theta}x_i}}{\theta}, \;\; 0< x_i, \;\;\;\; 0 < \theta.\]

1. Encuentre el estimador de \(\theta\) por el método de momentos y de máxima verosimilitud. Indique si son estimadores insesgados y consistentes en error cuadrático medio.
2. Calcule la CICR para los estimadores insesgados de \(\theta\) ¿Alguno de los estimadores encontrados en i) alcanza la CICR?
3. Demuestre que pertenece a la familia exponencial.
4. Dé una estadística suficiente, completa y minimal para \(\theta\).
5. Dé el UMVUE de \(\theta\).
6. Considere la estadística \(h(X_1)= X_1^2/2\) ¿para qué función de \(\theta\) es un estimador insesgado?
7. Encuentre la CICR para los estimadores insesgados de \(\theta^2\).
8. Encuentre el UMVUE de \(\theta^2\).

15.

Sean \(X_{1},...,X_{n}\) variables aleatorias independientes con distribución \(N(\mu+y_i,1)\). Donde la \(y_i\) es una constante conocida, \(i=1,...,n\). Es decir, en este caso las variables no son indénticamente distribuidas.

1. Considere la variable aleatoria \(Z_i=X_{i}-y_i \, \ \forall i\). ¿Las variables \(Z_{1},...,Z{n}\) son una m.a.?
2. Demuestre que la distribución de las variables \(Z_{1},...,Z{n}\) pertenece a la familia exponencial.
3. Dé una estadística suficiente, completa y minimal para \(\mu\).
4. Encuentre el estimador máximo verosímil de \(\mu\) en términos de las variables aleatorias \(X_{1},...,X_{n}\).
5. Encuentre el UMVUE de \(\mu\).