Distribuciones a priori unidimensionales en Modelos No Regulares: Medidas de Información

ESTADÍSTICA ESPAÑOLA Vol. 45, Núm. 154, 2003, págs. 363 a 383 Distribuciones a priori unidimensionales en Modelos No Regulares: Medidas de Información(∗ ∗∗ ∗) (∗) Los autores queremos expresar nuestro agradecimiento al evaluador, cuyas sugerencias han contribuido a mejorar notablemente la versión inicial del trabajo. por FRANCISCO JAVIER ORTEGA IRIZO JESÚS BASULTO SANTOS Departamento de Economía Aplicada I. Facultad de Ciencias Económicas y Empresariales Universidad de Sevilla RESUMEN A partir de la Medida de Información de Akahira y Takeuchi (1991) que generaliza la Información de Fisher a modelos no regulares, se propone una extensión de la regla de Jeffreys que permite obtener funciones a priori imparciales en modelos no regulares. Palabras Clave: Medidas de Información, Información de Fisher, Modelo regular, Distribución a priori no informativa (o imparcial), Regla de Jeffreys. Clasificación AMS: 62F15, 62A15, 62B10 364 ESTADÍSTICA ESPAÑOLA 1. INTRODUCCIÓN Podemos decir que el objetivo fundamental de la estadística es extraer la información relevante que hay contenida en un conjunto de datos acerca de alguna característica desconocida. A la vista de ello, es fundamental disponer de técnicas de reducción de la dimensionalidad, es decir, métodos que permitan disponer de la misma cantidad de información relevante pero con datos encuadrados en un espacio de dimensión más pequeña (o en definitiva, trabajando con menos datos). En este sentido, juegan un papel fundamental los estadísticos, que son funciones del espacio muestral (de dimensión igual al número de observaciones n) en otros espacios que pueden ser, y generalmente son, de menor dimensión; dentro de ellos, son de especial importancia los estadísticos suficientes, que, en esencia, son aquellos que contienen la misma información relevante que la muestra de tamaño n. Es necesario entonces tener alguna medida de la cantidad de información relevante que contiene un estadístico dado sobre la característica desconocida o parámetro desconocido. Una de estas medidas, como es bien conocido, es la Información de Fisher, cuya aplicación se limita a los llamados modelos regulares. De todos es conocido las propiedades interesantes que tiene dicha medida de información, que permite conocer cuándo un estadístico es suficiente y, caso de no serlo, cuantificar la pérdida de información que se produce al trabajar con él. Por otra parte, ya Jeffreys, en su gran obra Theory of Probability , usó medidas de información, sobre todo la Información de Fisher, para construir distribuciones a priori no informativas. Así, teniendo en cuenta la importancia del concepto de información y que la Información de Fisher sólo es aplicable a los modelos regulares, se hace necesario disponer de una medida análoga para los llamados modelos no regulares, algunos de los cuales son de verdadero interés tanto teórico como práctico. A partir de aquí, resumiremos, en la sección primera, la definición y propiedades de la Información de Fisher. A continuación se analizarán los modelos no regulares, dando una medida de información aplicable a estos casos y que hereda las propiedades importantes de la Información de Fisher lo que permite conocer la pérdida de información que se produce al trabajar con un estadístico no suficiente. En la sección 2, siguiendo los pasos de Jeffreys, se propone una regla para construir distribuciones a priori no informativas aplicable también a los modelos no regulares y que se va a basar en el concepto de información estudiado, viéndose posterior- DISTRIBUCIONES A PRIORI UNIDIMENSIOANALES EN MODELOS NO REGULARES: MEDIDAS DE INFORMACIÓN 365 mente algunas de las propiedades de la distribución así definida. En la última sección, se señalarán las conclusiones fundamentales y los problemas abiertos. 2. INFORMACIÓN DE FISHER E INFORMACIÓN DE AKAHIRA En esta sección, vamos a recordar la definición y propiedades más importantes de la Información de Fisher, para posteriormente considerar una medida de información aplicable a modelos regulares y no regulares, que reproduce las propiedades de la información de Fisher, y ver la relación existente entre ambas. 2.1. Información de Fisher. Propiedades Como sabemos, la Información de Fisher es aplicable sólo a los modelos regulares. Las condiciones de regularidad pueden variar ligeramente de unos autores a otros según el problema que se esté tratando. Aquí vamos a seguir la definición propuesta en Azzalini (1996). Definición: Dada una familia de distribuciones θ Ρ, κ ℜ⊆Θ∈θ con funciones de densidad ( ) θ,xf , decimos que constituyen un modelo regular si se verifican las siguientes condiciones: i) El modelo es identificable, en el sentido de que Θ∈θ≠θ∀ 21 , ha de existir al menos un conjunto B del espacio muestral tal que () () ΒΡ≠ΒΡ θθ 21 . ii) El espacio paramétrico Θ es un intervalo abierto de κ ℜ. iii) Todas las funciones de densidad especificadas por el modelo tienen el mismo soporte. iv) Para la función f, la derivación con respecto a θ y la integración con respecto a x pueden intercambiarse hasta orden dos. Concretamente: 1. () () dx,xfdx,xf ∫∫ θ θ∂ ∂ =θ θ∂ ∂ y 2. () () dx,xfdx,xf 2 2 2 2∫∫ θ θ∂ ∂ =θ θ∂ ∂ donde debe entenderse que si k>1, entonces 22 ∂∂θ representa 2t ∂∂θ∂θ . Como es conocido, a partir de las hipótesis anteriores pueden obtenerse las dos propiedades siguientes: 1. () θ∀=       θ∂ θ∂ Εθ0 ,xflog y 2. () () θ∀         θ∂ θ∂ Ε−=              θ∂ θ∂ Εθθ 2 2 2,xflog,xflog 366 ESTADÍSTICA ESPAÑOLA Definición: Se llama Información de Fisher que la variable X proporciona sobre el parámetro κ ℜ⊆Θ∈θ a () ()              θ∂ θ∂ Ε−=θΙ θ 2 x ,xflog . Aplicando la propiedad 2, se obtiene que () ()                 θ∂ θ∂ Ε−=θΙ θ2 2 x ,xflog . Dada una muestra aleatoria simple n1 X,...,X y un estadístico () n1 X,...,XT , utilizaremos la siguiente notación a partir de ahora: () () θΙ=θΙ 1 xserá la información proporcionada por una muestra de tamaño 1; () θΙxserá la información proporcionada por la muestra de tamaño n; () θΙΤserá la información proporcionada por el estadístico T. Nota: En el caso de más de un parámetro, podemos aprovechar la propiedad 2 para definir la matriz de Información de Fisher como la matriz dada por: () () ()() ()         θ∂θ∂ θ∂ Ε−=θΙ         θ∂θ∂ θ∂ Ε−=θΙ θθ ji 2 t 2,xflog ,decires, ,xflog j,i . Recordemos que la Información de Fisher verifica varias propiedades interesantes, entre las que destacamos: i) Si T y S son estadísticos independientes, entonces () () () () θΙ+θ=θΙ STS,T I. Como consecuencia inmediata, () () .n 1 xx θΙ=θΙ . ii) T es auxiliar (es decir, su distribución no depende del parámetro θ) sii () θ∀=θΙ 0 T. iii) () () θΙ≤θΙ xT , dándose la igualdad ∀θ sii T es suficiente. La Información de Fisher es de gran interés y utilidad desde diversas perspectivas. En primer lugar, podemos estudiar la pérdida de información que se produce al trabajar con un estadístico T no suficiente calculando () () θΙ−θΙ Τx o bien () () θΙθΙΤx. La Información de Fisher también juega un papel relevante al proporcionar la conocida cota de Cramer-Rao para la varianza de los estimadores insesgados y la varianza asintótica del estimador máximo-verosímil, que en modelos DISTRIBUCIONES A PRIORI UNIDIMENSIOANALES EN MODELOS NO REGULARES: MEDIDAS DE INFORMACIÓN 367 regulares coincide con la cota y, por tanto, dicho estimador en estos casos es asintóticamente eficiente. Además, a partir de los trabajos de Jeffreys (1946,1961), el concepto de Información de Fisher tomó también relevancia dentro del enfoque Bayesiano, ya que dada una reparametrización biyectiva y regular ϕ=ϕ(θ) (donde suponemos que ambos parámetros son unidimensionales), sabemos que () () 2 /ϕ∂θ∂θΙ=ϕΙ y por tanto, la regla de obtención de distribuciones a priori consistente en tomar () () θΙ∝θπ es invariante ante reparametrizaciones, ya que verifica () () () () ϕ∂ θ∂ θπ= ϕ∂ θ∂ θΙ=ϕΙ∝ϕπ Así, este autor propuso la llamada regla de Jeffreys para construir distribuciones a priori no informativas basándose en el concepto de Información de Fisher. En el caso univariante, esta es la opción actualmente más aceptada. La importancia del concepto de Información de Fisher es indudable, aunque eso sí, recordando siempre que sólo es aplicable a modelos regulares. Por ello, es natural plantearse si habrá alguna forma de generalizar este concepto o al menos definir una medida de información aplicable a modelos no regulares y que tenga en esencia todas las propiedades de la Información de Fisher. La idea entonces es que una tal medida de información permitiera, en los modelos no regulares, calcular la pérdida de información correspondiente a un estadístico no suficiente y construir una regla de elección de distribuciones a priori no informativas, que es el objetivo del presente trabajo. 2.1. Información de Akahira. Propiedades Hay muchas definiciones de medidas de información aplicables a modelos no regulares, aunque nosotros vamos a trabajar sólo con la que utilizan Akahira, y Takeuchi (1991). Consideremos una familia de distribuciones de probabilidad cuyas funciones de densidad, con respecto a la medida de Lebesgue, sea (){} ℜ⊆Θ∈θθ ,,xf y n1,...,ΧΧ una muestra aleatoria simple del modelo () θ ,xf . Definimos la cantidad de información entre () 1 ,f θ• y () 2 ,f θ• como: () ()() dx,xf,xflog8,J 2/1 2 2/1 121x1θθ−=θθ ∫ 368 ESTADÍSTICA ESPAÑOLA La integral que aparece en la definición es conocida como la afinidad entre ( ) 1 ,f θ• y ( ) 2 ,f θ• (que llamaremos ( ) 21x , 1θθΑ ). Podemos observar de forma trivial que: • Si 21 θ=θ , entonces la afinidad es uno (es decir, la afinidad de una variable consigo misma es uno). • Si () () ∅=θΧ∩θΧ 21 sopsop , entonces la afinidad entre las distribuciones es cero (donde () i sop θΧ representa el soporte de la densidad () i ,xf θ). La afinidad es una medida de “cuán parecidas” son las distribuciones, que toma valores entre 0 y 1 (Matusita, 1955). Al ser la información una función decreciente de la afinidad, obtendremos que la información es una medida de “cuán distintas” son las variables. Remarquemos también que la información entre dos variables estará comprendida entre 0 e infinito, alcanzándose estos valores en los dos casos extremos reseñados anteriormente. Dada una muestra aleatoria simple n1,...,ΧΧ y un estadístico () ΧΤ , la cantidad de información aportada por T será: () ()() dt,tf,tflog8,J 2/1 2 2/1 121 θθ−=θθ ∫ Τ La Información de Akahira, reproduce las tres propiedades más importantes de la información de Fisher. Propiedad 1: Dados los estadísticos S y T independientes, se verifica () ( ) ( ) ( ) 21T21S21T,S ,J,J,J θθ+θθ=θθ . Notemos que a partir de este resultado es inmediato establecer que la información proporcionada por una muestra aleatoria simple de tamaño n será n veces la proporcionada por una muestra de tamaño 1. Propiedad 2: () ΧΤ es un estadístico auxiliar (es decir, su distribución es independiente del parámetro) si y sólo si ( ) 0,J 21T =θθ . Propiedad 3: Dado un estadístico () ΧΤ se verifica ()() 21x21 ,J,J θθ≤θθ Τ, dándose la igualdad para todo par de valores θ1 , θ2 si y sólo si T es suficiente para el parámetro θ. La demostración de estas propiedades puede verse en Akahira y Takeuchi, (1991). Ejemplo 2.1: Consideremos el modelo Exponencial de parámetro θ>0, cuya función de densidad es () 0x,e,xf x>θ=θ θ− . DISTRIBUCIONES A PRIORI UNIDIMENSIOANALES EN MODELOS NO REGULARES: MEDIDAS DE INFORMACIÓN 369 En este caso, 0, 21 >θθ∀ , tenemos () () 212121 / 2, θ+θθθ=θθΑ y por tanto, () () ( ) 212121 / 2log8,J θ+θθθ−=θθ . Ejemplo 2.2: Consideremos el modelo () ℜ∈θ+θ−θ ,2/1,2/1U . Dados dos valores θ1 y θ2, en este caso obtenemos: () () ()() () ()() () ()      ∅=Χ∩Χ∞+ ∅≠Χ∩Χθ≥θθ−θ+− ∅≠Χ∩Χθ≥θθ−θ+− =θθ 21 212121 211212 21 sopsopsi sopsopysi1log8 sopsopysi1log8 ,J donde () 2,1i,2/1,2/1U iii =+θ−θ≈Χ . Esta fórmula, puede ser resumida en () ()      >θ−θ∞+ ≤θ−θθ−θ−− =θθ 1si 1si1log8 ,J 21 2121 21 2.2.3 Relación entre las Informaciones de Fisher y de Akahira Como hemos señalado anteriormente, la medida de información de Akahira puede usarse como alternativa a la información de Fisher en aquellos modelos en los que ésta no se puede calcular (es decir, en los llamados modelos no regulares). En el caso de modelos regulares, existe una conexión entre ambas medidas de información reflejada en la siguiente proposición, cuya demostración puede verse en Akahira y Takeuchi (1991). Proposición: En los modelos regulares, para h suficientemente pequeño se verifica: ()() () 22 hohh,J +θΙ=+θθ A partir de la proposición, podemos establecer inmediatamente el siguiente corolario: Corolario: En los modelos regulares, se verifica () () 2 0h h h,J lim +θθ =θΙ → De este corolario, podemos extraer las dos conclusiones siguientes: a) Tenemos que () h,J +θθ tiende a cero cuando h tiende a cero (para cualquier valor de θ) y además la velocidad de esta convergencia es del orden de h2. 370 ESTADÍSTICA ESPAÑOLA b) Dado un h pequeño y fijo, mientras mayor sea () θΙ , “más distintas” serán () θ,xf y () h,xf +θ y, por tanto, mayor será la “capacidad de discriminación” entre θ y θ+h. Según Pitman, (1979), págs. 18 y 19, el término de “información” de Fisher es inadecuado y propone que ( ) θΙ debería ser la “sensibilidad” en θ, ya que nos muestra la variación que experimentan las distribuciones ante pequeños cambios en los parámetros. Vemos así que a través de esta definición alternativa de la Información de Fisher se mantiene la idea de su significado y, quizás, éste queda aún más claro que a través del proceso convencional de considerar la tasa de variación relativa ( ) ( ) ( ) θ∂θ∂ /;xflog y calcular su varianza tras observar que la esperanza de dicha cantidad es cero. Indiquemos también que Pitman (1979), adopta como definición de modelo regular la existencia de () () 2 0h h/h,Jlim +θθ →, resaltando que para que se cumpla esta propiedad no es necesario que el recorrido de la variable no dependa del parámetro. En efecto, si consideramos el modelo cuya densidad es: () () () θ≥θ−=θ −θ xxe 2 1 ,xf 2 x, es fácil comprobar que se verifican: 1. () () 0 ,xflog h h,J lim 0h =       θ∂ θ∂ Ε= +θθ → 2. () () ()         θ∂ θ∂ Ε−=              θ∂ θ∂ Ε== +θθ →2 2 2 2 0h ,xflog,xflog 1 h h,J lim y por tanto este modelo sería regular, aunque el recorrido dependa del parámetro. Es muy importante destacar que la propiedad expresada en este corolario, en esencia, puede encontrarse en el artículo del propio Jeffreys (1946), pág. 455. Aunque con notaciones muy distintas, y usando dos medidas de información diferentes (ambas con el mismo comportamiento local, ante pequeñas variaciones en los parámetros, que la medida usada en el presente trabajo), establece que las medidas de información consideradas “son aparentemente las únicas que habitualmente son de segundo orden en la diferencia de los parámetros de las leyes cuando esta diferencia es pequeña”. Además, también indica que su propuesta de DISTRIBUCIONES A PRIORI UNIDIMENSIOANALES EN MODELOS NO REGULARES: MEDIDAS DE INFORMACIÓN 371 obtención de la distribución a priori no siempre es aplicable, poniendo como ejemplo el modelo ( ) θ,0U , donde el comportamiento es de primer orden (indica también la excepción de los modelos con espacio paramétrico discreto, en los cuales no podemos derivar). Estas observaciones han sido fundamentales para el desarrollo de la propuesta que nosotros haremos en el epígrafe siguiente. Nota: Obsérvese cómo la información puede calcularse sin problemas en el caso de más de un parámetro. De hecho, la definición de información puede establecerse de forma más general usando directamente medidas de probabilidad. En concreto, en Akahira y Takeuchi (1991), la definición que se ofrece es: Dada una variable aleatoria X definida sobre un espacio muestral χ y P y Q medidas absolutamente continuas respecto a una medida σ-finita µ, definimos la cantidad de información entre P y Q como: () µ         µ         µ −= ∫d d dQ d dP log8Q,PJ 2/12/1 La definición ofrecida inicialmente en este trabajo no es más que un caso particular, donde P y Q son las medidas de probabilidad inducidas por las variables correspondientes a los parámetros θ1, θ2, la medida σ-finita considerada es la de Lebesgue y las derivadas respecto a esta medida son las funciones de densidad de las variables. 3. OBTENCIÓN DE DISTRIBUCIONES A PRIORI NO INFORMATIVAS 3.1. Elección de la distribución a priori Tras observar la relación entre ambas medidas de información en los modelos regulares, nos podemos preguntar qué ocurriría en el caso de considerar un modelo no regular. Antes de pasar a resultados generales, vamos a ver un ejemplo. Ejemplo 3.1: Consideremos el modelo () ( ) ∞+∈θθ ,0,,0U , con función de densidad ( ) θ≤≤θ=θ −x0,,xf 1 . Como es conocido, este modelo es no regular, puesto que () () dx,xf0 1 dx,xf ∫∫ θ θ∂ ∂ =≠ θ −=θ θ∂ ∂ 378 ESTADÍSTICA ESPAÑOLA De esta forma, la distribución a priori sería () 1∝θπ siempre que f0(0) ≠ 0, en cuyo caso lo que ocurre es que la convergencia de la información es de orden dos, con lo que tendríamos que calcular el límite dividiendo por h2. 3.3. Propiedades de la distribución a priori propuesta 3.3.1. Invarianza ante reparametrizaciones La expresión alternativa que hemos propuesto en el epígrafe 3.2 para obtener nuestra distribución a priori no informativa conlleva a que, al menos en la familia de Ghosal y Samanta (1997), la regla de construcción de distribuciones a priori sea invariante ante reparametrizaciones. En efecto, trivialmente tenemos que: () () () () ϕ∂ θ∂       θ∂ θ∂ Ε=       ϕ∂ θ∂ θ∂ θ∂ Ε=       ϕ∂ ϕ∂ Ε∝ϕπ ,xflog,xflog,xflog , y, en definitiva, se obtiene () () ϕ∂θ∂θπ∝ϕπ / que es precisamente la propiedad de invarianza buscada. 3.3.2 Propiedades frecuencialistas de los intervalos Bayesianos Uno de los argumentos más usados en la literatura para construir distribuciones a priori no informativas (o para decidir si una determinada distribución a priori no informativa es una elección buena) es poder calcular con dichas distribuciones intervalos bayesianos de probabilidad 1-α cuyo nivel de confianza, en el sentido de la estadística clásica, sea también 1-α ( o al menos, de forma aproximada). El primer trabajo que puede considerarse en este sentido es el de Welch y Peers (1963), en el que se demuestra que en modelos regulares y con un sólo parámetro la distribución de Jeffreys es la única que verifica () [] () 1 nO1,Sg − +α−=θα<θΡ donde () α,Sg es el extremo superior del intervalo bayesiano unilateral de probabilidad 1-α obtenido a partir de una muestra S de la variable X , es decir, () [] α−=α<θΡ 1S,Sg , o lo que es lo mismo, () α,Sg es el percentil de orden α−1 de la distribución a posteriori de θ dada la muestra S. En Ghosal (1999), se demuestra que, bajo las condiciones descritas en el epígrafe 3.2 para la familia de Ghosal y Samantha (1997), cualquier distribución a priori diferenciable lleva a intervalos unilaterales con probabilidad de cubrimiento en sentido frecuencialista () 1 nO1 − +α− ; sin embargo, también se establece en dicho artículo que la única distribución a priori que verifica que los intervalos bayesianos unilaterales de probabilidad α−1 tienen probabilidad de cubrimiento () 2 nO1 − +α− , es la obtenida según nuestra propuesta. DISTRIBUCIONES A PRIORI UNIDIMENSIOANALES EN MODELOS NO REGULARES: MEDIDAS DE INFORMACIÓN 379 Hagamos notar que en esta situación no es aconsejable trabajar con intervalos bilaterales, ya que tanto la distribución a posteriori como la distribución muestral de θ ˆ, en el límite, son muy asimétricas y están muy concentradas en uno de los extremos de su recorrido. Aunque este resultado general es bastante importante, queremos destacar también tres casos en los que la coincidencia de resultados entre la inferencia bayesiana y clásica es exacta, que son los que pasamos a describir a continuación. a) Sea la familia de modelos considerada en el ejemplo 3.3, cuya densidad viene dada por ( ) ( ) ( ) ( ) ( ) θ≤≤θθ=θ bxa,g/xc,xf , donde suponemos además que ( ) θa es estrictamente creciente y ( ) θb estrictamente decreciente. Para esta familia, en Basulto (1997) se establece que si () +∞≡∞−g, entonces, siendo r(π,θ) la función de distribución a posteriori usando la distribución a priori propuesta en el presente trabajo, se verifica que r(π,θ) es una variable aleatoria cuya distribución en el muestreo es U(0,1), lo que asegura que un intervalo unilateral bayesiano de probabilidad 1-α construido a partir de r(π,θ) tiene también nivel de confianza exactamente 1-α (el intervalo Bayesiano coincidiría con el intervalo clásico basado en la cantidad pivotal r(π,θ)). Si ( ) 0cg >=−∞ , entonces el resultado se tiene asintóticamente. b) Sea la familia de localización considerada en el ejemplo 3.4, cuya densidad viene dada por ( ) ( ) ℜ∈θθ−=θ ,xf,xf 0 donde ( ) zf0es una densidad en ) [ ∞+,0 . Puesto que este modelo pertenece a la familia de Ghosal y Samantha (1997), es aplicable el resultado general enunciado anteriormente. No obstante, es muy interesante señalar que, para este caso, se establece que ( ) θπ,r es una variable aleatoria cuya distribución condicionada al estadístico auxiliar { } n2 c,,c K es uniforme en () 1,0 , siendo n,,2k,yyc 1kk K=−= donde n1 y,,y K representa la muestra ordenada. Por tanto, obtenemos a través del procedimiento Bayesiano un intervalo que coincide con el intervalo clásico que se obtiene al condicionar al estadístico auxiliar (Basulto, 1997). c) Consideremos por último el modelo () 2/1,2/1U +θ−θ , ℜ∈θ , que no responde a las condiciones de Ghosal y Samantha (1997) por no ser los soportes crecientes ni decrecientes en θ. Con la distribución a priori que se ha propuesto, es decir, () 1∝θπ , puede probarse que la función de distribución a posteriori () θπ,r sigue una distribución () 1,0U (Basulto, 1997). 380 ESTADÍSTICA ESPAÑOLA 4. CONSIDERACIONES ACERCA DEL CASO MULTIPARAMÉTRICO Cuando hay más de un parámetro, es decir, cuando m ℜ⊆Θ∈θ , la regla general de Jeffreys, aplicable al caso regular, consiste en tomar () () θΙ∝θπ , donde () θΙ representa el determinante de la matriz de información, lo que sigue asegurando la invarianza ante reparametrizaciones arbitrarias. No obstante, esta opción presenta deficiencias importantes, que hacen que en muchos casos no sea la opción habitualmente elegida. En el caso del modelo Normal, () σµ≈ ,NX , con ambos parámetros desconocidos, la regla general de Jeffreys conduce a tomar como distribución a priori () 2 ,− σ∝σµπ . El mismo Jeffreys (1961), p.182 encuentra esta distribución inaceptable, ya que cuando se extiende al caso de k medias desconocidas k1 ,, µµ K y varianza común 2 σ, los grados de libertad resultantes en la distribución marginal t-Student de cada i µ no dependen de k. Un resultado muy similar ocurre en el modelo de regresión lineal, pues si aplicamos la regla general de Jeffreys para obtener la distribución a priori, obtendremos que la distribución a posteriori para la varianza poblacional se relaciona con una distribución 2 n χ, independientemente del número de variables explicativas del modelo. Para evitar estos inconvenientes, Jeffreys sugirió una modificación para su regla general en el caso multiparamétrico que debía aplicarse en los modelos con parámetros de localización y escala. Propuso que en estos casos, debían de tratarse los parámetros de localización separadamente del resto (Jeffreys, 1961, p.182-183); es decir, cuando tenemos parámetros de localización k1 ,, µµ K y un parámetro adicional de escala σ, entonces el autor recomienda utilizar ()() σΙ∝σµµπ ,,, k1 K, donde () σΙ se calcula considerando k1 ,, µµ K fijos, lo que llevará definitivamente a tomar () 1 k1 ,,, − σ∝σµµπ K. Así, aplicando la regla modificada al modelo Normal obtendremos () 1 ,− σ∝σµπ en vez de () 2 ,− σ∝σµπ . Observemos que la regla modificada resulta equivalente a obtener la distribución de cada parámetro suponiendo que los otros son fijos y posteriormente, la distribución multiparamétrica será el producto de las correspondientes unidimensionales. Un camino interesante para la construcción de distribuciones a priori multidimensionales consiste en obtener las mismas a partir de ciertas distribuciones unidimensionales (bien marginales o bien condicionadas). Supongamos por simplicidad que () 2 21,ℜ⊆Θ∈θθ=θ ; sean () 21,θθπ la distribución a priori conjunta, () 11 θπ y () 22 θπ las respectivas distribuciones marginales y () 21 21 θθπ y () 12 12 θθπ las condicionadas. En este caso, podemos plantearnos definir la distribución a priori () 21,θθπ como producto de las marginales o bien como producto de DISTRIBUCIONES A PRIORI UNIDIMENSIOANALES EN MODELOS NO REGULARES: MEDIDAS DE INFORMACIÓN 381 una condicionada por una marginal (si nuestro parámetro de interés es 1 θ consideraríamos () () 2221 21 θπθθπ y en caso contrario () () 1112 12 θπθθπ ). Otro camino posible, cuando los dos parámetros son de interés, es obtener () 21 21 θθπ y () 12 12 θθπ y buscar posteriormente una distribución conjunta compatible con ambas condicionadas (que no siempre tiene por qué existir). En este sentido, en Arnold y otros (1999), pág. 8, se establece que las dos distribuciones condicionadas definen una conjunta compatible si, denotando () () { } () () { } 0:,Ny0:,N 12 12 21221 21 211 >θθπθθ=>θθπθθ= se verifica que NNN 21 == y además existen funciones () 1 hθ y () 2 hθ tales que ()() ()()( ) N,,hh/ 212112 12 21 21 ∈θθ∀θθ=θθπθθπ donde () ∞<θθ ∫11 dh . Para el caso que nos ocupa, es decir, la búsqueda de distribuciones a priori, la última condición de integrabilidad puede obviarse, ya que las densidades a priori pueden ser, y de hecho son muy a menudo, impropias (Arnold y otros, pág. 133). Pensamos que la posible generalización al caso multidimensional de nuestra propuesta debe basarse en esta última vía de construir la distribución a partir de ciertas marginales o condicionadas, aunque es todavía un tema abierto y que será objeto de trabajos futuros. 5. CONCLUSIONES Acudiendo a los trabajos e ideas originales de Jeffreys, hemos propuesto un procedimiento para obtener distribuciones a priori no informativas, aplicable tanto a modelos regulares como no regulares. Puesto que si el modelo es regular, nuestra distribución a priori coincide con la que se obtiene a través de la regla de Jeffreys, puede entenderse que nuestra propuesta es una generalización de la misma. La medida de Información usada por Akahira y Takeuchi (1991), se revela sumamente interesante, pues reproduce las propiedades de la Información de Fisher. Como hemos comprobado, la distribución a priori propuesta muestra buen comportamiento en lo que se refiere a la propiedad de invarianza ante reparametrizaciones. Asimismo, vemos que los intervalos bayesianos obtenidos, tienen buen comportamiento frecuencialista. 382 ESTADÍSTICA ESPAÑOLA Es importante resaltar que, cuando en el modelo no existe un estadístico suficiente de la misma dimensión que el espacio paramétrico, los intervalos bayesianos coinciden con los obtenidos a través del Principio de Condicionar de Fisher y no con los intervalos clásicos no condicionados. Aunque esta última propiedad sólo se ha comentado en el presente trabajo para el modelo ( ) ( ) ℜ∈θθ−=θ ,xf,xf 0 hemos podido comprobar que se repite en más casos. REFERENCIAS AKAHIRA, M. and TAKEUCHI, K. (1991), «A Definition of Information Amount Applicable to Non-Regular Cases», Journal of Computing and Information, 2, 71-92. ARNOLD, B.C., CASTILLO, E. and SARABIA, J.M. (1999), «Conditional Specification of Statistical Models», Springer Series in Statistics, Springer-Verlag, New York. AZZALINI, A. (1996), «Statistical Inference Based on the Likelihood», Chapman and Hall, London. BASULTO, J. (1997), «Funciones a Priori Imparciales Unidimensionales», Estadística Española, 39, nº 142, 99-128. BERNARDO, J.M. and SMITH, A.F.M. (1994), «Bayesian Theory», John Wiley and Sons, Chichester. COX, D.R. and REID, N. (1987), «Parameter Ortogonality and Approximate Conditional Inference», J. Roy. Statist. Soc., Ser. B, 49, 1-39. GHOSAL, S. (1999), «Probability Matching Priors for Non-Regular Cases», Biometrika, 86, nº 4, 956-964. GHOSAL, S. and SAMANTA, T. (1997), «Asymptotic Expansions of Posterior Distributions in Non-Regular Cases», Ann. Inst. Statist. Math., 49, nº 1, 181-197. GHOSAL, S., GHOSH, J.K. and SAMANTA, T. (1995), «On Convergence of Posterior Distributions», Ann. Statist., 23, 2145-2152. GHOSH, J.K., GHOSAL, S. and SAMANTA, T. (1994), «Stability and Convergence of Posterior in Non-Regular Problems», Statistical Decision Theory and Related Topics V, (eds. SS. Gupta and J.O. Berger), 183-199, Springer, New-York. JEFFREYS, H. (1946), «An Invariant Form for the Prior Probability in Estimation Problems», Proc. Roy. Soc. (London), Ser. A, 186, 453-461. JEFFREYS, H. (1961), «Theory of Probability», 3rd. edition, Oxford University Press, London. DISTRIBUCIONES A PRIORI UNIDIMENSIOANALES EN MODELOS NO REGULARES: MEDIDAS DE INFORMACIÓN 383 KOSMAS, K.F. (1990), «Shortest Confidence Intervals for Families of Distributions Involving Truncation Parameters», The American Statician, 44, 167-168. MATUSITA, K. (1955), «Decisión Rules Based on the Distance for Problems of Fit, two Samples and Estimation», Ann. Math. Statist., 26, 631-640. PITMAN, E.J. (1979), «Some Basic Theory for Statistical Inference», Chapman and Hall, London. WELCH, B.L. and PEERS, H.W. (1963), «On Formulae for Confidence Points Based on Integral of Weithed Likelihoods», J.R. Statist. Soc., Ser. B, 25, 318-329. ONE-PARAMETER PRIOR DISTRIBUTIONS FOR NON-REGULAR MODELS: AMOUNTS OF INFORMATION SUMMARY From the Information Measure of Akahira and Takeuchi (1991), that it generalizes the Fisher Information to non-regular models, an extension of the Jeffreys’ Rule sets out, that allows to obtain noninformative prior distributions in non-regular cases. Key words: Amount of Information, Fisher Information, Regular model, Noninformative prior distribution, Jeffreys Rule AMS classificcation: 62F15, 62A15, 62B10