Bayesian inference with uncertain constraint

Abstract

Ce mémoire porte sur l'inférence bayésienne pour des modèles avec des restrictions paramétriques incertaines. On étudie en premier lieu les propriétés des densités a priori et a posteriori pour des cas o\`u l'espace paramétrique est soit borné inférieurement ou doublement borné par une contrainte incertaine.\\

On fournit une analyse bayésienne a posteriori et on se concentre d'abord sur la construction d'un intervalle de crédibilité ad-hoc pour la moyenne normale $\theta$ avec l'a priori $\theta|m \sim \mathbb{I}_{[0 , \infty)} (\theta - m)$ et $m \sim \mathcal{N}(0,\sigma_m^2)$. On démontre que cet intervalle a une crédibilité exacte près du niveau nominal ainsi qu'une probabilité de recouvrement fréquentiste satisfaisante lorsque $\theta \geq 0$ et pour tout $\sigma^2_m \geq 0$.\\

On considère ensuite la prédiction d'une observation future normale de même moyenne et on étudie l'estimation bayésienne par densités prédictives sous la divergence Kullback-Leibler associée à la même loi a priori. On démontre que l'estimateur par densités prédictives de Bayes est minimax et domine la meilleure densité équivariante pour $\theta \geq 0$ et pour tout $\sigma^2_m > 0$, ce qui ajoute au résultat connu pour $\sigma^2_m=0$.

Abstract : We consider Bayesian inference for models with uncertain parametric constraints. We study the cases where the parameter space is lower-bounded and doubly-bounded by an uncertain constraint.\\ We provide Bayesian posterior analysis and then focus on constructing an ad-hoc Bayes credible set for the normal mean $\theta$ with $\theta|m \sim \mathbb{I}_{[0 , \infty)} (\theta - m)$, and $m \sim \mathcal{N}(0,\sigma_m^2)$. We provide evidence of exact credibility being quite close to nominal credibility and of quite satisfactory frequentist coverage probability relative to the nominal credibility when evaluated for $\theta \geq 0$ and for all $\sigma^2_m \geq 0$.\\ We then consider the problem of prediction of a future normal observable with the same mean and derive the Bayesian predictive density estimator under Kullback-Leibler divergence loss associated with the same prior. We demonstrate that the Bayes predictive density estimator is minimax and dominates the best unrestricted invariant predictive density for $\theta \geq 0$ and for all $\sigma^2_m > 0$, thus extending the previously established $\sigma^2_m=0$ case.