经验Bayes(EB)方法最早是由Robbins提出的, 通常应用于具有相同的但完全未知的先验分布之下的Bayes统计问题.近年来, 国内外学者对EB方法关注较多.例如, 陈希孺^[1]讨论了离散型单参数指数族参数的EB估计, 赵林城^[2]研究了一类离散分布参数的EB估计, 王立春和韦来生^[3]在加权平方损失函数下讨论了刻度指数族的EB问题.考虑到刻度平方误差损失函数作为对加权平方损失函数的推广, 已经受到很多学者的重视.比如, Jozani等^[4]研究了某些指数族刻度参数在不变刻度平方误差损失下的可容许极小极大估计, Qin^[5]研究了刻度平方误差损失下几何分布的Bayes估计, 许俊美等^[6]利用刻度平方误差损失函数研究了巴斯卡分布的Bayes估计问题.本文考虑的损失就是刻度平方误差损失.在该损失函数下研究了刻度指数族参数的EB估计问题, 并给出了它的收敛速度.

考虑如下的刻度指数族分布:设随机变量$X$在给定参数$\theta$时的条件密度函数为

$ f(x|\theta)=c(\theta)u(x)\exp(-x/ \theta )I_{(x>0)}, $

其中$u(x)>0$.这里$\mathcal{X}=(0, +\infty)$为样本空间,

$ \Theta=\{\theta>0: c^{-1}(\theta)=\int_{\mathcal{X}}u(x)\exp(-x/\theta){\rm d}x <\infty\} $

为参数空间.刻度指数族在可靠性理论、生存分析、人口统计学等领域有着广泛的应用.

设$G(\theta)$为$\theta$的先验分布, $G(\theta)$未知, 但属于先验分布族

$ \mathcal{F}=\left\{G: ~~E(\theta^{2-k})<\infty, ~E{\Big(}\theta^\frac{-k(2k-3)}{k-1}{\Big)}<\infty \right \}, $

这里$k$指的是下文中刻度平方误差损失函数中的参数$k$.

随机变量$X$的边缘密度为

$ f(x)=\int_{\Theta}f(x|\theta){\rm d}G(\theta)=\int_{\Theta}c(\theta)u(x)\exp(- x/\theta){\rm d}G(\theta)\triangleq u(x)p(x), ~x>0, $

其中

$ p(x)=\int_{\Theta}c(\theta)\exp(-x/\theta){\rm d}G(\theta). $

$p(x)$的$i$阶导数为

$ p^{(i)}(x)=(-1)^{i} \int_{\Theta}\theta^{-i}c(\theta)\exp(-x/ \theta){\rm d}G(\theta). $

我们考虑如下的刻度平方误差损失函数^[8]:

$ L(\theta, d)=(d-\theta)^2/\theta^k, $

其中$k \geq 2$是整数, $\theta$为刻度参数.文献[3]考虑的加权平方损失就是$k=2$的特例.

在刻度平方误差损失之下, 用$\hat{\theta}_{BE}$表示$\theta$的关于$G$的Bayes估计, 则由文献[6]知

$ \hat{\theta}_{BE}=\frac{E(\theta ^{1-k}|X)}{E(\theta ^{-k}|X)} =\frac{\int_{\Theta}\theta^{1-k}c(\theta)\exp(- x/\theta){\rm d}G(\theta)}{\int_{\Theta} \theta ^{-k}c(\theta)\exp(- x/\theta){\rm d}G(\theta)}=\frac{-p^{(k-1)}(x)}{p^{(k)}(x)}. $

于是$\hat{\theta}_{BE}$的Bayes风险为

$ R(G)=R(\hat{\theta}_{BE}, G)=E_{(X, \theta)}[(\hat{\theta}_{BE}-\theta)^2/\theta ^k]. $

由于$G(\theta)$是未知的, 因此$\hat{\theta}_{BE}$无实用价值, 为此我们将进一步考虑EB估计.

引理1.1^[9]  在给定的Bayes决策问题中, 假定对给定的先验分布, $\theta$的Bayes估计$\delta _{B}(x)$是唯一的, 则它是容许估计.

由于本文所研究的刻度平方误差损失函数$L(\theta, d)=(d-\theta)^2/\theta^k$关于$d$是严格凸函数, 故$\theta$的Bayes估计唯一, 从而是容许的.

在EB估计问题的结构中, 假定${\{X_{1}, \theta_{1}\}}, \{X_{2}, \theta_{2}\}, \cdots, \{X_{n}, \theta_{n}\}$和$\{X, \theta\}$独立同分布, 其中$X_{1}, X_{2}, \cdots, X_{n}$与$X$具有共同的密度函数$f(x|\theta)$. $\theta_{1}, \theta_{2}, \cdots, \theta_{n}$与$\theta$有共同的先验分布$G(\theta)$; 又设$X_{1}, X_{2}, \cdots, X_{n}$为独立同分布的随机变量序列.

下面采用核估计的方法来获得$\theta$的EB估计.设$K_{i}(x)$为有界的Borel可测函数, 在区间(0, 1) 外取值为零, 且满足

$ \frac{1}{j!}\int^{1}_{0}x^{j}K_{i}(x){\rm d}x= \left\{ \begin{array}{ll} \displaystyle 1, & j=i, \\ \displaystyle 0, & j \neq i, j=0, 1, \cdots, s-1, \end{array} \right. $

此处$s \geq 3$是给定的整数.类似于文献[1], 定义$p^{(i)}(x)$的核估计为

$ p_{n}^{(i)}(x)=\frac{1}{nh_n^{i+1}}\mathop \sum \limits_{i = 1}^n \frac{K_{i}((X_{i}-x)/h_n)}{\mu(X_i)}, ~~i=k-1, k, $

其中$h_{n}>0$且$\lim\limits_{n\rightarrow\infty}h_n=0.$

相应地, 定义$\theta$的EB估计为

$ \hat{\theta}_{EB}={\bigg[}\frac{-p_n^{(k-1)}(x)}{p_n^{(k)}(x)}{\bigg]}_{n^v}, $

此处$0 < v < 1$待定, 而

$ [b]_{L}= \left\{ \begin{array}{ll} \displaystyle b,&|b|\leq L, \\ \displaystyle 0,&|b|> L. \end{array} \right. $

于是$\hat{\theta}_{EB}$的全面Bayes风险为

$ R_{n}=R_{n}(\Phi, G)=E_{\ast}[(\Phi-G)^2/\theta^k]=E_\ast[\hat{\theta}_{EB}-\theta)^2/\theta^k], $

其中$E_{\ast}$表示关于$(X_{1}, X_{2}, \cdots, X_{n}, (X, \theta))$的联合分布求期望.

根据定义, 如果$\lim\limits_{n\rightarrow \infty}R_n=R(G), \forall G \in \mathcal{F}$, 则称$\hat{\theta}_{EB}$为$\theta$的关于$\mathcal{F}$的渐近最优EB估计.若对某个$\delta >0$, 有$R_{n}-R_{G}=O(n^{-\delta})$, 则称$\{\hat{\theta}_{EB}\}$的收敛速度的阶是$O(n^{-\delta}).$

本文以下用$c, c_{1}, c_{2}, \cdots$表示不依赖于$n$的正常数, 它们在不同的地方可以表示不同的值, 即使在同一表达式中也是如此.为获得EB估计的收敛速度, 先给出几个引理.

引理3.1  对任一估计$\Phi$, 如果$E(\theta ^{2-k}) < \infty, ~E{\big(}\theta^{\frac{-k(2k-3)}{k-1}}{\big)} < \infty$, 其中$k \geq 2$, 则有

$ R(\Phi, G)-R(G)=E_\ast[(\Phi-\hat{\theta}_{BE})^2/\theta^k] $

证  因为

$ R(\Phi, G)=E_\ast[(\Phi-\theta)^2/\theta^{k}] =E_\ast[(\Phi-\hat{\theta}_{BE})^2/\theta^{k}]+R(G)+2E_\ast[(\Phi-\hat{\theta}_{BE})(\hat{\theta}_{BE}-\theta)/\theta^k], $

其中

$ E_\ast[(\Phi-\hat{\theta}_{BE})(\hat{\theta}_{BE}-\theta)/\theta^k] \nonumber \\ =E_{(X_{1}, X_{2}, \cdots, X_{n}, X)}\{{(\Phi-\hat{\theta}_{BE}) E_{(\theta|X_{1}, X_{2}, \cdots, X_{n}, X)}[(\hat{\theta}_{BE}-\theta)/\theta^k]}\}\nonumber=0, $

又

$ R(G)=E_{(X, \theta)}[(\hat{\theta}_{BE}-\theta)^2/\theta ^k] \\ \leq E_{(X, \theta)}[(\hat{\theta}_{BE})^2\cdot\theta ^{-k}+\theta ^{2-k}]\nonumber \\ \leq c+E_{X}\left[\frac{E^{2}(\theta^{1-k}|X)}{E(\theta^{-k}|X)}\right]\nonumber \\ \leq c+E_{X}\left[\frac{E(\theta^{2-2k}|X)}{E(\theta^{-k}|X)}\right]. $

由H$\ddot{\mathrm{o}}$lder不等式,

$ \frac{E(\theta^{2-2k}|X)}{E(\theta^{-k}|X)} \leq \frac{E^{\frac{1}{k}}((\theta ^{-1})^k|X) \cdot E^{\frac{k-1}{k}}((\theta ^{3-2k})^{\frac{k}{k-1}}|X)}{E(\theta^{-k}|X)} \nonumber\\ =E^{\frac{1}{k}-1}(\theta ^{-k}|X)\cdot E^{\frac{k-1}{k}}{\Big(}\theta^{\frac{k(3-2k)}{k-1}}{\big|}X{\Big)}.\nonumber $

另外

$ E(\theta ^{-k}|X)\leq E^{\frac{k-1}{2k-3}}{\Big(}\theta^{\frac{-k(2k-3)}{k-1}}{\big|}X{\Big)}. $

因此

$ \frac{E(\theta^{2-2k}|X)}{E(\theta^{-k}|X)} \leq E^{\frac{1-k}{k}\cdot\frac{k-1}{2k-3}}{\Big(}\theta ^{\frac{-k(2k-3)}{k-1}}{\big|}X{\Big)} E^{\frac{k-1}{k}}{\Big(}\theta ^{\frac{-k(2k-3)}{k-1}}{\big|}X{\Big)} \nonumber\\ =E^{\frac{k^{2}-3k+2}{k(2k-3)}}{\Big(}\theta ^{\frac{-k(2k-3)}{k-1}}{\big|}X{\Big)}. \nonumber $

记$\gamma=\frac{k^2-3k+2}{k(2k-3)}$, 则由$k \geq 2$知, $0\leq \gamma < 1$.再记$t=E{\big(}\theta ^{\frac{-k(2k-3)}{k-1}}|X{\big)}>0$, 于是

$ E^{\frac{k^{2}-3k+2}{k(2k-3)}}\left(\theta ^{\frac{-k(2k-3)}{k-1}}{\big|}X\right)=t^{\gamma}. $

当$t>1$时, 则$t^{\gamma} < t$; 当$t\leq 1$时, 则$t^{\gamma}\leq 1$.于是

$ E_{X}\left[\frac{E(\theta^{2-2k}|X)}{E(\theta^{-k}|X)}\right]< \infty. $

从而$R(G) < \infty$.因此引理成立.

引理3.2^[2]  设$Y$和$Z$为随机变量, $y$和$z$为实数, 则对任意$L>0$以及$0 < \lambda\leq2$, 有

$ E{\Big|}{\Big[}\frac{Y}{Z}-\frac{y}{z}{\Big]}_{L}{\Big|}^{r} \leq 2|z|^{-r}{\Big \{}E|Y-y|^{r}+{\Big(}{\Big|}\frac{y}{z}{\Big|}+L{\Big)}^{r}E|Y-y|^{r}{\Big \}}. $

引理3.3  设$X_{1}, X_{2}, \cdots, X_{n}$为独立同分布样本序列, $u(x)$为单调非降函数, 且满足$\frac{1}{u(x)} < \infty, ~\frac{u'(x)}{u^{2}(x)} < \infty, ~\sup\limits_{x}|p(x)| < +\infty, \sup\limits_{x}|p^{(s)}(x)| < +\infty$, 其中$s \geq k+1$为整数.取$h_{n}=n^{-\frac{1}{2s+1}}$, 则对$0 < \lambda\leq 1$, 有

$ E\left|p_{n}^{(k-1)}(x)-p^{(k-1)}(x)\right|^{2\lambda}\leq c \cdot n^{-\frac{2\lambda(s-k+1)}{2s+1}}, \\ E\left|p_{n}^{(k)}(x)-p^{(k)}(x)\right|^{2\lambda}\leq c \cdot n^{-\frac{2\lambda(s-k)}{2s+1}}. $

证  用类似于文献[3]中引理3.4的方法即可证得.

引理3.4  如果$E\left(\theta ^{2k \lambda s}\right) < \infty$, 其中$\lambda s\geq 1$, 则$E\left|\hat{\theta}_{BE}(X)\right|^{2\lambda s} < \infty.$

证  由于

$ E\left|\hat{\theta}_{BE}(X)\right|^{2\lambda s} =E_{X}\left(\frac{E(\theta ^{1-k}|X)}{E(\theta ^{-k}|X)}\right)^{2\lambda s} =E_{X}\left(\frac{E^{2}(\theta ^{1-k}|X)}{E^{2}(\theta ^{-k}|X)}\right)^{\lambda s}. $

注意到

$ \displaystyle \frac{E^{2}(\theta ^{1-k}|X)}{E^{2}(\theta ^{-k}|X)} \leq \frac{E(\theta ^{2-2k}|X)}{E^{2}(\theta ^{-k}|X)} \nonumber \\ \leq \frac{E^{\frac{2}{k}}\left((\theta ^{-2})^{\frac{k}{2}}|X \right)\cdot E^{\frac{k-2}{k}}\left((\theta ^{4-2k})^{\frac{k}{k-2}}|X \right)} {E^{2}\left(\theta ^{-k}|X\right)} \nonumber \\ =E^{\frac{2}{k}-2}\left(\theta ^{-k}|X\right)\cdot E^{\frac{k-2}{k}}\left(\theta ^{-2k}|X\right) \nonumber. $

而$E(\theta ^{-k}|X)\leq E^{\frac{1}{2}}(\theta ^{-2k}|X)$, 于是

$ \displaystyle \frac{E^{2}(\theta ^{1-k}|X)}{E^{2}(\theta ^{-k}|X)} \leq E^{(\frac{2}{k}-2)\cdot \frac{1}{2}}(\theta ^{-2k}|X)\cdot E^{\frac{k-2}{k}}(\theta ^{-2k}|X)\nonumber \\ =E^{-\frac{1}{k}}(\theta ^{-2k}|X)\leq E^{\frac{1}{k}}(\theta ^{2k}|X) \nonumber. $

记$\gamma=\frac{1}{k}$, 则$0 < \gamma \leq \frac{1}{2}$.再记$t=E\left(\theta^{2k}|X\right)>0$, 则当$t>1$时, 有$t^{\gamma} < t$; 当$t\leq 1$时, 有$t^{\gamma}\leq 1$.因此, 当$E\left(\theta ^{2k \lambda s}\right) < \infty$时, 有

$ E\left|\hat{\theta}_{BE}(X)\right|^{2\lambda s} =E_{X}\left(\frac{E^{2}(\theta ^{1-k}|X)}{E^{2}(\theta ^{-k}|X)}\right)^{\lambda s}\leq E_{X}\left(E(\theta ^{2k}|X)\right)^{\lambda s}< \infty. $

定理4.1  设$X_{1}, X_{2}, \cdots, X_{n}$为来自刻度指数族分布的独立同分布样本序列, $\theta$为刻度参数, 假设:

(1)$u(x)$为单调非降函数, $\frac{1}{u(x)} < \infty, ~\frac{u'(x)}{u^{2}(x)} < +\infty$;

(2)$\sup\limits_{x}|p(x)| < \infty, ~\sup\limits_{x}|p^{(s)}(x)| < \infty$;

(3)$E(\theta ^{2-k}) < \infty, ~E(\theta^{\frac{-k(2k-3)}{k-1}}) < \infty, ~E(\theta ^{2k \lambda s}) < \infty$,

其中$\frac{1}{2}\leq \lambda < 1$, 给定的整数$s\geq k+1$, 则当$h_{n}=n^{-\frac{1}{2s+1}}$时, 有

$ R_{n}-R(G)=O\left(n^{-\frac{2\lambda^{2}s(s-k)}{(2s+1)(\lambda s+1)}}\right). $

证  由引理3.1知

$ R_{n}-R(G)=E_\ast[(\hat{\theta}_{EB}-\hat{\theta}_{BE})^2/\theta^k]=E_{(X, \theta)}[\theta^{-k}E(\hat{\theta}_{EB}-\hat{\theta}_{BE})^2]. $

而

$ E(\hat{\theta}_{EB}-\hat{\theta}_{BE})^2 =E(\hat{\theta}_{EB}-\hat{\theta}_{BE})^2I_{(\hat{\theta}_{BE}\leq \frac{1}{2}n^{v})} +E(\hat{\theta}_{EB}-\hat{\theta}_{BE})^2I_{(\hat{\theta}_{BE}>\frac{1}{2}n^{v})}\triangleq I_{1}+I_{2}, $

由引理3.2和3.3得

$ I_{1} \leq \left(\frac{3}{2}n^{v}\right)^{2-2\lambda} E\left|\left[\hat{\theta}_{EB}-\hat{\theta}_{BE}\right]_{\frac{3}{2}n^{v}}\right|^{2\lambda}\nonumber \\ \leq \left(\frac{3}{2}n^{v}\right)^{2-2\lambda}\cdot 2|p^{(k)}(x)|^{-2\lambda} \left\{E|p_{n}^{(k-1)}(x)-p^{(k-1)}(x)|^{2\lambda}+(2n^{v})^{2\lambda}E|p_{n}^{(k)}(x)-p^{(k)}(x)|^{2\lambda}\right \}\nonumber \\ \leq\left(\frac{3}{2}n^{v}\right)^{2-2\lambda} \cdot c \left \{c \cdot n^{-\frac{2\lambda(s-k+1)}{2s+1}}+c\cdot n^{2\lambda v}\cdot n^{-\frac{2\lambda(s-k)}{2s+1}}\right \}\nonumber \\ \leq c\cdot n^{2v-\frac{2\lambda(s-k)}{2s+1}}. \nonumber $

于是

$ E_{(X, \theta)}\left[\theta^{-k}E(\hat{\theta}_{EB}-\hat{\theta}_{BE})^2I_{(\hat{\theta}_{BE}\leq \frac{1}{2}n^{v})}\right] \leq c\cdot n^{2v-\frac{2\lambda(s-k)}{2s+1}}E(\theta ^{-k})\leq c\cdot n^{2v-\frac{2\lambda (s-k)}{2s+1}}. $

又$I_2\leq 10\hat{\theta}_{BE}^{2}\cdot I_{\left(\hat{\theta}_{BE}>\frac{1}{2}n^{v}\right)}$, 所以

$ E_{(X, \theta)}\left[\theta^{-k}E(\hat{\theta}_{EB}-\hat{\theta}_{BE})^{2}I_{\left(\hat{\theta}_{BE}>\frac{1}{2}n^{v}\right)}\right] \nonumber \\ \leq 10E_{(X, \theta)}\left[\theta^{-k}\cdot \hat{\theta}_{BE}^{2}\cdot I_{\left(\hat{\theta}_{BE}>\frac{1}{2}n^{v}\right)}\right] \nonumber \\ \leq c\cdot E_{X}I_{\left(\hat{\theta}_{BE}>\frac{1}{2}n^{v}\right)} \nonumber \\ \leq c\cdot \frac{E|\hat{\theta}_{BE}(X)|^{2\lambda s}}{\left(\frac{1}{2}n^{v}\right)^{2\lambda s}} \nonumber \\ \leq c\cdot n^{-2v\lambda s}. \nonumber $

于是

$ R_{n}-R(G)\leq c\cdot n^{2v-\frac{2\lambda (s-k)}{2s+1}}+c\cdot n^{-2v\lambda s}. $

取$v=\frac{\lambda (s-k)}{(2s+1)(\lambda s+1)}$, 则有$2v\lambda s=\frac{2\lambda (s-k)}{2s+1}-2v$.从而

$ R_{n}-R(G)=O\left(n^{-\frac{2\lambda^{2}s(s-k)}{(2s+1)(\lambda s+1)}}\right). $

定理得证.

注4.1  当$k=2$时, 定4.1的收敛速度与文献[3]中定理3.1的收敛速度一致.

假设给定参数$\theta$时, 随机变量$X$的密度为

$ f(x|\theta)=\frac{1}{\theta}\exp\left(-x/\theta\right)I_{[x>0]}, $

此时, $c(\theta)=\frac{1}{\theta}, ~u(x)\equiv 1$, 样本空间$\mathcal{X}=(0, +\infty)$, 参数空间$\Theta =(0, +\infty).$

取$\theta$的先验密度为

$ g(\theta)=\frac{\beta^{b}}{\Gamma(b)}\theta^{-(b+1)}\exp(-\beta/\theta)I_{(\theta>0)}, $

其中$b>0, ~\beta>0$为常数.于是$X$的边际密度为

$ f(x)=\int_{0}^{\infty} f(x|\theta)g(\theta){\rm d}\theta=\int_{0}^{\infty}\frac{\beta^{b}}{\Gamma(b)}\theta^{-(b+2))}\exp \left\{-\frac{x+\beta}{\theta} \right\} {\rm d}\theta \triangleq p(x), $

则$p(x)=\frac{c}{(x+\beta)^{b+1}}$为$x$的任意阶可微函数, 且$\sup\limits_{x}|p(x)| < +\infty, ~\sup\limits_{x}|p^{(s)}(x)| < +\infty$.容易验证定理4.1中的其它条件也满足, 故定理4.1的结论对于此例成立.