考虑如下半参数回归模型
其中$"'"$表示向量或矩阵的转置,随机设计点列$X_i=(x_{i1}, x_{i2}, \cdots, x_{id})^{'}$,非随机点列$t_i\in [0,1]$,$\beta=(\beta_1, \beta_2, \cdots, \beta_d)^{'}\in \mathbb{R}^d$为$d$维未知参数,$g(t)$是定义在$[0,1]$上的未知函数,$\{e_i\}$为零均值的$\psi-$弱相依(定义见下文)序列.
半参数回归模型自从Engle等人提出后(见文献[1]),取得了丰硕的研究成果.独立误差下的半参数回归模型的统计推断理论比较完善和系统(如文献[2-3]).对于各种相依误差下的半参数回归模型(1.1)及其特殊情形人们也进行了研究,并取得了丰富的成果,如:误差为鞅差的情形参见文献[4], NA误差的情形参见文献[5-6];文献[7]讨论了一般相依误差(包括混合误差)下非参数回归模型最小二乘估计的相合性;文献[8]考虑了一类$\psi-$弱相依误差的半参数回归模型,得到参数和非参数的广义最小二乘估计量(基于核方法)的渐近正态性.由于$\psi-$弱相依随机序列包含了Gaussian序列、各种混合序列、相伴序列、Bernoulli漂移、Markov链等(见文献[9-10]等)在内的相依序列,因此模型(1.1) 在一定程度上是各种误差情形下的半参数回归模型的较一般形式.我们试图寻找半参数回归模型的小波估计的统一推断理论,本文只研究加权小波估计量的渐近正态性.
为了下文的需要,先引入一些记号和给出两类函数.记向量$v=(v_1, v_2, \cdots, v_n)'\in \mathbb{R}^n$的范数为${\left\| v \right\|_p} = {(\sum\limits_{i = 1}^n | {v_i}{|^p})^{\frac{1}{p}}},1 \leqslant p < \infty $,${\left\| v \right\|_\infty } = \mathop {\max }\limits_{1 \leqslant i \leqslant n} |{v_i}|$,以及矩阵$A=(a_{ij})_{n\times n}$的范数为$\|A\|_p=\max_{\|v\|_p>0}(\frac{\|Av\|_p}{\|v\|_p}), 1\leq p < \infty$,${\left\| A \right\|_\infty } = \mathop {\max }\limits_{1 \leqslant i \leqslant n} \sum\limits_{j = 1}^n | {a_{ij}}|$.记$L^\infty(\mathbb{R}^n)$为空间$\mathbb{R}^n$上实值有界函数的集合,$L^\infty=\cup_{n=1}^\infty L^\infty(\mathbb{R}^n)$,$\mathbb{R}^n$上的$l_1$范数为${\left\| {({u_1},{u_2}, \cdots ,{u_n})} \right\|_1} = \sum\limits_{n = 1}^n | {u_i}|$,函数$h:\mathbb{R}^n\rightarrow \mathbb{C}$的Lipschitz模为
又记$\mathbb{F}_n=\{h\in L^\infty(\mathbb{R}):\text{Lip}(h) < \infty, \|h\|_\infty=\sup_u|h(u)|\leq 1\}$,$\mathbb{F}=\cup_{n=1}^\infty\mathbb{F}_n$上的两类函数为
和
其中$h, \kappa\in \mathbb{R}$.
定义2.1 [9]随机序列$\{\varepsilon_i, i\in\mathbb{N}\}$称为$(\theta, \mathbb{F}, \psi)$-弱相依(简称$\psi$-弱相依),如果存在当$r\rightarrow \infty$时递减到零的序列$\theta=\{\theta_r, r\in\mathbb{N}\}$和函数$\psi$,使得对任何$(i_1, i_2, \cdots, i_n)$和$(j_1, j_2, \cdots, j_m)$有
其中$i_1\leq i_2\leq \cdots\leq i_n < i_n+r\leq j_1\leq j_2\leq\cdots\leq j_m$.
设有一个给定的刻度函数$\phi(x)\in \mathbb{S}_l$(阶为$l$的Schwartz空间),相伴$L^2(\mathbb{R})$的多尺度分析为$\{V_m\}$,其再生核为
记$A_i$是$[0,1]$上的分割且$t_i\in A_i, 1\leq i\leq n$.采用通常的估计方法,可以得到参数$\beta$和非参数$g(t)$的加权小波估计量分别为
其中$\Psi=Var(e)=(\psi_{ij})_{n\times n}$为$n$阶正定矩阵,
本节将给出参数$\beta$和非参数$g(t)$的加权小波估计量的渐近正态性,为此先给出如下的一些基本假设条件:
(Ⅰ)存在光滑函数$f_j(t), t\in [0,1]$,使得
其中$\{\eta_{ij}\}$独立同分布,且$E\eta_{ij}=0$,$\{\eta_{ij}\}$与$\{e_i\}$相互独立.
(Ⅱ)$g(\cdot), f_j(\cdot)\in \mathbb{H}^\alpha, \alpha>\frac{1}{2}$.
(Ⅲ)$g(\cdot), f_j(\cdot)$满足$\gamma$阶Lipschitz条件,$\gamma>0, 1\leq j\leq d$.
(Ⅳ)$\phi(\cdot)\in\mathbb{S}_l(l\geq\alpha)$,$\phi$满足1阶Lipschitz条件且具有紧支撑,当$\xi\rightarrow 0$时,$|\hat{\phi}(\xi)-1|=O(\xi)$,其中$\hat{\phi}$为$\phi$的Fourier变换.
(Ⅴ)$\mathop {\max }\limits_{1 \leqslant i \leqslant n} ({s_i} - {s_{i - 1}}) = O({n^{ - 1}})$,且$2^m=O(n^{\frac{1}{3}})$.
(Ⅵ)对于矩阵$\Psi=(Q'Q)^{-1}$假定:$\|\Psi\|_2=O(1), \|\Psi^{-1}\|_\infty=O(1)$;$\mathop {\lim }\limits_{n \to \infty } ({n^{ - 1}}\eta '{\Psi ^{ - 1}}\eta ) = V$,其中$\eta=(\eta_{ij})_{n\times d}$,$V$为$d$阶正定矩阵;$\|W'\Psi^{-1}\eta_j\|=o_P(n^{-\frac{1}{2}})$.
注1 对于随机设计情形下的半参数回归模型的小波估计,假设条件(Ⅰ)-(Ⅴ)是相当弱的条件,如文献[4][6]等均使用这些条件.假设(Ⅵ)比文献[8]的假设4要弱,且去掉了文献[8]的假设2中的(b)和(c).
基于上面的基本假设,可以得到如下的主要结果.
定理3.1 如基本假设条件(Ⅰ)-(Ⅵ)成立,又设$\{e_i\}$为$(\theta, \mathbb{F}, \psi_1)$或$(\theta, \mathbb{F}, \psi_2)$-弱相依序列且$\theta_r=O(r^{-\rho})$,$\rho\geq2$,$\mathop {\sup }\limits_i E|{e_i}{|^{2 + \delta }} < \infty (0 < \delta < 1)$, 则对于$\alpha>\frac{3}{2}, \gamma\geq\frac{1}{3}$,有
其中$"D"$表示依分布收敛.
定理3.2 如满足定理3.1的所有条件,则
其中$\bar g(t) = \sum\limits_{i = 1}^n {\int_{{A_i}} {{E_m}} } (t,s)dsg({t_i})$,$\text{Var}({\hat g_n}(t)) \to \sum\limits_{i = 1}^n {\sum\limits_{j = 1}^n {{\psi _{ij}}} } \int_{{A_j}} {{E_m}} (t,s)ds\int_{{A_i}} {{E_m}} (t,s)ds$.
注2 当误差$\{e_i\}$为Gaussian序列、各种混合序列、相伴序列、Bernoulli漂移、Markov链等时,上述结论显然成立.由此可知,本文的结论不仅推广了独立误差情形的半参数回归模型的相应结论,而且在一定程度上统一了相依半参数回归模型的渐近正态性的理论.
为了证明本文的主要结果,我们先给出若干必要的引理,其中引理4.1和4.2是小波估计常用的两个结论(见文献[11]等),引理4.3参见文献[6],引理4.4是仿照文献[8]的方法而得到.下文中的$C$表示常数,且在不同的地方可以取不同的值.
引理4.1 [11] 若条件(Ⅰ)-(Ⅳ)成立,则
其中
引理4.2 [11] 若条件(Ⅳ)成立,则
引理4.3 [6]若条件(Ⅲ)(Ⅳ)成立,且$E\eta_{1j}^2 < \infty$,则
引理4.4 如基本假设条件(Ⅰ)-(Ⅵ)成立,则依概率有
证 令$\tilde{\eta}_i=\eta_i-\sum_{i=1}^n\eta_j\int_{A_j}E_m(t_i, s)ds$,$F_j=(f_j(t_1), f_j(t_2), \cdots, f_j(t_n))'$,$\tilde{F}_j=(I-W)F_j$,${\tilde f_j}({t_i}) = {f_j}({t_i}) - \sum\limits_{l = 1}^n {\int_{{A_l}} {{E_m}} } ({t_i},s)ds{f_j}({t_l})$, 则$n^{-1}(\tilde{X}'\Psi^{-1}\tilde{X})$的第$(i, j)$元素为
由假设(Ⅵ)及引理4.1,得
由引理4.3容易得到$\|W\eta_j\|_2=O_P(n^{\frac{1}{6}}\log n)$,于是由此及假设(Ⅵ),得
因而由(4.3)和(4.4)式可以得到
由假设(Ⅵ),引理4.1,得
由(4.1), (4.2), (4.5)和(4.6)式即可证明该引理.
定理4.1的证明 由(2.1)式得
令$B=(B_1, B_2, \cdots, B_d)'=(\tilde{X}'\Psi^{-1}\tilde{X})^{-1}$,$C'_n=(c_{1n}, c_{2n}, \cdots, c_{nn})=B_i\tilde{X}'\Psi^{-1}(I-W)$,则$n^{\frac{1}{2}}(\hat{\beta}_n-\beta)$的第$i$个分量为$\sqrt{n}S_n=C'_ne=\sum_{i=1}^nc_{ni}e_i$.注意到
考虑$\tilde{X}'\Psi^{-1}W\Psi W'\Psi^{-1}\tilde{X}$的第$(i, j)$元素,由引理4.1和假设(Ⅵ),得
考虑$\tilde{X}'W'\Psi^{-1}\tilde{X}$的第$(k, j)$元素的平方
于是由(4.8)-(4.10)式可得
利用文献[8]的方法容易证明
由(4.7), (4.11)和(4.12)式即可得到定理1.
定理4.2的证明 注意到
由定理4.1和引理4.3可得
从而有
由定理4.1和引理4.1-4.2容易得到
从而由(4.13)-(4.16) 式知,要证明定理4.2成立,只需证明下式成立即可
类似于(4.12)式的证明方法,我们很容易得到(4.17)式,在此略.