算子矩阵是线性算子理论的重要内容之一, 它在偏微分方程、插值理论、最优控制理论以及流体力学、量子力学、磁流体力学等学科都得到了广泛的应用.而本文研究的无界算子矩阵的本质谱是近年来算子矩阵理论中比较活跃的研究课题之一, 国内外很多学者对其做了许多研究工作.如2002年, Djordjević对上三角型缺项算子矩阵的本质谱进行了研究^[7]自2005年至今, 国内的曹小红博士研究了一类2 $\times$2阶上三角缺项算子矩阵的本质谱的扰动^[8].海国君博士在文[2]中分别给出了两类2 $\times$2阶缺项算子矩阵的左右本质谱和本质谱的扰动问题.以上论文主要关注于有界算子的情形(其他相关文献可见文[3, 4].但在数学物理问题中遇到的微分算子是无界算子, 所以无界算子的本质谱的研究亦具有重要的研究价值.对无界算子矩阵, 国外学者Atkinson, Langer, Mennicken和Shkalikov在文[5]中讨论了无界算子矩阵的本质谱问题, Tretter在文[6]中, 从定义域分类的角度继续讨论了某类无界算子矩阵的本质谱问题.相比于有界情形, 研究无界算子矩阵将会遇到如下困难: (1) 算子矩阵的定义域更加复杂; (2) 对于闭算子 $T$和 $S$而言, $T+S$和 $TS$不一定是闭算子; (3) 对于无界算子 $T$和 $S$而言, $T^{-1}S$和 $ST^{-1}$不一定是有界算子.在文献[5]的主要结论中假设 $T^{-1}S$是紧算子, 文[6]的主要结论中假设 $T^{-1}S$是有界算子.而本文利用不同于以上两篇文献的方法, 有效地避免了判断 $T^{-1}S$类算子的有界性问题, 研究了次对角占优的无界算子矩阵的左本质谱和本质谱, 并得到了算子矩阵的本质谱与其元素的本质谱之间的一个充要条件.

在本文, $X$表示无穷维Hilbert空间, $B(X)$表示从 $X$到 $X$的有界线性算子构成的Banach空间.对于线性算子 $T$而言, $\rho(T)$, $\sigma_{le}(T)$, $\sigma_{re}(T)$及 $\sigma_{ess}(T)$分别表示预解集, 左本质谱, 右本质谱及本质谱.

定义1^[1]  设 $X$是Hilbert空间, $T$: $D(T)$ $\subseteq$ $X$ $\rightarrow$ $X$是闭线性算子, 如果存在复数 $\lambda$, 使得

(1) $T_{\lambda}$= $\lambda I-T$的值域 $R$ $(\lambda I-T)$= $(\lambda I-T)$ $D(T)$= $X$,

(2) $R$ $(\lambda, T )$= $(\lambda I-T)^{-1}$存在(当且仅当 $\lambda I-T$为单射),

(3) $R$ $(\lambda, T )$是有界线性算子,

则称 $\lambda$为 $T$的正则值, $T$的正则值的全体称为 $T$的预解集, 记为 $\rho(T)$, 由闭图像定理可知

$ \rho \rm{(}\mathit{T}\rm{)}=\{\mathit{\lambda }\in \mathbb{C}:\mathit{\lambda I}-\mathit{T}为单射且\mathit{R}(\mathit{\lambda I}-\mathit{T})=X\}. $

算子理论中, Fredholm算子的研究非常重要, 其基本性质可见于文献[1, 10, 12-14].下面给出Fredholm算子的定义.

定义2^[15]  设 $T$是Banach空间 $X$中的稠定闭线性算子, $N(T)$和 $R(T)$分别表示 $T$的零空间和值域.定义

$ \begin{eqnarray*} &&{\rm nul}(T):=\dim N(T), \\ &&{\rm def}(T):=\dim(X/R(T)). \end{eqnarray*} $

(1) 如果 ${\rm nul}(T)$是有限的且 $R(T)$是闭的, 称 $T$是左Fredholm算子.

(2) 如果 ${\rm def}(T)$是有限的且 $R(T)$是闭的, 称 $T$是右Fredholm算子.

(3) 如果 ${\rm nul}(T)$和 ${\rm def}(T)$都是有限的且 $R(T)$是闭的, 称 $T$是Fredholm算子.

(4) 如果算子 $T$是左Fredholm算子或右Fredholm算子, 称 $T$为半Fredholm算子.

注  有些文献中, 左Fredholm算子称为上半Fredholm算子, 而右Fredholm算子称为下半Fredholm算子.

由Fredholm算子的定义可以引进本质谱的概念.

定义3^[15]  设 $T$是Banach空间 $X$中的稠定闭算子, $\lambda$ $\in$ $\mathbb{C}$,

(1) 如果 $\lambda I-T$不是左Fredholm算子, 称 $\lambda$是 $T$的一个左本质谱点, $T$的左本质谱点的全体称为 $T$的左本质谱, 记为 $\sigma_{le}(T)$.即有

$ {{\mathit{\sigma }}_{\mathit{le}}}\rm{(}\mathit{T}\rm{)}=\{\mathit{\lambda }\in \mathbb{C}:\mathit{\lambda I}-\mathit{T}不是左\rm{Fredholm算子}\}; $

(2) 如果 $\lambda I-T$不是右Fredholm算子, 称 $\lambda$是 $T$的一个右本质谱点, $T$的右本质谱点的全体称为 $T$的右本质谱, 记为 $\sigma_{re}(T)$.即有

$ {{\mathit{\sigma }}_{\mathit{re}}}\rm{(}\mathit{T}\rm{)}=\{\mathit{\lambda }\in \mathbb{C}:\mathit{\lambda I}-\mathit{T}不是右\rm{Fredholm算子}\}; $

(3) 如果 $\lambda I-T$不是Fredholm算子, 称 $\lambda$是 $T$的一个本质谱点, $T$的本质谱点的全体称为 $T$的本质谱, 记为 $\sigma_{e}(T)$.即有

$ {{\mathit{\sigma }}_{\mathit{ess}}}\rm{(}\mathit{T}\rm{)}=\{\mathit{\lambda }\in \mathbb{C}:\mathit{\lambda I}-\mathit{T}不是右\rm{Fredholm算子}\}. $

定义4^[6]  设 $E$, $F$, $G$是Banach空间, $T$: $D(T)$ $\subset$ $E$ $\rightarrow$ $F$, $S$: $D(S)$ $\subset$ $E$ $\rightarrow$ $G$是线性算子, 如果 $D(T)$ $\subset$ $D(S)$且存在非负常数 $a_S$, $b_S$使得对任意的 $x$ $\in$ $D(T)$, 有

$ \begin{equation}\label{aaaa} \parallel S x \parallel \leq a_S \parallel x \parallel + b_S \parallel Tx \parallel, \end{equation} $

(2.1)

则称算子 $S$相对于 $T$有界的, 简称 $T$ -有界; 使得上式成立的所有 $b_S$的下确界称为算子 $S$关于 $T$的相对界, 简称 $T$ -界.

定义5^[6]  给定分块算子矩阵 $M=\left( \begin{matrix} A & B \\ C & D \\ \end{matrix} \right)$,

(1) 如果 $C$是 $A$ -有界且 $B$是 $D$ -有界, 则称 $M$对角占优;

(2) 如果 $A$是 $C$ -有界且 $D$是 $B$ -有界, 则称 $M$次对角占优.

引理1^[13]  设 $X$, $Y$, $Z$为Banach空间. $T: X \to Y$是闭线性算子且具有闭值域. ${\rm nul}(T)<\infty$, $C: Z \to X$为闭线性算子, 则 $TC$是一个闭算子.

引理2^[13]  设 $X$, $Y$, $Z$为Banach空间. $T: X \to Y$是稠定Fredholm算子, $S: Z \to X$是一个Fredholm算子, 则 $TS$为Fredholm算子.

引理3^[15]  设 $T$和 $A$是Hilbert空间 $X \to Y$的线性算子, 如果算子 $A$相对于 $T$是有界且 $T$ -界 $<$1, 则 $S$ $T+A$可闭(或闭)当且仅当 $T$可闭(或闭).

定理4  设 $X$为Hilbert空间, 算子矩阵 $ \mathit{M}=\left( \begin{matrix} \mathit{A} & \mathit{B} \\ \mathit{C} & \mathit{D} \\ \end{matrix} \right):\mathit{D}(\mathit{C})\times \mathit{D}(\mathit{B})\subseteq \mathit{X}\times \mathit{X}\to \mathit{X}\times \mathit{X}$为次对角占优的闭算子, 记其中 $D$为可闭算子, $C$为闭算子, $B$具有有界逆.如果存在 $a_{D}$, $b_{D}$, $b_{A}$满足 $(a_{D}\|B^{-1}\|+b_{D})$ $b_{A}$ $<$ 1, 则有 $\lambda$ $\in$ $\sigma_{le}(M)$当且仅当0 $\in$ $\sigma_{le}(\Delta_{1})$, 其中 $\Delta_{1}$ = $C-$( $\lambda I-$D) $B^{-1}$( $\lambda I-$A), $a_{D}$, $b_{D}$, $b_{A}$分别为相对有界定义中((2.1)式)的系数.

证  由本质谱的定义可知要证明 $\lambda$ $\in$ $\sigma_{le}(M)$当且仅当0 $\in$ $\sigma_{le}(\Delta_{1})$, 只需证明 $\lambda I-M$是左Fredholm算子当且仅当 $\Delta_{1}$是左Fredholm算子即可.

(1) 设 $\lambda I-M$是左Fredholm算子, 要证 $\Delta_{1}$是左Fredholm算子, 由定义只需证明 $\Delta_{1}$是闭算子, $R(\Delta_{1})$是闭的且 ${\rm nul}(\Delta_{1})$ $<$ $\infty$.

下面分三步来证明.

(ⅰ)因为存在 $a_{D}$, $b_{D}$, $b_{A}$满足 $(a_{D}\|B^{-1}\|+b_{D})$ $b_{A}$ $<$ 1, 要证明 $\Delta_{1}$为闭算子, 由引理3可知只需证明 $(\lambda I-D)$ $B^{-1}$ $(\lambda I-A)$相对于 $C$有界且相对界小于1即可.事实上

$ \begin{eqnarray*} \|(\lambda I-D)B^{-1}(\lambda I-A)x\|&\leq& a_{D} \|B^{-1}(\lambda I-A)x\| + b_{D} \|(\lambda I-A)x\|\\ &\leq& a_{D} \|B^{-1}\| \|(\lambda I-A)x\| + b_{D} \|(\lambda I-A)x\|\\ &\leq& (a_{D}\|B^{-1}\|+b_{D}) \|(\lambda I-A)x\|\\ &\leq& (a_{D}\|B^{-1}\|+b_{D}) (a_{A}\|x\|+b_{A}\|Cx\|), \end{eqnarray*} $

所以当 $(a_{D}\|B^{-1}\|+b_{D})$ $b_{A}$ $<$ 1时, $C - (\lambda I-D)$ $B^{-1}$ $(\lambda I-A)$是闭算子, 即 $\Delta_{1}$是闭算子.

(ⅱ)证明 $R(\Delta_{1})$是闭的.

对任意的 $\{x_{n}\}_{n=1}^{\infty}$ $\subset$ $R(\Delta_{1})$, 若 $x_{n} \to x$ ( $n \to \infty$), 只需证明 $x \in R(\Delta_1)$.此时存在 $\{y_{n}\}_{n=1}^{\infty}$ $\subset$ $D$(C)使得 $[$C $-$( $\lambda I-D$) $B^{-1}$ $( \lambda I-A )$ $]$ $y_{n}$ $\rightarrow$ $x$ ( $n$ $\rightarrow$ $\infty$), 即

$ Cy_{n}-(\lambda I-D)B^{-1}( \lambda I-A )y_{n}\rightarrow x (n\rightarrow \infty). $

令 $z_{n}$= $B^{-1}$ $( \lambda I-A )$ $y_{n}$, 则有 $\{z_{n}\}_{n=1}^{\infty}$ $\subset$ $D(B)$, 所以有 $(\lambda I-A )$ $y_{n}$= $B$ $z_{n}$, $C$ $y_{n}-(\lambda I-D )$ $z_{n}$ $\rightarrow$ $x$ ( $n$ $\rightarrow$ $\infty$), 即

$ \left(% \begin{array}{cc} \lambda I-A & -B\\ -C & \lambda I-D\\ \end{array}% \right)\left(% \begin{array}{cc} y_{n} \\ z_{n} \\ \end{array}% \right)\rightarrow \left(% \begin{array}{cc} 0\\ -x\\ \end{array}% \right)(n\rightarrow\infty). $

由已知 $R(\lambda I-$M $)$是闭的, 于是 $\left( \begin{matrix} 0 \\ -x \\ \end{matrix} \right)\in R(\lambda I-M)$, 即存在 $\left( \begin{align} & \mathit{x'} \\ & \mathit{y'} \\ \end{align} \right)\in D(B)\times D(C)$, 使得

$ \left(% \begin{array}{cc} \lambda I-A & -B\\ -C & \lambda I-D\\ \end{array}% \right)\left(% \begin{array}{cc} x^{'}\\ y^{'}\\ \end{array}% \right)= \left(% \begin{array}{cc} 0\\ -x\\ \end{array}% \right), $

即

$ \rm{(}\mathit{\lambda I}-\mathit{A}\rm{)}\mathit{x'}-\mathit{By'}=0, $

(3.1)

$ \mathit{Cx'}-(\mathit{\lambda I}-\mathit{D})\mathit{y'}=\mathit{x}. $

(3.2)

由于 $B$具有有界逆, $D(B)$ $\subseteq$ $D(D)$且 $D$是可闭算子, 由闭图像定理知 $(\lambda I-D)$ $B^{-1}$是 $X$上的有界算子, 因此用 $(\lambda I-D)$ $B^{-1}$分别作用于方程(3.1)的两边得

$ \begin{equation}\label{dd} (\lambda I-D)B^{-1}(\lambda I-A)x^{'}-(\lambda I-D)y^{'}= 0, \end{equation} $

(3.3)

再由方程(3.2) 和(3.3) 可得

$ \begin{equation} [C-(\lambda I-D)B^{-1}(\lambda I-A)]x^{'} = x. \end{equation} $

(3.4)

又因为 $x^{'}$ $\in$ $D(C)$, 所以 $x$ $\in$ $R(\Delta_{1})$, 即 $R(\Delta_{1})$是闭的.

(ⅲ)证明 ${\rm nul}$ $(\Delta_{1})$ $<$ $\infty$.

对于任意的 $y$ $\in$ $N(\Delta_{1})$, 有 $[C-(\lambda I-D)B^{-1} (\lambda I-A)]$ $y$ = 0, 即

$ (\lambda I-D)B^{-1}(\lambda I-A)y=Cy, y\in D(C), $

从而有

$ \left(% \begin{array}{cc} \lambda I-A & -B\\ -C & \lambda I-D\\ \end{array}% \right)\left(% \begin{array}{cc} y\\ B^{-1}(\lambda I-A)y\\ \end{array}% \right)=0, $

所以

$ \left(% \begin{array}{cc} y\\ B^{-1}(\lambda I-A)y\\ \end{array}% \right)\in N(\lambda I-M). $

又因为 ${\rm nul}(\lambda I-M)$ $<$ $\infty$, 所以 ${\rm nul}(\Delta_{1})$ $<$ $\infty$.

综上(ⅰ)、(ⅱ)、(ⅲ)知, 若 $\lambda I-M$是左Fredholm算子, 则 $\Delta_{1}$是左Fredholm算子.

(2) 若 $\Delta_{1}$是左Fredholm算子, 要证 $\lambda I-M$是左Fredholm算子, 只需证明(ⅰ) $R(\lambda I-$M $)$是闭的; (ⅱ) ${\rm nul}(\lambda I-M)$ $<$ $\infty$即可.

下面分别证明上述两个命题:

(ⅰ) $R(\lambda I-$M $)$是闭的.

对任意的 $\{\left( \begin{matrix} {{x}_{n}} \\ {{y}_{n}} \\ \end{matrix} \right)\}_{n=1}^{\infty }$ $\subset$ $R(\lambda I-$M $)$, 存在 $\{\left( \begin{matrix} {{\alpha }_{n}} \\ {{\beta }_{n}} \\ \end{matrix} \right)\}_{n=1}^{\infty }$ $\subset$ $D(C)$ $\times$ $D(B)$, 使得

$ \left(% \begin{array}{cc} \lambda I-A & -B\\ -C & \lambda I-D\\ \end{array}% \right)\left(% \begin{array}{cc} \alpha_{n} \\ \beta_{n} \\ \end{array}% \right)=\left(% \begin{array}{cc} x_{n}\\ y_{n}\\ \end{array}% \right). $

若 $\left(\begin{array}{cc} x_{n}\\ y_{n}\\ \end{array} \right)$ $\longrightarrow$ $\left( \begin{array}{cc} x\\ y\\ \end{array} \right)$ ( $n$ $\rightarrow$ $\infty$), 有

$ (\mathit{\lambda I}-A){{\mathit{\alpha }}_{\mathit{n}}}-\mathit{B}{{\mathit{\beta }}_{\mathit{n}}}\to x, $

(3.5)

$ -\mathit{C}{{\mathit{\alpha }}_{\mathit{n}}}+(\mathit{\lambda I}-\mathit{D}){{\mathit{\beta }}_{\mathit{n}}}\to y. $

(3.6)

由于 $B$具有有界逆, $D(B)$ $\subseteq$ $D(D)$且 $D$是可闭算子, 故 $(\lambda I-D)$ $B^{-1}$是 $X$上的有界算子, 因此用 $(\lambda I-D)$ $B^{-1}$分别作用在方程(3.5)的两边得到

$ \begin{align}\label{gg} (\lambda I-D)B^{-1}(\lambda I-A)\alpha_{n}-(\lambda I-D)\beta_{n} \to (\lambda I-D) B^{-1}x, \end{align} $

(3.7)

再由(3.6) 和(3.7) 式可得

$ \begin{align} C-(\lambda I-D)B^{-1}(\lambda I-A)\alpha_{n} \to -y-(\lambda I-D)B^{-1}x, \end{align} $

(3.8)

由于 $R(\Delta_{1})$是闭的, 故存在 $x_{1}^{'}$ $\in$ $D(C)$, 使得

$ [C-(\lambda I-D)B^{-1}(\lambda I-A)]x_{1}^{'}=-y-(\lambda I-D)B^{-1}x. $

若令 $y_{1}^{'}$= $-B^{-1}$ $x$+ $B^{-1}$ $(\lambda I-A)$ $x_{1}^{'}$, 则有

$ \left(% \begin{array}{cc} \lambda I-A & -B\\ -C & \lambda I-D\\ \end{array}% \right)\left(% \begin{array}{cc} x_{1}^{'} \\ y_{1}^{'} \\ \end{array}% \right)=\left(% \begin{array}{cc} x\\ y\\ \end{array}% \right). $

易知 $y_{1}^{'}$ $\in$ $D(B)$, 即 $\left( \begin{array}{cc} x_{1}^{'} \\ y_{1}^{'} \\ \end{array}\right)$ $\in$ $D(C)$ $\times$ $D(B)$, 因此 $\left( \begin{array}{cc} x \\ y \\ \end{array} \right)$ $\in$ $R(\lambda I-$M $)$, 进而 $R(\lambda I-$M $)$是闭的.

(ⅱ) ${\rm nul}$ $(\lambda I-M)$ $<$ $\infty$.

对任意的 $\left( \begin{array}{cc} x \\ y \\ \end{array} \right)\in N(\lambda I-M)$有

$ \left( \begin{array}{cc} \lambda I-A & -B\\ -C & \lambda I-D\\ \end{array} \right)\left( \begin{array}{cc} x \\ y \\ \end{array} \right)=0, $

即 $(\lambda I-A)x-By = 0$, $-Cx+(\lambda I-D)y=0$, $x\in D(C)$, $y\in D(B)$.化简两个等式得 $[C-(\lambda I-D)B^{-1}(\lambda I-A)]$ $x$= 0, 所以 $x$ $\in$ $N$ $(\Delta_{1})$, 而由 ${\rm nul}$ $(\Delta_{1})$ $<$ $\infty$和 $y=B^{-1}(\lambda I-A)x$知 ${\rm nul}$ $(\lambda I-M)$ $<$ $\infty$.

综上(ⅰ)和(ⅱ)知, 若 $\Delta_{1}$是左Fredholm算子, 则 $\lambda$ $ I-M$是左Fredholm算子.

那么由(1) 和(2) 可知对于任意的 $\lambda$ $\in$ $C$, 有 $\lambda$ $\in$ $\sigma_{le}(M)$当且仅当 $0$ $\in$ $\sigma_{le}(\Delta_{1})$.

定理5  设 $X$为Hilbert空间, 算子矩阵

$ M=\left( \begin{array}{cc} A & B\\ C & D\\ \end{array}\right): D(C)\times D(B)\subseteq X\times X\rightarrow X\times X $

为次对角占优的闭算子, 其中 $D$为可闭算子, $C$为闭算子, $B$具有有界逆算子且使得 $B^{-1}$ $A$是闭算子,如果存在 $a_{D}$, $b_{D}$, $b_{A}$满足 $(a_{D}\|B^{-1}\|+b_{D})$ $b_{A}$ $<$1, 则有 $\lambda$ $\in$ $\sigma_{\rm ess}(M)$当且仅当 $0$ $\in$ $\sigma_{\rm ess}(\Delta_{1})$, 其中 $\Delta_{1}$ = $C-(\lambda I-D$) $B^{-1}$ $(\lambda I-A)$, $a_{D}$, $b_{D}$, $b_{A}$的定义同定理4.

证  由本质谱的定义, 只需证明 $\lambda I-M$是Fredholm算子当且仅当 $\Delta_{1}$是Fredholm算子即可.由条件 $(a_{D}\|B^{-1}\|+b_{D})$ $b_{A}$ $<$1可知 $\Delta_{1}$为闭算子, 由 $0$ $\in$ $\rho(B)$知 $B$为闭算子.下面分解算子 $M$ = $TM_{1}$ $S$, 其中

$ T =\left(% \begin{array}{cc} I & 0\\ (D-\lambda I)B^{-1} & I\\ \end{array}% \right), M_{1}=\left(% \begin{array}{cc} 0 & B\\ \Delta_{1} & 0\\ \end{array}% \right), S=\left(% \begin{array}{cc} I & O\\ B^{-1}(A-\lambda I) & I\\ \end{array}% \right), $

这里 $T$具有有界逆, $S$为闭算子且是单射, $M_{1}$为闭算子.显然, $M_{1}$为Fredholm算子当且仅当 $\Delta_{1}$为Fredholm算子.若 $M_{1}$为Fredholm算子, 即有 ${\rm nul}$ $(M_{1})$ $<$ $\infty$, $R(M_{1})$闭, ${\rm def}$ $R(M_{1})$ $<$ $\infty$.由引理1知, $M_{1}$ $S$为闭算子且 $R(M_{1}S)$= $R(M_{1})$ $(D(M_{1})\subset R(S))$, $N$ $(M_{1}S)$= $N$ $(M_{1})$, 所以 $M_{1}$ $S$为Fredholm算子.又因为 $T$为全空间上具有有界逆的算子, 从而 $T$为Fredholm算子.而 $M$= $TM_{1}$ $S$, 由引理2知 $M$为Fredholm算子.反之, 若 $M$为Fredholm算子, $T^{-1}$为Fredholm算子, 从而 $M_{1}$ $S$= $T^{-1}M$为Fredholm算子, 进一步可知 $\Delta_{1}$为Fredholm算子.所以由本质谱的定义, $\lambda \in \sigma_{\rm ess}(M)$当且仅当 $0 \in \sigma_{\rm ess}(\Delta_{1})$.

注 对于对角占优情形, 可按完全类似的方法讨论.