在有限维向量空间中, 很多线性代数的问题可以归结为$ n $子空间系统的分类. 当$ n=1, 2, 3 $时, $ n $子空间的不可分解系统的分类很简单. 但存在很多种类$ 4 $子空间的不可分解系统. Gelfand和Ponomarev给出$ 4 $子空间的不可分解系统的完全分类^[1]. Gabriel说明可以用延拓Dynkin图表示的分类来描述$ 4 $子空间系统的分类^[2].

在可分无穷维Hilbert空间中, 很多学者也研究$ n $子空间的相对位置. $ n=1, 2 $的情形已有完整的结果^[3-5]. Enomoto和Watatani研究$ n=3, 4 $甚至更一般的$ n $子空间相对位置, 得到了丰硕的成果^[6-8]. 特别地, [6]中引入了有界算子系统的概念, 并研究它们的性质. 本文将Hilbert空间中有界算子$ 4 $子空间系统的结果推广到Banach空间上去, 得到了类似的结果, 即给出有界算子$ 4 $子空间系统同构的等价刻画, 利用强不可约算子给出有界算子系统不可分解的等价刻画, 并说明存在不可数多个两两不同构的不可分解的有界算子$ 4 $子空间系统.

下面说明一些记号.

设$ X, Y $是Banach空间, 以$ B(X, Y) $表示$ X $到$ Y $中的所有有界线性算子, 简记$ B(X)=B(X, X) $. 以$ I_X $表示$ X $上的恒等算子, 也简记为$ I $. 设$ T\in B(X) $, $ T'\in B(Y) $, 若存在可逆算子$ A\in B(Y, X) $, 使得$ T'=A^{-1}TA $, 则称$ T $与$ T' $相似.

本节给出有界算子系统的定义, 及其上的同态集、自同态集与幂等自同态集的等价刻画.

设$ X $是Banach空间, $ E_1, \cdots, E_n $是$ X $的$ n $个子空间, 称$ \mathcal{S}=(X; E_1, \cdots, E_n) $是$ X $中的$ n $子空间系统. 若$ X\neq 0 $, 则称$ \mathcal{S} $是非零$ n $子空间系统. 设$ \mathcal{T}=(Y; F_1, \cdots, F_n) $是Banach空间$ Y $中的$ n $子空间系统. 记$ \mathcal{S} $与$ \mathcal{T} $的直和为

$ \mathcal{S}\bigoplus \mathcal{T}=(X\bigoplus Y; E_1\bigoplus F_1, \cdots, E_n\bigoplus F_n) $,

它是Banach空间$ X\bigoplus Y $中的$ n $子空间系统. 若$ A\in B(X, Y) $满足$ A(E_i)\subseteq F_i $, $ i=1, \cdots, n $, 则称$ A $是$ \mathcal{S} $到$ \mathcal{T} $中的同态, 也记为$ A: \mathcal{S}\rightarrow \mathcal{T} $. 记同态集、自同态集与幂等自同态集为:

$ Hom(\mathcal{S}, \mathcal{T})=\{A: A 是 \mathcal{S} 到 \mathcal{T} 中的同态 \} , $

$ End(\mathcal{S})=Hom(\mathcal{S}, \mathcal{S}) , Idem(\mathcal{S})=\{A\in End(\mathcal{S}): A^2=A\} . $

若$ A\in B(X, Y) $是可逆的, 且满足$ A(E_i)=F_i $, $ i=1, \cdots, n $, 则称$ A $是$ \mathcal{S} $到$ \mathcal{T} $上的同构. 若存在同构$ A: \mathcal{S}\rightarrow \mathcal{T} $, 则称$ \mathcal{S} $与$ \mathcal{T} $同构. 若Banach空间$ X $中的$ n $子空间系统$ \mathcal{S}=(X; E_1, \cdots, E_n) $与两个非零$ n $子空间系统的直和同构, 则称$ \mathcal{S} $是可分解的, 否则称$ \mathcal{S} $是不可分解的. 记摄动映射

$ \pi_{i, j}: (X; E_1, \cdots, E_i, \cdots, E_j, \cdots E_n)\mapsto (X; E_1, \cdots, E_j, \cdots, E_i, \cdots E_n) , 1\leq i<j\leq n . $

定义1   设$ \mathcal{S}=(X; E_1, E_2, E_3, E_4) $是Banach空间$ X $中的$ 4 $子空间系统, 如果存在$ X $的闭子空间$ X_1 $与$ X_2 $, 以及$ T\in B(X_1, X_2) $, $ S\in B(X_2, X_1) $使得$ X=X_1\bigoplus X_2 $, 且

$ E_1=X_1\bigoplus 0 , E_2=0\bigoplus X_2 , E_3=\{(x, Tx): x\in X_1\} , E_4=\{(Sy, y): y\in X_2\} , $

则称$ \mathcal{S} $是个有界算子系统, 记为$ \mathcal{S}_{T, S} $.

特别地, 如果上述中的$ S $取为$ I $, 即存在$ X $的闭子空间$ X_1 $, 以及$ T\in B(X_1) $使得$ X=X_1\bigoplus X_1 $, 且

$ E_1=X_1\bigoplus 0 , E_2=0\bigoplus X_1 , E_3=\{(x, Tx): x\in X_1\} , E_4=\{(y, y): y\in X_1\} , $

则记$ \mathcal{S}_{T, I}=\mathcal{S}_{T} $.

下面给出有界算子系统的同态集、自同态集与幂等自同态集的等价刻画.

命题2   $ \mathcal{S}_{T, S}=(X; E_1, E_2, E_3, E_4) $, $ \mathcal{S}_{T', S'}=(Y; F_1, F_2, F_3, F_4) $分别是Banach空间$ X, Y $中的有界算子系统, 其中$ X=X_1\bigoplus X_2 $, $ T\in B(X_1, X_2) $, $ S\in B(X_2, X_1) $, $ Y=Y_1\bigoplus Y_2 $, $ T'\in B(Y_1, Y_2) $, $ S'\in B(Y_2, Y_1) $, 则

(1) $ Hom(\mathcal{S}_{T, S}, \mathcal{S}_{T', S'})=\{A_1\bigoplus A_2\in B(X, Y): A_1\in B(X_1, Y_1), A_2\in B(X_2, Y_2) $,

$ A_1S=S'A_2 , A_2T=T'A_1\} . $

(2) $ End(\mathcal{S}_{T, S})=\{A_1\bigoplus A_2\in B(X): A_1\in B(X_1), A_2\in B(X_2), $

$ A_1S=SA_2, A_2T=TA_1\} . $

(3) $ Idem(\mathcal{S}_{T, S})=\{A_1\bigoplus A_2\in B(X): A_1\in B(X_1), A_2\in B(X_2) $,

$ A_1S=SA_2, A_2T=TA_1, A_1^2=A_1, A_2^2=A_2\} . $

证   设$ A=A_1\bigoplus A_2\in B(X, Y) $满足$ A_1\in B(X_1, Y_1) $, $ A_2\in B(X_2, Y_2) $, $ A_1S=S'A_2 $, $ A_2T=T'A_1 $. 显然$ A(E_i)\subseteq F_i $, $ i=1, 2 $. 对任意$ (x, Tx)\in E_3 $, 有

$ A((x, Tx))=(A_1x, A_2Tx)=(A_1x, T'A_1x)\in F_3 , $

即$ A(E_3)\subseteq F_3 $. 对任意$ (Sy, y)\in E_4 $, 有

$ A((Sy, y))=(A_1Sy, A_2y)=(S'A_2y, A_2y)\in F_4 , $

即$ A(E_4)\subseteq F_4 $. 故$ A\in Hom(\mathcal{S}_{T, S}, \mathcal{S}_{T', S'}) $.

设$ A\in Hom(\mathcal{S}_{T, S}, \mathcal{S}_{T', S'}) $. 由于$ A(E_i)\subseteq F_i $, $ i=1, 2 $, 则$ A=A_1\bigoplus A_2 $, 其中$ A_1\in B(X_1, Y_1) $, $ A_2\in B(X_2, Y_2) $. 对任意$ y\in X_2 $, 则$ (Sy, y)\in E_4 $. 由于$ A(E_4)\subseteq F_4 $, 则

$ A((Sy, y))=(A_1Sy, A_2y)\in F_4 , $

故$ A_1Sy=S'A_2y $, 即$ A_1S=S'A_2 $. 对任意$ x\in X_1 $, 则$ (x, Tx)\in E_3 $. 由于$ A(E_3)\subseteq F_3 $, 则

$ A((x, Tx))=(A_1x, A_2Tx)\in F_3 , $

故$ A_2Tx=T'A_1x $, 即$ A_2T=T'A_1 $.

综上, (1)成立. (2)由(1)可得. (3)由(2)可得.

推论3   设$ \mathcal{S}_{T}=(X; E_1, E_2, E_3, E_4) $, $ \mathcal{S}_{T'}=(Y; F_1, F_2, F_3, F_4) $分别是Banach空间$ X, Y $中的有界算子系统, 其中$ X=X_1\bigoplus X_1 $, $ T\in B(X_1) $, $ Y=Y_1\bigoplus Y_1 $, $ T'\in B(Y_1) $, 则

(1) $ Hom(\mathcal{S}_{T}, \mathcal{S}_{T'})=\{B\bigoplus B\in B(X, Y): B\in B(X_1, Y_1) $, $ BT=T'B\} $.

(2) $ End(\mathcal{S}_{T})=\{B\bigoplus B\in B(X): B\in B(X_1), BT=TB\} $.

(3) $ Idem(\mathcal{S}_{T})=\{B\bigoplus B\in B(X): B\in B(X_1), BT=TB, B^2=B\} $.

本节讨论有界算子系统的同构性质, 首先给出有界算子系统同构的等价刻画.

命题4   设$ \mathcal{S}_{T, S}=(X; E_1, E_2, E_3, E_4) $, $ \mathcal{S}_{T', S'}=(Y; F_1, F_2, F_3, F_4) $分别是Banach空间$ X, Y $中的有界算子系统, 其中$ X=X_1\bigoplus X_2 $, $ T\in B(X_1, X_2) $, $ S\in B(X_2, X_1) $, $ Y=Y_1\bigoplus Y_2 $, $ T'\in B(Y_1, Y_2) $, $ S'\in B(Y_2, Y_1) $, 则$ \mathcal{S}_{T, S} $与$ \mathcal{S}_{T', S'} $同构$ \Leftrightarrow $存在可逆算子$ A_1\in B(X_1, Y_1) $与$ A_2\in B(X_2, Y_2) $使得$ A_1S=S'A_2 $, $ A_2T=T'A_1 $.

证   “$ \Rightarrow $”由于$ \mathcal{S}_{T, S} $与$ \mathcal{S}_{T', S'} $同构, 则存在可逆算子$ A\in Hom(\mathcal{S}_{T, S}, \mathcal{S}_{T', S'}) $使得$ A(E_i)=F_i $, $ i=1, 2, 3, 4 $. 由命题2可得, $ A=A_1\bigoplus A_2 $, 其中$ A_1\in B(X_1, Y_1) $, $ A_2\in B(X_2, Y_2) $, $ A_1S=S'A_2 $, $ A_2T=T'A_1 $. 由于$ A $可逆, 则$ A_1, A_2 $可逆.

“$ \Leftarrow $”令$ A=A_1\bigoplus A_2 $, 由命题2, $ A\in Hom(\mathcal{S}_{T, S}, \mathcal{S}_{T', S'}) $, 则$ A(E_i)\subseteq F_i $, $ i=1, 2, 3, 4 $. 由于$ A_1, A_2 $可逆, 则$ A $可逆. 显然$ A(E_i)=F_i $, $ i=1, 2 $. 对任意$ (x', T'x')\in F_3 $, 其中$ x'\in Y_1 $, 则存在$ x\in X_1 $, 使得$ A_1x=x' $. 由于$ (x, Tx)\in E_3 $, 且

$ A((x, Tx))=(A_1x, A_2Tx)=(A_1x, T'A_1x)=(x', T'x') , $

即$ F_3\subseteq A(E_3) $. 所以$ A(E_3)=F_3 $. 对任意$ (S'y', y')\in F_4 $, 其中$ y'\in Y_2 $, 则存在$ y\in X_2 $, 使得$ A_2y=y' $. 由于$ (Sy, y)\in E_4 $, 且

$ A((Sy, y))=(A_1Sy, A_2y)=(S'A_2y, A_2y)=(S'y', y') , $

即$ F_4\subseteq A(E_4) $. 所以$ A(E_4)=F_4 $. 综上可得$ A: \mathcal{S}_{T, S}\rightarrow \mathcal{S}_{T', S'} $是同构, 故$ \mathcal{S}_{T, S} $与$ \mathcal{S}_{T', S'} $同构.

在命题4中取$ S=I $, $ S'=I $, 可得

定理5   设$ \mathcal{S}_{T}=(X; E_1, E_2, E_3, E_4) $, $ \mathcal{S}_{T'}=(Y; F_1, F_2, F_3, F_4) $分别是Banach空间$ X, Y $中的有界算子系统, 其中$ X=X_1\bigoplus X_1 $, $ T\in B(X_1) $, $ Y=Y_1\bigoplus Y_1 $, $ T'\in B(Y_1) $, 则$ \mathcal{S}_{T} $与$ \mathcal{S}_{T'} $同构$ \Leftrightarrow $$ T $与$ T' $相似.

注   定理5说明有界线性算子的相似分类可归结为相应有界算子$ 4 $子空间系统的同构分类.

设$ \mathcal{S}=(X; E_1, E_2, E_3, E_4) $是Banach空间$ X $中的$ 4 $子空间系统, 记$ \mathcal{S}^*=(X^*; E_1^{\perp}, E_2^{\perp}, E_3^{\perp}, E_4^{\perp}) $, 其中$ X^* $是$ X $的共轭空间, $ E_i^{\perp}=\{f\in X^*: f(x)=0, x\in E_i\} $表示闭子空间$ E_i $的上零化子, $ i=1, 2, 3, 4 $, 则$ \mathcal{S}^* $是$ X^* $中的$ 4 $子空间系统.

命题6   设$ \mathcal{S}_{T, S}=(X; E_1, E_2, E_3, E_4) $是Banach空间$ X $中的有界算子系统, 其中$ X=X_1\bigoplus X_2 $, $ T\in B(X_1, X_2) $, $ S\in B(X_2, X_1) $, 则$ \mathcal{S}_{T, S}^* $与$ \pi_{1, 2}\pi_{3, 4}\mathcal{S}_{-S^*, -T^*} $同构, 其中$ S^*, T^* $分别表示$ S, T $的共轭算子.

证   由于$ -S^*\in B(X_1^*, X_2^*) $, $ -T^*\in B(X_2^*, X_1^*) $, 则$ \mathcal{S}_{-S^*, -T^*}=(Y; F_1, F_2, F_3, F_4) $是Banach空间$ Y $中的有界算子系统, 其中$ Y=X_1^*\bigoplus X_2^* $. 此时

$ \pi_{1, 2}\pi_{3, 4}\mathcal{S}_{-S^*, -T^*}=(Y; F_2, F_1, F_4, F_3) . $

由于$ X=X_1\bigoplus X_2 $, 令

$ A: X^*\rightarrow X_1^*\bigoplus X_2^*=Y: A(f)=(f|_{X_1}, f|_{X_2}) , f\in X^* , $

其中$ f|_{X_i} $表示$ f\in X^* $在$ X $的闭子空间$ X_i $上的限制, $ i=1, 2 $. 易得$ A\in B(X^*, Y) $是同构, 且对任意$ (x, y)\in X $, $ x\in X_1 $, $ y\in X_2 $, 及任意$ f\in X^* $, 有

$ ((x, y), f)=f|_{X_1}(x)+f|_{X_2}(y) . $

显然$ A(E_1^{\perp})=0\bigoplus X_2^*=F_2 $, $ A(E_2^{\perp})=X_1^*\bigoplus 0=F_1 $.

对任意$ f\in E_3^{\perp}\subseteq X^* $, 记$ g=f|_{X_2}\in X_2^* $. 对任意$ x\in X_1 $, 则$ (x, Tx)\in E_3 $, 故

$ 0=((x, Tx), f)=f|_{X_1}(x)+f|_{X_2}(Tx)=f|_{X_1}(x)+g(Tx)=f|_{X_1}(x)+(T^*g)(x) . $

因此$ f|_{X_1}=-T^*g $. 所以$ A(f)=(f|_{X_1}, f|_{X_2})=(-T^*g, g)\in F_4 $. 即$ A(E_3^{\perp})\subseteq F_4 $. 反之, 对任意$ (-T^*g, g)\in F_4 $, $ g\in X_2^* $, 则$ -T^*g\in X_1^* $. 令$ f=A^{-1}(-T^*g, g)\in X^* $, 即$ f|_{X_1}=-T^*g $, $ f|_{X_2}=g $. 对任意$ (x, Tx)\in E_3 $, $ x\in X_1 $, 有

$ ((x, Tx), f)=f|_{X_1}(x)+f|_{X_2}(Tx)=(-T^*g)(x)+g(Tx)=-g(Tx)+g(Tx)=0 . $

即$ f\in E_3^{\perp} $, 且$ A(f)=(-T^*g, g) $. 即$ F_4\subseteq A(E_3^{\perp}) $. 因此$ A(E_3^{\perp})=F_4 $.

对任意$ f\in E_4^{\perp}\subseteq X^* $, 记$ g=f|_{X_1}\in X_1^* $. 对任意$ y\in X_2 $, 则$ (Sy, y)\in E_4 $, 故

$ 0=((Sy, y), f)=f|_{X_1}(Sy)+f|_{X_2}(y)=g(Sy)+f|_{X_2}(y)=(S^*g)(y)+f|_{X_2}(y) . $

因此$ f|_{X_2}=-S^*g $. 所以$ A(f)=(f|_{X_1}, f|_{X_2})=(g, -S^*g)\in F_3 $. 即$ A(E_4^{\perp})\subseteq F_3 $. 反之, 对任意$ (g, -S^*g)\in F_3 $, $ g\in X_1^* $, 则$ -S^*g\in X_2^* $. 令$ f=A^{-1}(g, -S^*g)\in X^* $, 即$ f|_{X_1}=g $, $ f|_{X_2}=-S^*g $. 对任意$ (Sy, y)\in E_4 $, $ y\in X_2 $, 有

$ ((Sy, y), f)=f|_{X_1}(Sy)+f|_{X_2}(y)=g(Sy)+(-S^*g)(y)=g(Sy)-g(Sy)=0 . $

即$ f\in E_4^{\perp} $, 且$ A(f)=(g, -S^*g) $. 即$ F_3\subseteq A(E_4^{\perp}) $. 因此$ A(E_4^{\perp})=F_3 $.

综上可得$ A $是$ \mathcal{S}_{T, S}^* $到$ \pi_{1, 2}\pi_{3, 4}\mathcal{S}_{-S^*, -T^*} $上的同构, 即$ \mathcal{S}_{T, S}^* $与$ \pi_{1, 2}\pi_{3, 4}\mathcal{S}_{-S^*, -T^*} $同构.

命题7   设$ \mathcal{S}_{T, S}=(X; E_1, E_2, E_3, E_4) $是Banach空间$ X $中的有界算子系统, 其中$ X=X_1\bigoplus X_2 $, $ T\in B(X_1, X_2) $, $ S\in B(X_2, X_1) $.

(1) 若$ T $可逆, 则$ \mathcal{S}_{T, S} $与$ \mathcal{S}_{I, TS} $同构.

(2) 若$ S $可逆, 则$ \mathcal{S}_{T, S} $与$ \mathcal{S}_{ST, I} $同构.

证   (1) 由于$ TS\in B(X_2) $, 则$ \mathcal{S}_{I, TS}=(Y; F_1, F_2, F_3, F_4) $是Banach空间$ Y $中的有界算子系统, 其中$ Y=X_2\bigoplus X_2 $. 令

$ A: X=X_1\bigoplus X_2\rightarrow Y=X_2\bigoplus X_2: A((x, y))=(Tx, y), \quad x\in X_1, y\in X_2. $

则$ A\in B(X, Y) $. 由于$ T $可逆, 则$ A $可逆. 首先

$ A(E_1)=A(X_1\bigoplus 0)=T(X_1)\bigoplus 0=X_2\bigoplus 0=F_1, $

$ A(E_2)=A(0\bigoplus X_2)=0\bigoplus X_2=F_2. $

对任意$ (x, Tx)\in E_3 $, $ x\in X_1 $, 有$ A((x, Tx))=(Tx, Tx) $, 则

$ A(E_3)=\{(Tx, Tx): x\in X_1\}=\{(y, y): y\in X_2\}=F_3. $

对任意$ (Sy, y)\in E_4 $, $ y\in X_2 $, 有$ A((Sy, y))=(TSy, y) $, 则

$ A(E_4)=\{(TSy, y): y\in X_2\}=F_4. $

综上可得$ A $是$ \mathcal{S}_{T, S} $到$ \mathcal{S}_{I, TS} $上的同构, 即$ \mathcal{S}_{T, S} $与$ \mathcal{S}_{I, TS} $同构.

(2) 由于$ ST\in B(X_1) $, 则$ \mathcal{S}_{ST, I}=(Y; F_1, F_2, F_3, F_4) $是Banach空间$ Y $中的有界算子系统, 其中$ Y=X_1\bigoplus X_1 $. 令

$ A: X=X_1\bigoplus X_2\rightarrow Y=X_1\bigoplus X_1: A((x, y))=(x, Sy) , x\in X_1, y\in X_2 . $

则$ A\in B(X, Y) $. 由于$ S $可逆, 则$ A $可逆. 首先

$ A(E_1)=A(X_1\bigoplus 0)=X_1\bigoplus 0=F_1, $

$ A(E_2)=A(0\bigoplus X_2)=0\bigoplus S(X_2)=0\bigoplus X_1=F_2. $

对任意$ (x, Tx)\in E_3 $, $ x\in X_1 $, 有$ A((x, Tx))=(x, STx) $, 则

$ A(E_3)=\{(x, STx): x\in X_1\}=F_3. $

对任意$ (Sy, y)\in E_4 $, $ y\in X_2 $, 有$ A((Sy, y))=(Sy, Sy) $, 则

$ A(E_4)=\{(Sy, Sy): y\in X_2\}=\{(x, x): x\in X_1\}=F_4. $

综上可得$ A $是$ \mathcal{S}_{T, S} $到$ \mathcal{S}_{ST, I} $上的同构, 即$ \mathcal{S}_{T, S} $与$ \mathcal{S}_{ST, I} $同构.

下面讨论有界算子$ 4 $子空间系统不可分解的充要条件. 首先给出$ n $子空间系统不可分解的等价刻画.

命题8   设$ \mathcal{S}=(X; E_1, \cdots, E_n) $是Banach空间$ X $中的$ n $子空间系统, 则$ \mathcal{S} $是不可分解的$ \Leftrightarrow $ $ Idem(\mathcal{S})=\{0, I\} $.

证   “$ \Rightarrow $”若不然, 存在$ P\in Idem(\mathcal{S}) $, 使得$ P\neq 0 $且$ P\neq I $. 记$ X_1=P(X)\neq 0 $, $ X_2=(I-P)(X)\neq 0 $, $ E_i'=P(E_i) $, $ E_i''=(I-P)(E_i) $, $ i=1, 2, \cdots, n $. 由于$ P $是幂等算子, 则$ X=X_1\bigoplus X_2 $, $ E_i=E_i'\bigoplus E_i'' $, $ i=1, 2, \cdots, n $. 记$ \mathcal{S}'=(X_1; E_1', \cdots, E_n') $, $ \mathcal{S}''=(X_2; E_1'', \cdots, E_n'') $, 则$ \mathcal{S}', \mathcal{S}'' $分别是Banach空间$ X_1, X_2 $中的非零$ n $子空间系统, 且$ \mathcal{S}=\mathcal{S}'\bigoplus\mathcal{S}'' $. 这与$ \mathcal{S} $是不可分解的矛盾, 故$ Idem(\mathcal{S})=\{0, I\} $.

“$ \Leftarrow $”若$ \mathcal{S} $是可分解的, 即存在非零$ n $子空间系统$ \mathcal{S}'=(X_1; E_1', \cdots, E_n') $与$ \mathcal{S}''=(X_2; E_1'', \cdots, E_n'') $, 使得$ \mathcal{S} $与$ \mathcal{S}'\bigoplus\mathcal{S}''=(X_1\bigoplus X_2; E_1'\bigoplus E_1'', \cdots, E_n'\bigoplus E_n'') $同构. 故存在可逆算子$ A\in B(X, X_1\bigoplus X_2) $使得$ A(E_i)=E_i'\bigoplus E_i'' $, $ i=1, 2, \cdots, n $. 令$ Q\in B(X_1\bigoplus X_2) $满足$ Q(x_1, x_2)=(x_1, 0) $, $ x_1\in X_1, x_2\in X_2 $, 则$ Q(E_i'\bigoplus E_i'')=E_i'\bigoplus 0 $, $ i=1, 2, \cdots, n $. 令$ P=A^{-1}QA\in B(X) $, 则$ P\neq 0 $且$ P\neq I $. 由于

$ P(E_i)=A^{-1}QA(E_i)=A^{-1}Q(E_i'\bigoplus E_i'')=A^{-1}(E_i'\bigoplus 0)\subseteq E_i , i=1, 2, \cdots, n . $

则$ P\in End(\mathcal{S}) $. 又

$ P^2=A^{-1}QAA^{-1}QA=A^{-1}Q^2A=A^{-1}QA=P , $

则$ P\in Idem(\mathcal{S}) $. 这与$ Idem(\mathcal{S})=\{0, I\} $矛盾. 所以$ \mathcal{S} $是不可分解的.

下面用强不可约算子来刻画有界算子$ 4 $子空间系统的不可分解性.

定义9^[9]   设$ X $是Banach空间, $ T\in B(X) $. 如果不存在$ X $的非平凡闭子空间$ M $与$ N $, 使得$ X=M\bigoplus N $, 且$ TM\subseteq M $, $ TN\subseteq N $, 则称$ T $是强不可约的.

注  设$ X $是Banach空间, 则$ T\in B(X) $是强不可约的$ \Leftrightarrow $若$ P\in B(X) $满足$ P^2=P $且$ PT=TP $, 则必有$ P=0 $或$ P=I $.

定义10   设$ X, Y $是Banach空间, $ T\in B(X, Y) $, $ S\in B(Y, X) $. 称$ (T, S) $是强不可约算子对, 若$ P\in B(X) $, $ Q\in B(Y) $满足$ PS=SQ $, $ QT=TP $, $ P^2=P $, $ Q^2=Q $, 则必有$ (P=0, Q=0) $或$ (P=I, Q=I) $.

设$ X $是Banach空间, $ M\subseteq B(X) $, 记$ M'=\{T\in B(X): TS=ST, S\in M\} $为$ M $的换位子.

命题11   设$ X $是Banach空间, $ T\in B(X) $, $ S\in \{T\}'' $. 若$ (T, S) $是强不可约算子对, 则$ T $是强不可约的.

证   若$ P\in B(X) $满足$ P^2=P $且$ PT=TP $, 即$ P\in \{T\}' $. 由于$ S\in \{T\}'' $, 则$ PS=SP $. 由于$ (T, S) $是强不可约算子对, 则$ P=0 $或$ P=I $, 即$ T $是强不可约的.

由于对任意$ T\in B(X) $, 有$ I\in \{T\}'' $. 根据定义9后的注与命题11可得

命题12   设$ X $是Banach空间, $ T\in B(X) $, 则$ (T, I) $是强不可约算子对$ \Leftrightarrow $$ T $是强不可约的.

由命题2, 命题8和定义10可得

命题13   设$ \mathcal{S}_{T, S}=(X; E_1, E_2, E_3, E_4) $是Banach空间$ X $中的有界算子系统, 其中$ X=X_1\bigoplus X_2 $, $ T\in B(X_1, X_2) $, $ S\in B(X_2, X_1) $, 则$ \mathcal{S}_{T, S} $是不可分解的$ \Leftrightarrow $$ (T, S) $是强不可约算子对.

在命题13中取$ S=I $, 结合命题12可得

定理14  设$ \mathcal{S}_{T}=(X; E_1, E_2, E_3, E_4) $是Banach空间$ X $中的有界算子系统, 其中$ X=X_1\bigoplus X_1 $, $ T\in B(X_1) $, 则$ \mathcal{S}_{T} $是不可分解的$ \Leftrightarrow $$ T $是强不可约的.

最后给出本文的主要结果.

定理15  设$ X $是Banach空间, $ X^* $ $ w^* $可分, 则$ X\bigoplus X $中存在不可数多个两两不同构的不可分解的有界算子$ 4 $子空间系统.

证  由[10]的定理2.1可知, $ X $上存在强不可约算子$ T\in B(X) $. 对任意$ \alpha\in \mathbf{C} $, 令$ T_\alpha=T+\alpha I\in B(X) $, 显然$ T_\alpha $也是强不可约的. 令$ \mathcal{S}_{T_\alpha}=(X\bigoplus X; E_{1, \alpha}, E_{2, \alpha}, E_{3, \alpha}, E_{4, \alpha}) $是Banach空间$ X\bigoplus X $中相应于$ T_\alpha $的有界算子系统. 由定理14可知$ \mathcal{S}_{T_\alpha} $是不可分解的. 当$ \alpha\neq\beta $时, 显然$ T_\alpha $与$ T_\beta $有不相同的谱集, 故$ T_\alpha $与$ T_\beta $不相似. 由定理5, $ \mathcal{S}_{T_\alpha} $与$ \mathcal{S}_{T_\beta} $不同构. 因此$ \{\mathcal{S}_{T_\alpha}: \alpha\in \mathbf{C}\} $是不可数多个两两不同构的不可分解的有界算子$ 4 $子空间系统.