近年来(反)Hermite矩阵的研究已取得了丰富的成果, 在优化理论、计算数学、信号分析等诸多领域中都有着举足轻重的地位, 随着应用的需要和研究的深入, (反)Hermite矩阵已经有多种推广^[8-13].文献[11]对次Hermite矩阵作了研究; 文献[12]对拟(次)Hermite矩阵作了探讨; 文献[8, 13]给出了更为一般的广义(反)Hermite矩阵的概念, 并推广了以往的各种情形, 研究了它们的一些性质; 文献[3, 4]兼顾了矩阵的主对角线与次对角线方向的研究, 提出了$k$-广义酉矩阵的概念, 研究了它的性质及其与(次、拟)酉矩阵、（共轭）辛矩阵、Householder矩阵之间的联系.本文进一步给出了$k$-广义(反)Hermite矩阵的概念, 研究了它的性质及其与$k$-广义酉矩阵之间的联系, 推广了酉矩阵和(反)Hermite矩阵的相应结果.这无论是对于深入研究矩阵理论, 还是对于应用(如辛几何、信号分析、量子理论、Hamilton力学等^[5-9]), 无疑都是很有价值的.

本文中用$J=J_n$表示次对角线元素全为1, 其余元素全为0的$n$阶方阵; $I=I_n$表示$n$阶单位阵, 显然, $J^T=J$, $J^2=I$, $J^{-1}=J$, tr$A$, $A^{ST}$, $A^*$, $A^{(*)}$与$|A|$分别表示矩阵$A$的迹, 次转置矩阵, 共轭转置矩阵, 共轭次转置矩阵与行列式; $C^{m\times n}$表示$m\times n$复矩阵; $C^n_n$表示$n$阶复可逆矩阵集; Re$(a)$与Im$(a)$分别表示复数$a$的实部与虚部.

定义1.1^[1]  设$m\times n$矩阵

$ A=\begin{bmatrix}a_{11}&a_{12}&\cdots&a_{1, {n-1}}&a_{1n}\\ a_{21}&a_{22}&\cdots&a_{2, {n-1}}&a_{2n}\\ \cdots&\cdots&\cdots&\cdots&\cdots\\ a_{{m-1}, 1}&a_{{m-1}, 2}&\cdots&a_{{m-1}, {n-1}}&a_{{m-1}, n}\\ a_{m1}&a_{m2}&\cdots&a_{m, {n-1}}&a_{mn} \end{bmatrix}, $

则称如下的$n\times m$矩阵

$ \begin{bmatrix} a_{mn}&a_{{m-1}, n}&\cdots&a_{2n}&a_{1n}\\ a_{m, {n-1}}&a_{{m-1}, {n-1}}&\cdots&a_{2, {n-1}}&a_{1, {n-1}}\\ \cdots&\cdots&\cdots&\cdots&\cdots\\ a_{m2}&a_{{m-1}, 2}&\cdots&a_{22}&a_{12}\\ a_{m1}&a_{{m-1}, 1}&\cdots&a_{21}&a_{11} \end{bmatrix} $

为矩阵$A$的次转置, 记为$A^{ST}$, 若记$A^{ST}=(b_{ij})$, 则$(b_{ij})=a_{{m-j+1}, {n-i+1}}~ (i=1, 2, \cdots, n; j=1, 2, \cdots, m)$.

定义1.2^[2]  如果一个$n$阶方阵$A=(a_{ij})_{n\times n}$满足$A^{ST}=A$, 即$a_{ij}=a_{{n-j+1}, {n-i+1}}$ $(i, j=1, 2, \cdots, n)$, 则称$A$为次对称的.

显然, 如果$E$是$n$阶单位矩阵, 则$E^{ST}=E$.

定义1.3^[3]  设$A\in C^{n\times n}$, 若$\exists P\in C^n_n$, $k>0$使$A^*PA=kP$, 则称$A$为$n$阶$k-P$-广义酉矩阵, 简称$k$-广义酉矩阵, 记为$A\in U^k_P=\{A\in C^{n\times n}|A^*PA=kP\}$.

显然, 当$k=1$, $P=I$时, $U_I= U^1_I=\{A\in C^{n\times n}|A^*A=I\}$为$n$阶酉矩阵集.

当$k=1$, $P=J$时, $U_J= U^1_J=\{A\in C^{n\times n}|A^*JA=J, \text{即}A^{(*)}A=I\}$为$n$阶次酉矩阵集.

当$k=1$, $P^{(*)}=P$时, $U_P= U^1_P=\{A\in C^{n\times n}|A^*PA=P\}$为$n$阶拟酉矩阵集.

当$k=1$, $JP$为实对称正定矩阵时, $U_{JP}= U^1_{JP}=\{A\in R^{n\times n}|A^*JPA=JP, \text{即}A^{(*)}PA=P\}$为$n$阶广义次正交矩阵集.

当$k=1$, $P$为正定Hermite矩阵时, $U_P= U^1_P=\{A\in C^{n\times n}|A^*PA=P\}$为$n$阶准酉矩阵集.

当$k=1$, $P=\left(\begin{array}{cc} 0 & I_m \\ -I_m & 0 \\ \end{array} \right)=K $时, $U_K=\{A\in C^{2m\times 2m}|A^*KA=K\}$为$2m$阶共轭辛矩阵集.

当$k=1$时, $U_P= U^1_P=\{A\in C^{n\times n}|A^*PA=P\}$为$n$阶广义酉矩阵集.

定义2.1  设$A\in C^{n\times n}$, 若$\exists P\in C^n_n$, $k>0$使$A^*P=kPA(A^*P=-kPA)$, 则称$A$为$n$阶$k-P$-广义Hermite矩阵($k-P$-广义反Hermite矩阵), 简称$k$-广义(反)Hermite矩阵, 记为$A\in H^k_P=\{A\in C^{n\times n}|A^*P=kPA\}(A\in \overline{H^k_P}=\{A\in C^{n\times n}|A^*P=-kPA\})$.

显然当$k=1$, $P=I$时, $H_I= H^1_I=\{A\in C^{n\times n}|A^*=A\}$为$n$阶Hermite矩阵集; $\overline{H_I}= \overline{H^1_I}=\{A\in C^{n\times n}|A^*=-A\}$为$n$阶反Hermite矩阵集.

当$k=1$, $P=J$时, $H_J= H^1_J=\{A\in C^{n\times n}|A^*J=JA, \text{即}A^{(*)}=A\}$为$n$阶次Hermite矩阵集; $\overline{H_J}= \overline{H^1_J}=\{A\in C^{n\times n}|A^*J=-JA, \text{即}A^{(*)}=-A\}$为$n$阶反次Hermite矩阵集.

当$k=1$, $P^{(*)}=P$时, $H_P= H^1_P=\{A\in C^{n\times n}|A^*P=PA\}$为$n$阶拟Hermite矩阵集; $\overline{H_P}= \overline{H^1_P}=\{A\in C^{n\times n}|A^*P=-PA\}$为$n$阶拟反Hermite矩阵集.

当$k=1$, $P=\left(\begin{array}{cc} 0 & I_m \\ -I_m & 0 \\ \end{array} \right)=K $时, $H_K=H_K^1=\{A\in C^{2m\times 2m}|A^*K=KA\}$为$2m$阶$k$-Hermite矩阵集, $\overline{H_K}=\overline{H_K^1}=\{A\in C^{2m\times 2m}|A^*K=-KA\}$为$2m$阶Hamilton矩阵集.

定理2.2  设$P\in C_n^n$, $A, B\in H^k_P$, $l$为实数, 则

(1)$lA, A\pm B\in H^k_P$;

(2)$AB-BA\in \overline{H^{k^2}_P}, AB+BA\in H^{k^2}_P$;

(3)$AB\in H^{k^2}_P$当且仅当$AB=BA$.

证  因$A^*P=kPA, B^*P=kPB$, 所以

(1)$(lA)^*P=\overline{l}A^*P=lA^*P=lkPA=kP(lA)$, 故$lA\in H^k_P$; 又

$ (A+B)^*P=A^*P+B^*P=kPA+kPB=kP(A+B), $

故$A+B\in H^k_P$, 同理可证$A-B\in H^k_P$.

(2)

$ \begin{eqnarray*}&& (AB-BA)^*P=B^*A^*P-A^*B^*P\\ &=& B^*kPA-A^*kPB=kB^*PA-kA^*PB=kkPBA-kkPAB=-k^2P(AB-BA).\end{eqnarray*} $

故$AB-BA\in \overline{H^{k^2}_P}$; 同理可证$AB+BA\in H^{k^2}_P$.

(3)

$ \begin{eqnarray*}&& AB\in H^{k^2}_P\Leftrightarrow k^2P(BA)=kkPBA=B^*kPA=B^*A^*P\\ &=& (AB)^*P=k^2P(AB)\Leftrightarrow AB=BA.\end{eqnarray*} $

定理2.3  设$P\in C_n^n$, $A, B\in \overline{H^k_P}$, $l$为实数, 则

(1)$lA, A\pm B\in \overline{H^k_P}$;

(2)$AB-BA\in \overline{H^{k^2}_P}, AB+BA\in H^{k^2}_P$;

(3)$AB\in \overline{H^{k^2}_P}$当且仅当$AB=-BA$.

证  仿照定理2.2可证, (1)-(3) 成立.

定理2.4  设$P\in C^n_n, A\in C^{n\times n}$, $\alpha$为$A$的属于特征值$\lambda$的特征向量, 则

(1) 若$A\in H^k_P$, 则$\lambda=0$或$\lambda$为非零实数且$k=1$或$\alpha^*P\alpha=0$;

(2) 若$A\in \overline{H^k_P}$, 则$\lambda=0$或$\lambda$为纯虚数且$k=1$或$\alpha^*P\alpha=0$.

证  (1) 因$A^*P=kPA, A\alpha=\lambda\alpha$, 后式两边取共轭转置得$\overline{\lambda}\alpha^*=\alpha^*A^*$, 于是

$ \overline{\lambda}\alpha^*P\alpha=\alpha^*A^*P\alpha=\alpha^*kPA\alpha=\lambda k\alpha^*P\alpha, $

即$(\overline{\lambda}-\lambda k)\alpha^*P\alpha=0$, 故$(\overline{\lambda}-\lambda k)=0$或$\alpha^*P\alpha=0$.同理可证(2).

在定理2.4中, 取$k=1, P=I, \alpha^*I\alpha=\alpha^*\alpha>0$, 便得(反)Hermite矩阵的重要性质:

推论2.5  (反)Hermite矩阵的特征值均为(零或纯虚数)实数.

推论2.6  若$P\in C_n^n$, $A\in \overline{H^k_P}$, 则$\forall c\in R, c\neq 0$, 有$cI-A$均可逆.特别地, $I\pm A$均可逆.

证  由定理2.4(2)可知, 非零实数$c$不是$A$的特征值, 故$|cI-A|\neq 0$, 因而$cI-A$可逆.

定理2.7  设$P\in C^n_n, A\in C^{n\times n}$, $\alpha$与$\beta$为$A$的属于特征值$\lambda$与$\mu$的特征向量, 则

(1) 若$A\in H^k_P, \overline{\lambda}\neq k\mu$, 则$\alpha^*P\beta=0$;

(2) 若$A\in \overline{H^k_P}, \overline{\lambda}\neq -k\mu$, 则$\alpha^*P\beta=0$.

证  (1)因$A\alpha=\lambda \alpha$, 两边取共轭转置得$\overline{\lambda}\alpha^*=\alpha^*A^*$, 又$A^*P=kPA, A\beta=\mu\beta$, 故$\overline{\lambda}\alpha^*P \beta=\alpha^*A^*P\beta=\alpha^*kPA\beta=k\alpha^*P\mu\beta=k\mu\alpha^*P\beta$.即$(\overline{\lambda}-k \mu)\alpha^*P\beta=0$, 而$\overline{\lambda}\neq k\mu$, 故$\alpha^*P\beta=0$.同理可证(2).

在定理2.7中, 取$k=1, P=I$, 由$\alpha^*I\beta=\alpha^*\beta$故有

推论2.8  (1) Hermite矩阵$A$的属于不同特征值的特征向量$\alpha, \beta$满足$\alpha^*\beta=0$.

(2) 反Hermite矩阵$A$的属于两个不同特征值$\lambda, \mu(\lambda\neq-\mu)$的特征向量$\alpha, \beta$满足$\alpha^*\beta=0$.

定理2.2至定理2.7显然大大推广了Hermite矩阵与反Hermite矩阵的相关结果.

定理3.1  设$P\in C^n_n, A\in C^{n\times n}$, 若下列三条件中的任二成立, 则第三个必成立

(1)$A\in U^k_P$; (2)$A\in H^m_P$; (3)$A^2=\frac{k}{m}I$.

证  若(1)、(2) 成立, 则$A^*PA=kP, A^*P=mPA$, 故

$ A^{-1}=k^{-1}P^{-1}A^*P=k^{-1}P^{-1}mPA=k^{-1}mA, $

故$A^2=\frac{k}{m}I$, 即(3) 成立.

若(1)、(3) 成立, 则$A^*PA=kP, A^2=\frac{k}{m}I$.于是$A^*P=kPA^{-1}=kPk^{-1}mA=mPA$, 故$A\in H^m_P$, 即(2) 成立.

若(2)、(3) 成立, 则$A^*P=mPA, A^2=\frac{k}{m}I$.于是$A^*PA=mPA^2=mP\cdot \frac{k}{m}I=kP$, 故$A\in U^k_P$, 即(1) 成立.

与定理3.1平行, 有

定理3.2  设$P\in C^n_n, A\in C^{n\times n}$, 若下列三条件中的任二成立, 则第三个必成立:

(1)$A\in U^k_P$; (2)$A\in\overline{ H^m_P}$; (3)$A^2=-\frac{k}{m}I$.

定理3.3  设$P\in C^n_n, A\in U^k_P$, 则

(1)$A^{-1}BA\in H^k_P\Leftrightarrow B\in H^k_P$, (2)$A^{-1}BA\in \overline{H^k_P}\Leftrightarrow B\in \overline{H^k_P}$.

证  因$A^*PA=kP$, 所以

$ A^*=kPA^{-1}P^{-1}, (A^{-1}BA)^*=A^*B^*(A^*)^{-1}=kPA^{-1}P^{-1}B^*\frac{1}{k}PAP^{-1}. $

(1)

$ {A^{ - 1}}BA \in H_P^k \Leftrightarrow {({A^{ - 1}}BA)^*}P = kP{A^{ - 1}}BA \Leftrightarrow (P{A^{ - 1}}{P^{ - 1}}{B^*}PA{P^{ - 1}})P\\ = kP{A^{ - 1}}BA \Leftrightarrow {P^{ - 1}}{B^*}P = kB \Leftrightarrow {B^*}P = kPB \Leftrightarrow B \in H_P^k. $

同理可证(2).

定理3.4  设$P\in C^n_n, A\in H^k_P, B\in \overline{H^k_P}, AB=BA$, 则

(1) 若$A+B$可逆, 则$(A-B)(A+B)^{-1}\in U^1_P$;

(2) 若$A-B$可逆, 则$(A+B)(A-B)^{-1}\in U^1_P$.

证  (1) 因$A^*P=kPA, B^*P=-kPB, AB=BA$, 故

$ A^*-B^*)P=kP(A+B), kP(A-B)=(A^*+B^*)P, (A-B)(A+B)=(A+B)(A-B), \\ [(A-B)(A+B)^{-1}]^*P[(A-B)(A+B)^{-1}]=(A^*+B^*)^{-1}(A^*-B^*)P(A-B)(A+B)^{-1}\\ =(A^*+B^*)^{-1}kP(A+B)(A-B)(A+B)^{-1}=(A^*+B^*)^{-1}kP(A-B)(A+B)(A+B)^{-1}\\ =(A^*+B^*)^{-1}(A^*+B^*)P=P, $

故$(A-B)(A+B)^{-1}\in U^1_P$.同理可证(2).

推论3.5  设$P\in C^n_n, B\in \overline{H^k_P}$, 则$(I-B)(I+B)^{-1}, (I+B)(I-B)^{-1}\in U^1_P$.

证  由条件可知$I+B, I-B$均可逆, 又$I\in H^1_P$, 故由定理3.4知, 结论成立.