凸性条件无论是在数学还是经济、工程以及管理科学等领域, 都起着至关重要的作用.然而现实生活中大部分的实际问题却难以满足凸性假设, 因此广义凸性的研究就显得尤为必要. 1999年, Youness在文献[1]中给出了如下的E -凸集、E -凸函数的概念.
定义 1.1 [1] 称$M \subset {X}$为E -凸集, 如果存在映射$E:{X} \to {X}$, $\forall t \in [0, 1]$满足
定义 1.2 [1] 称$f:X \to R$为集合$M\subset {X}$上的E -凸函数, 如果存在映射$E:{X} \to {X}$, 使得$M$为E -凸集, 且$\forall t \in [0, 1]$有
注 1.1 如果没有特别说明, 本文假设$X$代表赋范线性空间, $X^*$为其对偶空间, 集合$M\subset X$均为开集.为了写作方便, 本文中将$E(x)$都简写为$Ex$.当$E=I~(\text{单位映射})$时, 定义1.1、定义1.2分别退化为文献[2]中凸集、凸函数的定义.
Youness在文献[1]中对E -凸函数性质进行了初步探索, Yang [3]和Chen [4]举例说明了文献[1]中定理4.2、定理4.3、定理4.6是错误的.最近, Youness在文献[5]中研究了如下带不等式约束的E -凸规划数学模型, 简记为(COP)$_E$:
其中$f, g_i:{X} \to {R}~ (i=1, 2, \cdots, m)$都是${X}$上的E -凸函数.
在文献[5]中, Youness给出了多目标E -凸规划问题有效解的性质刻画.众所周知, 在凸优化问题的研究中, 次微分是一种重要的研究工具, Rockafellar在文献[6]中给出了凸函数次梯度的定义.
定义 1.3 [6] 称$\xi\in X^*$为凸函数$f:X\to R$在$x\in X$处的次梯度, 如果
$f$在$x$处的次梯度的全体称为$f$在$x$处的次微分, 记为$\partial f(x)$.
注 1.2 根据定义1.3, 对任意$y\in X$, 显然有
李成林等人在文献[7]中, 利用Clarke的思想给出了E -凸函数E -次微分的定义及其等价刻画.
定义 1.4 [7] 若$M$是${X}$中的E -凸集, $f:M \to {R}$且$x \in M \cap {\hbox{dom}}(f)$, 称${\xi} \in {X^*}$是$f$在$Ex$处的E -次梯度, 如果存在$\varepsilon > 0$, $\eta > 0$, 使得$\forall Ey \in B(Ex, \eta) \subset M, $有
$f$在$Ex$处的E -次梯度的全体称为$f$在$Ex$处的E -次微分, 记为$\partial_E f(Ex)$.
定理 1.1 [7] 若$f$是E -凸集$M \subset {X}$上的E -凸函数, 则$\forall x, y \in M, $有
史树中在文献[2]中给出了函数的左、右方向导数及Gateaux可微的定义.
定义 1.5 [2] $f:X\to {R}$是实值函数, $x\in X, d\in X$,
(1) 如果$f'_+(x; d)=\lim\limits_{t\to 0^+}\frac{f(x+td)-f(x)}{t}$存在, 就称其为函数$f$在$x$处沿方向$d$的右方向导数;
(2) 如果$f'_-(x; d)=\lim\limits_{t\to 0^-}\frac{f(x+td)-f(x)}{t}$存在, 就称其为函数$f$在$x$处沿方向$d$的左方向导数;
(3) 如果$f'_+(x, d)=f'_-(x, d)$, 即$\lim\limits_{t\to 0}\frac{f(x+td)-f(x)}{t}$存在, 就称其为函数$f$在$x$处沿方向$d$的方向导数, 记作$f'(x, d)$.
定义 1.6 [2] 设$f:X\to {R} $是实值函数, $x\in X$, 若$f'(x; d)$对任意方向$d$都存在, 且存在$\delta\in X^*$使得$f'(x; d)=\left\langle\delta, d \right\rangle, \forall d\in X.$那么称$f$在$x$处Gateaux可微, 并称$\delta$为$f$在$x$处的Gateaux导数, 记作$\delta=\nabla f(x)$.
注 1.3 文献[8]中给出了这样的结论:若凸函数$f:X\to R$在$x\in X$处Gateaux可微, 则有$\partial f(x)=\{\nabla f(x)\}.$
姜艮等人在文献[9]中给出了E-Gateaux可微的定义.
定义 1.7 [9] 若$M$是赋范线性空间$X$中的E -凸集, $f:M \to {R}$是$M$上的E -凸函数且$x \in M \cap {\hbox{dom}}(f)$, 称$f$在$Ex$处E-Gateaux可微, 若有$\delta\in X^*$, 使得$f'(Ex; d)=\left\langle\delta, d \right\rangle, \forall d\in E(X).$若$f$在$Ex$处E-Gateaux可微, 并称$\delta$为$f$在$Ex$处的E-Gateaux导数, 记作$\delta=\nabla_E f(Ex)$.
在文献[9]中, 姜艮等人得到了如下的结论.
定理 1.2 [9] 若$X$是赋范线性空间, $M$是$X$上的E -凸集, $f:M \to {R}$是$M$上的E -凸函数且$x \in M \cap {\hbox{dom}}(f)$, 如果$f$在$Ex$处E-Gateaux可微, 则$\partial_E f(Ex)=\left\lbrace \nabla_E f(Ex)\right\rbrace $.
定理 1.3 [9] 若$x^*$是(COP)$_E$的解, 如果$f$在$Ex^*$处E-Gateaux可微, 则$\forall x\in S$, 则有$\left\langle\nabla_E f(Ex^*), Ex-Ex^*\right\rangle\geq0.$
定理1.2和定理1.3是文献[9]的基础性定理, 文献[9]中的其他结论都是基于这两个结论建立的, 本文将举例说明这两个结论都是不正确的, 并进一步研究如下的E -凸规划问题
在Gateaux可微条件下最优解集的性质定理及最优解集等价刻画, 其中$f:M \to R$是E -凸函数.
在定理1.2的证明中有
式(2.1)显然是错误的, 因为$Ez$只能取遍$E(M)$, 不一定能取遍全空间$X$.下面例2.1说明式(2.1)是错误的.
例 2.1 令$X=R^2, M=\{(x, y):0< x< 1, 0< y<1\}$, 映射$E:X \to X$定义如下:
函数$f:X\to R$定义为$f(x, y)=c~(\text{常数})$.容易验证$M$为E -凸集, $f$为$M$上的E -凸函数. $\forall \lambda\in R$, 有$d=(1, \lambda)\in E(X)$.令$z_1=(\frac{1}{3}, \frac{1}{2})$, 则$Ez_1=(\frac{1}{2}, \frac{1}{2})$.对$z =(x, y)\in M$, 下面利用定理1.1和定义1.7分别求出$\partial_E f(Ez_1)$和$\nabla_E f(Ez)$.先计算$\partial_E f(Ez_1)$, 这里分2种情况讨论.
情形 1 当$x\leq y$时, 则$Ez=(y, y)$, 设$\xi=(\xi_1, \xi_2)$, 由定理1.1, 要使得$\xi\in \partial_E f(Ez_1)$, $\xi$必须满足
从而有
由$y\in (0, 1)$的任意性, 可以得到
情形 2 当$x>y$时, 则$Ez=(1, y)$, 设$\xi=(\xi_1, \xi_2)$, 由定理1.1, 要使得$\xi\in \partial_E f(Ez_1)$, $\xi$必须满足式(2.2), 于是有
结合式(2.3)和式(2.4)可求得满足式(2.2)的$\xi$必须满足下面的条件:
又因为$y\in (0, 1)$, 所以$\xi\in \partial_E f(Ez_1)$必须满足$\xi_2\geq 0$且$\xi_1+\xi_2=0$.故
再计算$\nabla_E f(Ez_1)$.根据定义1.7, 设$\delta=(\delta_1, \delta_2)$, 要使$\delta= \nabla_E f(Ez_1)$, 必须满足下面的条件:
即$0=\delta_1+\delta_2\lambda, ~~\forall \lambda\in R.$所以$\delta=(0, 0)$, 故
由式(2.5)和式(2.6)知$\{\nabla_E f(Ez_1)\}\neq\partial_E f(Ez_1)$.
在定理1.2的证明中使用了如下语句
并由式(2.7)证得$\nabla_E f(Ex)\in\partial_E f(Ex)$, 但是式(2.7)是错误的, 其原因在于$Ey-Ex\in E(X)$一般不成立.下面例2.2说明式(2.7)是不正确的.
例 2.2 令$X=R^2, M=\{(x, y):-1< x< 3, -1< y<3\}$, 函数$f:X\to R$, 映射$E:X \to X$分别定义如下:
容易验证$M$为E凸集, $f$为$M$上的E凸函数, $d=(2, 0)\text{或}d=(0, \lambda), ~(\lambda\in R_+)$为$E(X)$中的任意方向.这里特别取$z_1=(2, 1)$, 则$Ez_1=(2, 0)$, 显然可得$f$在$Ez_1$处E-Gateaux可微且$\nabla_E f(Ez_1)=(0, 0)$.令$z_2=(1, 2)$, 则$Ez_2=(0, 2)$, 此时$Ez_2-Ez_1=(-2, 2)\notin E(X), $而
显然$f'(Ez_1;Ez_2-Ez_1)\neq\left\langle \nabla_E f(Ez_1), Ez_2-E_1\right\rangle $.
定理1.2可以被纠正为如下的结论.
定理 2.1 $X$是赋范线性空间, $M$是$X$上的E -凸集, $f:M \to {R}$是$M$上的E -凸函数且$x \in M \cap {\rm dom}(f)$, 如果$f$在$Ex$处Gateaux可微, 则$\nabla f(Ex)\in \partial_E f(Ex) $.
证 因为$f$在$Ex$处Gateaux可微, 由定义1.6, 则有
又因为$f:M \to {R}$是$M$上的E -凸函数, 则有
即
在上式中取$t\to 0^+$, 则有
于是由式(2.8)和式(2.9)知
由定理1.1, 故$\nabla f(Ex)\in \partial_E f(Ex)$.
注 2.1 若$f$在$Ex$处Gateaux可微, $\partial_E f(Ex)= \{\nabla f(Ex)\}$不一定成立.在例2.1中, 函数$f$在$Ez_1=(\frac{1}{2}, \frac{1}{2})$处Gateaux可微, 且$\nabla f(Ez_1)=(0, 0)$, 但是$f$在$Ez_1$处的E -次微分是
在定理1.3的证明中存在: $x^*$是$({\rm COP})_E$的解, 则对$t\in [0, 1]$, 有
该结论是不正确的, 其原因是这里并未能保证$Ex^*+t(Ex-Ex^*)\in E(S)$.下面的例2.2说明定理1.3是错误的.
例 2.3 令$X=R$, 函数$f, g:X\to R$, 映射$E:X\to X$分别定义为
这里E -凸规划问题(COP)$_E$为
容易验证函数$f, g$都是$X$上的E -凸函数, $E(X)$中的方向只有$d=1$, 且可求得(COP)$_E$问题可行域$S=\{x\in R:x\leq 1\text{或}x\geq 2\}.$经验证$x=1$或$x=2$为(COP)$_E$问题的最优解.这里特别取$x^*=2$为(COP)$_E$问题的一个最优解, 根据定义1.7可以求得$\nabla_E f(Ex^*)=1.$但是存在点$x=1$, 则$Ex=1$, 使得$\left\langle \nabla_E f(Ex^*), Ex-Ex^*\right\rangle =1\times (1-2)=-1<0.$从而知定理1.3的结论不一定成立.
文献[10]中介绍了可行方向锥的概念, 这里给出E -可行方向锥的概念.
定义 2.1 集合$M\subset X$为E -凸集, $x\in M$, 记$Ex$处的E -可行方向锥为
将定理1.3纠正为如下的定理.
定理 2.2 若$x^*$是(OP)$_E$的解, $f$在$Ex^*$处Gateaux可微, 且对$ x\in M$, 有$Ex-Ex^*\in D(Ex^*)$, 则$\left\langle\nabla f(Ex^*), Ex-Ex^*\right\rangle\geq0.$
证 因为$x^*$是(OP)$_E$的解, $Ex-Ex^*\in D(Ex^*)$, 则存在$\beta>0$, 使得$\forall t\in (0, \beta)$, 有$Ex^*+t (Ex-Ex^*)\in E(M)$且$f(Ex^*+t(Ex-Ex^*))-f(Ex^*)\geq0.$又因为$f$在$Ex^*$处Gateaux可微, 则有
即$\left\langle\nabla f(Ex^*), Ex-Ex^*\right\rangle\geq0 $.
用下面的例子来说明定理2.2的合理性.
例 2.4 这里取$M=R$, 函数$f$与映射$E$分别定义如下
易知$x=1$或者$x=2$为(OP)$_E$的最优解, 下面讨论$x^*$分别取$1$和$2$时的情况.
情形 1 当$x^*=1$时, 则$Ex^*=1$, $f$在$Ex^*=1$处Gateaux可微且$\nabla f(Ex^*)=-1$, 此时可求得$f$在$Ex^*$处的可行方向锥为$D(Ex^*)=\{d\in X:d<0\}.$当$x<2$且$x\neq1$时, 有$Ex-Ex^*\in D(Ex^*)$, 因此$\left\langle\nabla f(Ex^*), Ex-Ex^*\right\rangle\geq0.$
情形 2 当$x^*=2$时, 则$Ex^*=2$, $f$在$Ex^*=2$处Gateaux可微且$\nabla f(Ex^*)=1$, 此时可求得$f$在$Ex^*$处的可行方向锥为$D(Ex^*)=\{d\in X:d>0\}.$当$x>2$时, 有$Ex-Ex^*\in D(Ex^*)$, 因此$\left\langle\nabla f(Ex^*), Ex-Ex^*\right\rangle\geq0.$
下面给出E -凸规划问题(OP)$_E$的一个性质定理.
定理 2.3 若$f:M\to {R}$上E -凸函数, $\overline{S}$为(OP)$_E$规划的最优解集, $x^*\in \overline{S}$且满足$f$在$Ex^*$处Gateaux可微且$\forall z\in M\text{都有}Ez-Ex^*\in D(Ex^*)$, 则$\nabla f(Ex^*)\in \bigcap\limits_{x\in \overline{S}}\partial_E f(Ex).$
证 因为$f$在$Ex^*$处Gateaux可微, 由定理2.1可得$\nabla f(Ex^*)\in \partial_E f(Ex^*).$又由定理2.2, 有
取$z=x$, 则$\left\langle \nabla f(Ex^*), Ex - Ex^* \right\rangle=0, $由上式知, $\forall y\in M$, 有
由定理1.1可得$\nabla f(Ex^*)\in \partial_E f(Ex).$因此$\nabla f(Ex^*)\in \bigcap\limits_{x\in \overline{S}}\partial_E f(Ex).$
定理 2.4 若$M$是赋范线性空间$X$中的E -凸集, 且$f:M \to {R}$是$M$上的E -凸函数, 则$(1)\Rightarrow(2)\Rightarrow(3)\Rightarrow(4)\Rightarrow(5)$, 其中(1), (2), (3), (4), (5)的定义分别为
(1) 存在$\xi_1\in \partial_E f(Ex)$, $\xi_2\in \partial_E f(Ey)$, 满足$\left\langle\xi_1, Ex - Ey\right\rangle=0, \left\langle\xi_2, Ex - Ey\right\rangle=0;$
(2) 存在$\xi_1\in \partial_E f(Ex)$, $\xi_2\in \partial_E f(Ey)$, 满足$\left\langle\xi_1-\xi_2, Ex - Ey\right\rangle\leq0;$
(3) $\partial_E f(Ex)\cap \partial_E f(Ey)\neq\phi; $
(4) 存在$\xi_1\in \partial_E f(Ex)$, $\xi_2\in \partial_E f(Ey)$, 满足
(5) 存在$\xi_1\in \partial_E f(Ex)$, $\xi_2\in \partial_E f(Ey)$, 满足
进一步, 若$x, y$是$(OP)_E$的解, $f$在点$Ex, Ey$处Gateaux可微且$Ex-Ey\in D(Ey), Ey-Ex\in D(Ex)$, 则$(5)\Rightarrow(1)$.
证 $(1)\Rightarrow(2)\Rightarrow(3)\Rightarrow(4)$可以参见文献[9]的定理2.3, 这里$(4)\Rightarrow(5)$直接取$d=Ex-Ey$即可.下证$(5)\Rightarrow(1)$.
因为$f$在$Ex, Ey$处Gateaux可微且$Ex-Ey\in D(Ey), Ey-Ex\in D(Ex)$, 根据定理2.2有
又因为$x, y$是$({\rm OP})_E$的解, 再由定理1.1和定理2.1, 则
由式(2.11)-(2.13)可知, 这里取$\xi_1=\nabla f(Ex)$, $\xi_2=\nabla f(Ey)$即满足(1).
最后给出E -凸规划问题(OP)$_E$最优解集的几种等价刻画.
定理 2.5 若$f:M\to {R}$上E -凸函数, $\overline{S}$为(OP)$_E$规划的最优解集, $x^*\in \overline{S}$且满足$f$在$Ex^*$处Gateaux可微且$\forall z\in M\text{都有}Ez-Ex^*\in D(Ex^*)$, 定义
则$\overline{S}=S_1=S_2=S_3=S_4=S_5$, 其中
证 首先证明$S_3=S_4=S_5$.根据定义, $S_3 \Rightarrow S_4\Rightarrow S_5$显然成立.
下证$S_5\subset S_3$, 若$x\in S_5$, 存在$ \xi\in \partial_E f(Ex)$使得$\left\langle \xi, Ex-Ex^*\right\rangle\leq0$由定理1.1, 定理2.1和定理2.2, 有
所以$S_5 \subset S_3$, 故
下证$S_1\subset S_2\subset S_3\subset S_1$. $\forall x \in S_1$, 有
取$\xi=\nabla f(Ex^*)\in\partial_E f(Ex)$, 则
由$M^*$定义可得, $x\in M^*$, 因此
$\forall x \in S_2$, 有$x\in M^*, $
由$M^*$的定义则存在$\xi\in \partial_E f(Ex)$,
所以$\left\langle \xi, Ex-Ex^*\right\rangle=0$, 故
$\forall x \in S_3$, 存在$\xi\in \partial_E f(Ex)$,
对任意的$y\in M$, 由定理1.1及定理2.1可得
再根据定理1.1有
故
由式(2.15)-(2.17), 有
再证$S_5\subset \overline{S}\subset S_4$.
设$x\in S_5$, 因为$x^*\in \overline{S}$, 所以
又因为存在$\xi\in \partial_E f(Ex)$使得$\left\langle \xi, Ex-Ex^*\right\rangle\leq0$, 由定理1.1有
所以
因此$x\in \overline{S}$, 故
设$x\in \overline{S}$, 由定理2.3的证明可知
由式(2.19)和式(2.20), 有
综上, 根据式(2.14)、式(2.18)和式(2.21), 有