本文主要研究如下的分数阶$p(x)$-Laplace算子方程

$ \left\{ \begin{align} & {{\left( -{{\Delta }_{p(x)}} \right)}^{s}}u=f(x, u), \ \ \ \ \ \ \ \ \ x\in \Omega \\ & u=0, \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ x\in {{\mathbb{R}}^{N}}\backslash \Omega \\ \end{align} \right. $

(1.1)

解的存在性问题, 其中$\Omega$是$\mathbb{R}^{N}$中的光滑有界区域, $s\in (0, 1)$, 连续函数$p:\bar{\Omega}\times\bar{\Omega}\to \mathbb{R}$满足$sp(x, y) < N$及如下条件

(P$_1$)  $1 < p^{-}:=\min\limits_{(x, y) \in \bar{\Omega} \times \bar{\Omega}} p(x, y)\leq p(x, y) \leq p^{+}:=\max\limits _{(x, y) \in \bar{\Omega} \times \bar{\Omega}} p(x, y) < +\infty$;

(P$_2$)  $p$是对称的, 即对任意的$ (x, y)\in \bar{\Omega} \times \bar{\Omega}$有$p(x, y)=p(y, x)$成立.

$(-\Delta_{p(x)})^{s}$称之为分数阶$p(x)$-Laplace算子, 其定义如下

$ \begin{equation}\label{eq1-2} (-\Delta_{p(x)})^{s}\varphi(x)=\text{P.V.} \int_{\mathbb{R}^{N}}\frac{|\varphi(x)-\varphi(y)|^{p(x, y)-2}(\varphi(x)-\varphi(y))}{|x-y|^{N+sp(x, y)}}dy, \, \, \varphi\in C_{0}^{\infty}(\mathbb{R}^{N}), \end{equation} $

(1.2)

这里$\text{P.V.}$表示Cauchy主值. $(-\Delta_{p(x)})^{s}$算子是经典变指数算子$\Delta_{p(x)}$的分数阶形式, 该算子的定义在文献[1]中首次给出.关于分数阶变指数算子以及相应的Sobolev空间理论的研究可参考文献[2-4].从(1.2)式可以看出$(-\Delta_{p(x)})^{s}u(x)$在点$x\in \Omega$处的值不仅依赖于$u$在$\Omega$上的值, 而且依赖于其在全空间$\mathbb{R}^{N}$上的值.因此, $(-\Delta_{p(x)})^{s}$是非局部算子.此外, 问题(1.1)边界条件是限定在$\mathbb{R}^{N}\backslash\Omega$上, 而经典$p(x)$-Laplace算子问题的Dirichlet边界是限制在$\partial\Omega$上.从而经典$p(x)$-Laplace算子问题的研究方法是否适合分数阶$p(x)$-Laplace算子方程是值得思考的问题.本文试图对这一问题作出解答.有关分数阶Laplace算子和$p(x)$-Laplace算子的Dirichlet边界问题的研究可以参见文献[5-15].

在本文中, 非线性项$f:\Omega\times\mathbb{R}\to \mathbb{R}$满足如下条件

(f$_1$)  对任意的$(x, t)\in \Omega\times\mathbb{R}$, 存在$C>0$, 使得$ |f(x, t)|\leq C(1+|t|^{q(x)-1}), $其中$p(x, x) < q(x) < p^{*}_{s}(x)$ ($\forall x\in \bar{\Omega}$), $p^*_{s}(x):=\frac{Np(x, x)}{N-sp(x, x)}$是分数阶变指数Sobolev临界指标, $s\in (0, 1)$;

(f$_2$)  $\lim\limits_{|t|\to \infty}\frac{F(x, t)}{|t|^{p^{+}}}=+\infty$对几乎处处的$x\in \Omega$一致成立, 其中$F(x, t)=\int_{0}^{t}f(x, \tau)d\tau$;

(f$_3$)  $\lim\limits_{|t|\to 0}\frac{F(x, t)}{|t|^{p^{+}}}=0$对几乎处处的$x\in \Omega$一致成立;

(f$_4$) 存在常数$\theta>1$, 使得$ \theta G(x, t)\geq G(x, \eta t), \, \, \, \forall (x, t)\in \Omega\times\mathbb{R}, \, \, \, \eta\in (0, 1), $其中$G(x, t)=f(x, t)t-p^{+}F(x, t)$.

注1.1 显然上述条件(f$_4)$比(AR)条件更弱, 例如函数$ f(x, t)=p^{+}|t|^{p^{+}-2}\, t\ln |t|, \forall t\in\mathbb{R} $满足上述假设条件, 但不满足(AR)条件.

定理1.1  设(P$_1)$-(P$_2)$, (f$_1)$-(f$_4)$成立, 并且对任意的$(x, t)\in \Omega\times\mathbb{R}$, 有$f(x, -t)=-f(x, t)$.则方程(1.1)存在非平凡弱解列$\{u_{n}\}_{n=1}^{\infty}$, 并且当$n\to \infty$时, 有$\Phi(u_{n})\to +\infty$, 其中$\Phi$是方程(1.1)所对应的能量泛函.

本文的结构如下：第二节主要是给出变指数Lebesgue空间和分数阶变指数Sobolev空间的定义及其相关性质; 第三节给出本文主要结果定理1.1的证明.

本节主要介绍分数阶变指数Sobolev空间的一些相关结论.具体证明过程可见文献[5-8, 16, 17]等.

设$\Omega$是$\mathbb{R}^{N}$中的有界域, 记$ C_{+}(\overline{\Omega})=\{q \in C(\overline{\Omega}) : 1 < q^{-}\leq q(x)\leq q^{+} < +\infty, \, \, \, \forall\, x \in \overline{\Omega}\}, $其中

$ q^{-}:=\inf\limits_{x \in \overline{\Omega}} q(x), \qquad q^{+}:=\sup\limits_{x \in \overline{\Omega}} q(x). $

对任意的$q \in C_{+}(\overline{\Omega})$, 定义变指数Lebesgue空间$L^{q(x)}(\Omega)$

$ L^{q(x)}(\Omega):=\{ u: u\text{是可测实值函数且满足} \int_{\Omega}|u(x)|^{q(x)}dx<+\infty\}, $

其范数为

$ \|u\|_{L^{q(x)}(\Omega)}=\inf\{\lambda>0:\int_{\Omega}|\frac{u(x)}{\lambda}|^{q(x)}dx\leq 1\}. $

由文献[7]可知$(L^{q(x)}(\Omega), \|\cdot\|_{L^{q(x)}(\Omega)})$是可分、一致凸Banach空间.为了进一步研究$L^{q(x)}(\Omega)$空间, 定义映射$\rho_{q(x)}:L^{q(x)}(\Omega)\to \mathbb{R}$如$ \rho_{q(x)}(u)=\int_{\Omega}|u(x)|^{q(x)}dx. $

由文献[7]可得如下结论.

引理2.1  设$u\in L^{q(x)}(\Omega)$, 则

(1)   $\| u\|_{L^{q(x)}(\Omega)}>1$ $(=1; < 1)$当且仅当$\rho_{q(x)}(u)>1$ $(=1; < 1)$;

(2)  若$\| u\|_{L^{q(x)}(\Omega)}>1$, 则$\| u\|_{L^{q(x)}(\Omega)}^{q^{-}}\leq \rho_{q(x)}(u)\leq \| u\|_{L^{q(x)}(\Omega)}^{q^{+}}$;

(3)  若$\| u\|_{L^{q(x)}(\Omega)} < 1$, 则$\| u\|_{L^{q(x)}(\Omega)}^{q^{+}}\leq \rho_{q(x)}(u)\leq \| u\|_{L^{q(x)}(\Omega)}^{q^{-}}$.

引理2.2  设$u$, $u_{n}\in L^{q(x)}(\Omega)$, 则下列结论等价

(1)   $\lim\limits_{n\to \infty}\|u_{n}- u\|_{L^{q(x)}(\Omega)}=0$;

(2)   $\lim\limits_{n\to \infty}\rho_{q(x)}(u_{n}- u)=0$;

(3)  $u_{n}\to u$且$\lim\limits_{n\to \infty}\rho_{q(x)}(u_{n})=\rho_{q(x)}(u)$.

引理2.3  记$\hat{q}(x)$为$q(x)$的共轭指数.设$u\in L^{q(x)}(\Omega)$, $v\in L^{\hat{q}(x)}(\Omega)$, 则

$ \begin{equation}\label{eq2-2} |\int_{\Omega}uv\, dx| \leq (\frac{1}{q^{-}}+\frac{1}{\hat{q}^{-}})\|u\|_{L^{q(x)}(\Omega)}\, \|v\|_{L^{\hat{q}(x)}(\Omega)} \leq 2\|u\|_{L^{q(x)}(\Omega)}\, \|v\|_{L^{\hat{q}(x)}(\Omega)}. \end{equation} $

(2.1)

对任意的$x\in \bar{\Omega}$, 记$\bar{p}(x):=p(x, x)$.分数阶变指数Sobolev空间$W^{s, p(x, y)}(\Omega)$定义如下

$ W :=W^{s, p(x, y)}(\Omega) =\{u \in L^{\bar{p}(x)}(\Omega) : \int_{\Omega} \int_{\Omega} \frac{|u(x)-u(y)|^{p(x, y)}}{\lambda^{p(x, y)}|x-y|^{N+s p(x, y)}} d x d y <+\infty, \, \, \lambda>0 \}, $

其范数为$ \|u\|_{W}=[u]_{W}+\|u\|_{L^{\bar{p}(x)}(\Omega)}, $其中

$ [u]_{W}=\inf\{\lambda>0 : \int_{\Omega}\int_{\Omega} \frac{|u(x)-u(y)|^{p(x, y)}}{\lambda^{p(x, y)}|x-y|^{N+s p(x, y)}} dx dy \leq 1\} $

称之为变指数Gagliardo半范.关于空间$W$有如下嵌入定理.

定理2.2 ^[18]  设$\Omega$是$\mathbb{R}^{N}$中的光滑有界区域, $s \in(0, 1)$, $p : \overline{\Omega} \times \overline{\Omega} \to(1, +\infty)$是连续函数使得$sp(x, y) < N$且满足(P$_1)$和(P$_2)$条件.函数$r : \overline{\Omega} \to (1, +\infty) $是连续的且满足

$ 1<r^{-}\leq r(x)< p_{s}^{*}(x), \quad \forall x\in \overline{\Omega}. $

则存在常数$C=C(N, s, r)>0$使得$ \|u\|_{L^{r(x)}(\Omega)}\leq C\|u\|_{W}, \forall u\in W. $从而当$1 < r(x) < p^{*}_{s}(x)$时, $W$连续紧嵌入到空间$L^{r(x)}(\Omega)$中.

由于问题(1.1)的边界条件$u=0$是限制在$\mathbb{R}^{N}\backslash\Omega$上, 从而定义如下形式的变指数Sobolev空间

$ X:=X^{s, p(x, y)}(\Omega) =\left\{ u: u|_{\Omega} \in L^{\bar{p}(x)}(\Omega) , \int_{\mathcal{Q}} \frac{|u(x)-u(y)|^{p(x, y)}}{\lambda^{p(x, y)}|x-y|^{N+s p(x, y)}}dxdy<+\infty, \lambda>0\right\}, $

其中$\mathcal{Q}=\mathbb{R}^{N}\times \mathbb{R}^{N}\backslash(\Omega^{c}\times\Omega^{c})$.空间$X$的范数为$ \|u\|_{X}=[u]_{X}+\|u\|_{L^{\bar{p}(x)}(\Omega)}, $其中

$ [u]_{X}=\inf\left\{\lambda>0 : \int_{\mathcal{Q}}\frac{|u(x)-u(y)|^{p(x, y)}}{\lambda^{p(x, y)}|x-y|^{N+s p(x, y)}} dx dy \leq 1\right\} $

称之为变指数Gagliardo半范.类似于$(W, \|\cdot\|_{W})$可知$(X, \|\cdot\|_{X})$是可分自反的Banach空间.

注2.2  由于$\Omega\times \Omega$严格包含于$\mathcal{Q}$中, 所以范数$\|\cdot\|_{W}$和$\|\cdot\|_{X}$是不同的.

利用Tietze延拓定理, 将定义在$\bar{\Omega}\times \bar{\Omega}$上的连续函数$p$延拓到$\mathbb{R}^{N}\times\mathbb{R}^{N}$上, 仍记作$p$, 并且$sp(x, y) < N$在$\mathbb{R}^{N}\times\mathbb{R}^{N}$仍成立; 将定义在$\bar{\Omega}$上的函数$\bar{p}$, $r$延拓到$\mathbb{R}^{N}$上, 仍记作$\bar{p}$, $r$, 且对任意的$x\in\mathbb{R}^{N}$, 有$\bar{p}(x)=p(x, x)$, $r(x) < p^{*}_{s}(x)$.

定义$X$的线性子空间$ X_{0}:=X^{s, p(x, y)}_{0}(\Omega)=\left\{ u \in X: u(x)=0 \, \, \text {几乎处处于}\, \, \mathbb{R}^{N} \backslash \Omega\right\}, $其范数为

$ \|u\|_{X_{0}} =\inf\left\{\lambda>0 : \int_{\mathcal{Q}} \frac{|u(x)-u(y)|^{p(x, y)}}{\lambda^{p(x, y)}|x-y|^{N+s p(x, y)}} dx dy \leq 1\right\}\\ =\inf\left\{\lambda>0 : \int_{\mathbb{R}^{N}} \int_{\mathbb{R}^{N}} \frac{|u(x)-u(y)|^{p(x, y)}}{\lambda^{p(x, y)}|x-y|^{N+s p(x, y)}} dx dy \leq 1\right\}. $

对任意的$u\in X_{0}$, 定义函数$\rho_{X_{0}}:X_{0}\to \mathbb{R}$为

$ \rho_{X_{0}}(u)=\int_{\mathbb{R}^{N}}\int_{\mathbb{R}^{N}} \frac{|u(x)-u(y)|^{p(x, y)}}{|x-y|^{N+s p(x, y)}} dxdy. $

类似于文献[18], 易证得如下结论.

引理2.4  对任意的$u\in X_{0}$, 有如下结论成立

(1)   $\| u\|_{X_{0}}>1$ $(=1; < 1)$当且仅当$\rho_{X_{0}}(u)>1$ $(=1; < 1)$;

(2)  若$\| u\|_{X_{0}}>1$, 则$\| u\|_{X_{0}}^{p^{-}} \leq \rho_{X_{0}}(u) \leq \| u\|_{X_{0}}^{p^{+}}; $

(3)  若$\| u\|_{X_{0}} < 1$, 则$\| u\|_{X_{0}}^{p^{+}} \leq \rho_{X_{0}}(u) \leq \| u\|_{X_{0}}^{p^{-}}$.

引理2.5  设$u$, $u_{n}\in X_{0}$.则$\lim\limits_{n\to \infty}\|u_{n}- u\|_{X_{0}}=0$与$\lim\limits_{n\to \infty}\rho_{X_{0}}(u_{n}- u)=0$是等价的.

注2.3  (ⅰ)  $(X_{0}, \|\cdot\|_{X_{0}})$是可分、自反、一致凸Banach空间.

(ⅱ) 定理2.2的结论对空间$X_{0}$亦成立, 且在空间$X_{0}$中范数$\|\cdot\|_{X_0}$与$\|\cdot\|_{X}$是等价的.

本小节给出定理1.1的证明.

定义3.1  若对任意的$\varphi \in X_{0}$, 有下式成立

$ \int_{\mathbb{R}^{N}}\int_{\mathbb{R}^{N}} \frac{|u(x)-u(y)|^{p(x, y)-2}(u(x)-u(y))(\varphi(x)-\varphi(y))}{|x-y|^{N+sp(x, y)}}dxdy =\int_{\Omega} f(x, u) \varphi dx, $

则称$u\in X_{0}$是方程(1.1)的弱解.

方程(1.1)相应的能量泛函$\Phi: X_{0}\to \mathbb{R}$为

$ \Phi(u) =\int_{\mathbb{R}^{N}}\int_{\mathbb{R}^{N}} \frac{|u(x)-u(y)|^{p(x, y)}}{p(x, y)|x-y|^{N+sp(x, y)}} dxdy- \int_{\Omega} F(x, u)dx, $

其中$F(x, u)=\int_{0}^{u} f(x, t) dt$是$f$的原函数.由非线性项$f$满足的条件可知:泛函$\Phi$是有意义的, $\Phi\in C^{1}(X_{0}, \mathbb{R})$, 且$\Phi$的Fréchet导数为

$ \langle\Phi'(u), v\rangle =\int_{\mathbb{R}^{N}} \int_{\mathbb{R}^{N}} \frac{|u(x)-u(y)|^{p(x, y)-2}(u(x)-u(y))(v(x)-v(y))}{|x-y|^{N+sp(x, y)}} dxdy -\int_{\Omega} f(x, u)vdx. $

从而泛函$\Phi$的临界点即为方程(1.1)的弱解.

为了更好的了解泛函$\Phi$, 定义算子$L: X_{0}\to X_{0}^{*}$如下

$ \langle L(u), v\rangle =\int_{\mathbb{R}^{N}}\int_{\mathbb{R}^{N}} \frac{|u(x)-u(y)|^{p(x, y)-2}(u(x)-u(y))(v(x)-v(y))}{|x-y|^{N+s p(x, y)}} dxdy, $

这里$X_{0}^*$为空间$X_{0}$的对偶空间.则$ \langle L(u), v\rangle= \langle (-\Delta_{p(x)})^{s}u, v\rangle, \quad\forall u, \, v\in X_{0}. $关于算子$L$的性质还有如下结论.

引理3.6 (见文献[4, 引理4.2])  设函数$p$满足$(P_1)$和$(P_2)$, $s\in (0, 1)$, 对任意的$(x, y)\in \overline{\Omega}\times \overline{\Omega}$有$sp(x, y) < N$.则$L$是$(S_{+})$型算子, 即:若$u_{n} \rightharpoonup u_{0}$弱收敛于$X_{0}$且$\limsup\limits_{n\to \infty} \langle L(u_{n})-L(u_{0}), u_{n}-u_{0}\rangle\leq 0$, 则$u_{n} \to u_{0}$强收敛于$X_{0}$.

定义3.2  设$E$为Banach空间, 泛函$I\in C^{1}(E, \, \mathbb{R})$.若满足$I(u_{n})=c+o_{n}(1)$, $(1+\|u_{n}\|_{E})\|I'(u_{n})\|_{E*}=o_{n}(1)$的序列$\{u_{n}\}\subset E$均存在收敛子列, 则称泛函$I$满足Cerami $c$-条件(简记$(C)_{c}$-条件).若对任意的$c\in\mathbb{R}$, $I$均满足$(C)_{c}$-条件, 则称$I$满足$(C)$-条件.

定理3.3 (喷泉定理^[19]) 设$E$为实可分的Banach空间, $E=Y\bigoplus Z$, 其中$\dim Y < +\infty$.若偶函数$I\in C^{1}(E, R)$满足$(C)$-条件, 且对每一个$k=1, 2, \cdots$, 存在$\rho_{k}>r_{k}>0$, 使得

(ⅰ) 当$k\to \infty$时, 有$b_{k}:=\inf\limits_{u\in Z; \|u\|_{E}=r_{k}}I(u)\to +\infty$;

(ⅱ)  $a_{k}:=\max\limits_{u\in Y; \|u\|_{E}=\rho_{k}}I(u)\leq 0$.

则泛函$I$存在一列弱解$\{u_{n}\}_{n=1}^{\infty}$且$I(u_{n})\to +\infty$ $(n\to \infty)$.

下面首先证明泛函$I$满足$(C)$-条件.

引理3.7  在定理1.1的假设下, 泛函$\Phi$满足$(C)$-条件.

证  对任意的$c\in \mathbb{R}$, 设$\{u_{n}\}$为泛函$\Phi$的$(C)_{c}$-序列, 即当$n\to \infty$时, 有

$ \begin{equation}\label{eq3-1} \Phi(u_{n})\to c, \quad (1+\|u_{n}\|_{X_0})\Phi'(u_{n})\to 0. \end{equation} $

(3.1)

首先证明序列$\{u_{n}\}$在$X_{0}$中有界.假设$\{u_{n}\}$在$X_{0}$中无界, 即当$n\to\infty$时, 有$\|u_{n}\|_{X_0}\to\infty$.令$w_{n}=\frac{u_{n}}{\|u_{n}\|_{X_0}}$, 则$\|w_{n}\|_{X_0}=1$, 从而存在$\{w_{n}\}$的子序列, 仍记作$\{w_{n}\}$, 和$w_{0}\in X_{0}$, 使得

$ \left\{ \begin{align} &w_{n}\rightharpoonup w_{0}&\text{在}\, \, \, X_{0}\, \, \, \text{中};\\ &w_{n}\to w_{0}&\text{在}\, \, \, L^{q(x)}(\Omega)\, \, \, \text{中};\\ &w_{n}(x)\to w_{0}(x)&\text{几乎处处于}\, \, \, \Omega\, \, \, \text{中}. \end{align} \right. $

(3.2)

若$w_{0}=0$, 取序列$\{t_{n}\}\subset\mathbb{R}$使得$\Phi(t_{n}u_{n})=\max\limits_{t\in [0, 1]}\Phi(t u_{n})$.对任意的$L>1$, 令$\widetilde{w}_{n}=\frac{Lu_{n}}{\|u_{n}\|_{X_0}}=Lw_{n}$, 则$\|\widetilde{w}_{n}\|_{X_0}>1$.当$n$充分大时, 可得

$ \begin{array}{*{35}{l}} \Phi(t_{n}u_{n}) \geq \Phi(\widetilde{w}_{n}) &=\int_{\mathbb{R}^{N}}\int_{\mathbb{R}^{N}} \frac{|\widetilde{w}_{n}(x)-\widetilde{w}_{n}(y)|^{p(x, y)}}{p(x, y)|x-y|^{N+sp(x, y)}} dxdy- \int_{\Omega} F(x, \widetilde{w}_{n})dx\\ &=\int_{\mathbb{R}^{N}}\int_{\mathbb{R}^{N}} \frac{L^{p(x, y)}|w_{n}(x)-w_{n}(y)|^{p(x, y)}}{p(x, y)|x-y|^{N+sp(x, y)}} dxdy- \int_{\Omega} F(x, Lw_{n})dx\\ &\geq \frac{L^{p^{-}}}{p^{+}}\int_{\mathbb{R}^{N}}\int_{\mathbb{R}^{N}}\frac{|w_{n}(x)-w_{n}(y)|^{p(x, y)}}{|x-y|^{N+sp(x, y)}} dxdy- \int_{\Omega} F(x, Lw_{n})dx\\ &= \frac{L^{p^{-}}}{p^{+}}-\int_{\Omega} F(x, Lw_{n})dx. \end{array} $

(3.3)

利用条件(f$_1)$和(f$_3)$可得$F(x, Lw_{n})\to 0$ ($n\to \infty$).从而由$L$的任意性可得$\Phi(t_{n}u_{n}) \to +\infty$ ($n\to \infty$).又因为$\Phi(0)=0$, $\Phi(u_{n})=c+o_{n}(1)$, 所以当$n$充分大时有$t_{n}\in (0, 1)$, 从而可得

$ \begin{equation}\label{eq3-1-6} \langle\Phi'(t_{n}u_{n}), t_{n}u_{n}\rangle\to 0\quad (n\to \infty). \end{equation} $

(3.4)

结合式(3.2)-(3.4)和(f$_4)$, 可得

$ \begin{array}{*{35}{l}} c =&\lim\limits_{n\to\infty} [\Phi(u_{n})-\frac{1}{p^{+}}\langle\Phi'(u_{n}), u_{n}\rangle ]\\& =\lim\limits_{n\to\infty} [\int_{\mathbb{R}^{N}}\int_{\mathbb{R}^{N}} \frac{|u_{n}(x)-u_{n}(y)|^{p(x, y)}}{p(x, y)|x-y|^{N+sp(x, y)}} dxdy- \int_{\mathbb{R}^{N}}\int_{\mathbb{R}^{N}} \frac{|u_{n}(x)-u_{n}(y)|^{p(x, y)}}{p^{+}|x-y|^{N+sp(x, y)}} dxdy \\ &+\frac{1}{p^{+}}\int_{\Omega}G(x, u_{n})dx ]\\& \geq \lim\limits_{n\to\infty} [\int_{\mathbb{R}^{N}}\int_{\mathbb{R}^{N}} \frac{|t_{n}u_{n}(x)-u_{n}(y)|^{p(x, y)}}{p(x, y)|x-y|^{N+sp(x, y)}} dxdy- \int_{\mathbb{R}^{N}}\int_{\mathbb{R}^{N}} \frac{|t_{n}u_{n}(x)-t_{n}u_{n}(y)|^{p(x, y)}}{p^{+}|x-y|^{N+sp(x, y)}} dxdy \\ &+\frac{1}{p^{+}}\int_{\Omega}\frac{G(x, t_{n}u_{n})}{\theta}dx ]\\& =\lim\limits_{n\to\infty} \frac{1}{\theta} [\theta\Phi(t_{n}u_{n})-\frac{1}{p^{+}}\langle\Phi'(t_{n}u_{n}), t_{n}u_{n}\rangle ] =+\infty. \end{array} $

从而当$w_{0}=0$时, 序列$\{u_{n}\}$在$X_{0}$中是有界的.

若$w_{0}\neq 0$, 则令$\Omega_{0}=\{x\in \Omega:w_{0}(x)\neq0\}$, 且$\text{meas}(\Omega_{0})>0$.对任意的$x\in \Omega_{0}$, 有$|u_{n}|\to +\infty$ ($n\to \infty$).在$\Omega_{0}$中由(f$_2)$, 可得

$ \begin{equation}\label{eq3-1-2} \frac{F(x, u_{n})}{|u_{n}|^{p^{+}}}|w_{n}|^{p^{+}}\to +\infty\quad (n\to +\infty). \end{equation} $

(3.5)

由式(3.5)和$\Phi(u_{n})=c+o_{n}(1)$可得

$ \begin{array}{*{35}{l}} \frac{c+o_{n}(1)}{\|u_{n}\|^{p^{+}}_{X_{0}}}+\frac{1}{p^{-}} &\geq \frac{1}{\|u_{n}\|^{p^{+}}_{X_{0}}}\int_{\Omega}F(x, u_{n})dx =\int_{\Omega_{0}}\frac{F(x, u_{n})}{\|u_{n}\|^{p^{+}}_{X_{0}}}dx +\int_{\Omega\backslash\Omega_{0}}\frac{F(x, u_{n})}{\|u_{n}\|^{p^{+}}_{X_{0}}}dx\\ &=\int_{\Omega_{0}}\frac{F(x, u_{n})}{|u_{n}|^{p^{+}}}|w_{n}|^{p^{+}}dx +\int_{\Omega\backslash\Omega_{0}} \frac{F(x, u_{n})}{|u_{n}|^{p^{+}}}|w_{n}|^{p^{+}}dx\\ &=\int_{\Omega_{0}}\frac{F(x, u_{n})}{|u_{n}|^{p^{+}}}|w_{n}|^{p^{+}}dx \to +\infty. \end{array} $

(3.6)

从而当$w_{0}\neq0$时, 序列$\{u_{n}\}$在$X_{0}$中是有界的.综上所述, 序列$\{u_{n}\}$在$X_{0}$中有界.

下证该序列$\{u_{n}\}$在$X_{0}$中有收敛子列.因为$\{u_{n}\}$在$X_{0}$中有界, 而$X_{0}$是自反的, 从而存在$\{u_{n}\}$的子列, 仍记作$\{u_{n}\}$, 以及$u_{0}\in X_{0}$, 使得$u_{n}\rightharpoonup u_{0}$弱收敛于$X_{0}$.由定理2.2和注2.3, 对任意的$q(x) < p^{*}_{s}(x)$, 有$\{u_{n}\}\to u_{0}$强收敛于$L^{q(x)}(\Omega)$.利用Hölder不等式和嵌入定理, 可得

$ |\int_{\Omega}f(x, u_{n})(u_{n}-u_{0})dx| \leq c\int_{\Omega}|u_{n}-u_{0}|dx+ c\|u_{n}-u_{0}\|_{L^{q(x)}}\||u_{n}|^{q(x)-1}\|_{L^{\hat{q}(x)}} \to 0 (n\to\infty). $

(3.7)

从而由$\langle \Phi'(u_{n}), u_{n}-u_{0}\rangle=o_{n}(1)$和式(3.7)可得

$ \begin{equation}\label{eq3-12} \lim\limits_{n\to\infty}\langle L(u_{n}), u_{n}-u_{0}\rangle=0. \end{equation} $

(3.8)

再利用引理3.6可得$u_{n}\to u_{0}$强收敛于$X_{0}$, 即泛函$\Phi$满足$(C)$-条件.引理3.7得证.

因为$X_{0}$可分自反的Banach空间, 则存在$\{e_{j}\}_{j=1}^{\infty}\subset X_{0}$, 使得

$ X_{0} =\overline{\text{span}\{e_{j}\, :\, j=1, 2, 3, \cdots\}}. $

记$E_{j}=\text{span}\{e_{j}\}$, 则$X_{0}=\oplus_{j\geq 1}E_{j}$.对任意的$k=1, 2, \cdots$, 记$Y_{k}=\oplus_{j=1}^{k}E_{j}, Z_{k}=\overline{\oplus_{j\geq k}E_{j}}.$

引理3.8(见文献[15, 引理3.9])  设$q\in C_{+}(\overline{\Omega})$, 对任意的$x\in \Omega$有$\bar{p}(x)\leq q(x)\leq p_{s}^{*}(x)$.定义$ \beta_{k}=\sup\{\|u\|_{L^{q(x)}(\Omega)}\, :\, \|u\|_{X_{0}}=1, \, \, \, u\in Z_{k}\}, $则$\lim\limits_{k\to \infty}\beta_{k}=0$.

下面来验证能量泛函$\Phi$满足喷泉定理中的两个条件.

引理3.9  设$p(x, y)$满足(P$_1)$-(P$_2)$, $f$满足(f$_1)$-(f$_4)$.则存在$\rho_{k}>r_{k}>0$, 使得

(ⅰ) 当$k\to \infty$时, 有$b_{k}:=\inf\limits_{u\in Z_{k}; \|u\|_{X_0}=r_{k}}\Phi(u)\to +\infty$;

(ⅱ) 当$k\to \infty$时, 有$a_{k}:=\max\limits_{u\in Y_{k}; \|u\|_{X_0}=\rho_{k}}\Phi(u)\leq 0$.

证   (ⅰ)~~由(f$_1)$和(f$_3)$, 对任意的$\varepsilon>0$, 存在常数$C_{\varepsilon}>0$, 使得

$ \begin{equation}\label{eq3-13} |F(x, u)|\leq \varepsilon|u|^{p^+}+C_{\varepsilon}|u|^{q(x)}, \quad \forall (x, u)\in \Omega\times \mathbb{R}, \end{equation} $

(3.9)

则

$ \begin{array}{*{35}{l}} \Phi(u) &=\int_{\mathbb{R}^{N}}\int_{\mathbb{R}^{N}} \frac{|u(x)-u(y)|^{p(x, y)}}{p(x, y)|x-y|^{N+sp(x, y)}} dxdy -\int_{\Omega}F(x, u)dx\\ &\geq \frac{1}{p^{+}}\|u\|^{p^{-}}_{X_{0}}-\varepsilon\int_{\Omega}|u|^{p^+}dx -C_{\varepsilon}\int_{\Omega}|u|^{q(x)}dx.\\ \end{array} $

(3.10)

令$u\in Z_{k}$, 且$\|u\|_{X_{0}}=r_{k}$.选取充分小的$\varepsilon$使得$\frac{1}{2p^{+}}\|u\|^{p^{-}}_{X_{0}}\geq\varepsilon\int_{\Omega}|u|^{p^+}dx$.则由(3.10)式和引理2.4 (2), 可得

$ \begin{array}{l} \Phi(u) &\geq \left\{ \begin{array}{l} \frac{1}{2p^{+}}\|u\|^{p^{-}}_{X_{0}} -C_{\varepsilon}\|u\|_{L^{q(x)}(\Omega)}^{q^{-}}, \quad &\text{当}\, \, \|u\|_{L^{q(x)}(\Omega)}\leq 1, \\ \frac{1}{2p^{+}}\|u\|^{p^{-}}_{X_{0}} -C_{\varepsilon}\|u\|_{L^{q(x)}(\Omega)}^{q^{+}}, \quad &\text{当}\, \, \|u\|_{L^{q(x)}(\Omega)}>1\\ \end{array} \right.\\ &\geq \left\{ \begin{array}{l} \frac{1}{p^{+}}\|u\|^{p^{-}}_{X_{0}}-C, \quad &\text{当}\, \, \|u\|_{L^{q(x)}(\Omega)}\leq 1, \\ \frac{1}{p^{+}}\|u\|^{p^{-}}_{X_{0}}-C_{\varepsilon}(\beta_{k}\|u\|_{X_{0}})^{q^{+}}, \quad &\text{当}\, \, \|u\|_{L^{q(x)}(\Omega)}>1\\ \end{array} \right.\\ &\geq \frac{1}{p^{+}}\|u\|^{p^{-}}_{X_{0}} -C_{\varepsilon}(\beta_{k}\|u\|_{X_{0}})^{q^{+}}-C\\ &=r_{k}^{p^{-}}(\frac{1}{p^{+}}- C_{\varepsilon}\beta_{k}^{q^{+}}r_{k}^{q^{+}-p^{-}})-C, \end{array} $

(3.11)

这里的$C$是互不相等的正常数.令$r_{k}= (2C_{\varepsilon}\beta_{k}^{q^{+}})^{\frac{1}{p^{-}-q^{+}}}$, 则由引理3.8及$p^{-}\leq p^{+} < q^{+}$, 可得当$k\to +\infty$时有$r_{k}\to +\infty$, 从而

$ \Phi(u) \geq r_{k}^{p^{-}}\frac{1}{2p^{+}}-C \to +\infty\quad (k\to+\infty). $

即当$k\to +\infty$时, 有$b_{k}:=\inf\limits_{u\in Z_{k}, \|u\|_{X_0}=r_{k}}\Phi(u)\to +\infty$. (ⅰ)得证

(ⅱ)  对任意的$u\in Y_{k}$, 设$\|u\|_{X_0}\geq 1$, 则由引理2.4中(2), 可得

$ \begin{array}{*{35}{l}} \Phi(u) &=\int_{\mathbb{R}^{N}}\int_{\mathbb{R}^{N}} \frac{|u(x)-u(y)|^{p(x, y)}}{p(x, y)|x-y|^{N+sp(x, y)}} dxdy -\int_{\Omega}F(x, u)dx\\ &\leq \frac{1}{p^{-}}\int_{\mathbb{R}^{N}}\int_{\mathbb{R}^{N}} \frac{|u(x)-u(y)|^{p(x, y)}}{|x-y|^{N+sp(x, y)}} dxdy-\int_{\Omega}F(x, u)dx\\ &\leq \frac{1}{p^{-}}\|u\|^{p^{+}}_{X_0}-\int_{\Omega}F(x, u)dx. \end{array} $

(3.12)

由(f$_2)$-(f$_3)$知, 对任意的$u\in Y_{k}$, 存在常数$C_{k}>0$使得

$ \begin{equation}\label{eq3-16} F(x, u)\geq C_{k}|u|^{p^{+}}-\varepsilon|u|^{p^{+}}, \quad \forall (x, u)\in \Omega\times\mathbb{R}. \end{equation} $

(3.13)

因为$Y_{k}$是有限维的, 所以$Y_{k}$中的所有范数等价, 从而

$ \begin{equation}\label{eq3-17} \int_{\Omega}F(x, u)dx \geq C_{k}\|u\|^{p^{+}}_{X_0}-\varepsilon\|u\|^{p^{+}}_{X_0}. \end{equation} $

(3.14)

结合式(3.12)与(3.14), 对任意的$u\in Y_{k}$, $\|u\|_{X_{0}}=\rho_{k}>r_{k}$, 有

$ \Phi(u) \leq \frac{1}{p^{-}}\|u\|^{p^{+}}_{X_0}- C_{k}\|u\|^{p^{+}}_{X_0}-\varepsilon\|u\|^{p^{+}}_{X_0} = (\frac{1}{p^{-}}-C_{k})\|u\|^{p^{+}}_{X_0}-\varepsilon\|u\|^{p^{+}}_{X_0}, $

(3.15)

取$C_{k}\geq\frac{2}{p^{-}}$, 从而当$\rho_{k}$充分大时可得, 有$\max\limits_{u\in Y_{k}; \|u\|_{X_0}=\rho_{k}}\Phi(u)\leq 0$ $(k\to \infty)$. (ⅱ)得证.

定理1.1的证明 利用引理3.7, 引理3.9及$\Phi(-u)=\Phi(u)$, 可知泛函$\Phi$满足喷泉定理的几何结构.从而由喷泉定理(定理3.3)可得方程(1.1)在$X_{0}$中存在一非平凡解列$\{u_{n}\}_{n=1}^{\infty}$, 并且该解列满足$\Phi(u_{n})\to +\infty$ $(n\to \infty)$.定理得证.