X {\displaystyle X} 実 ノルム線型空間 とし、X ∗ {\displaystyle X^{*}} X {\displaystyle X} 双対空間 とする。双対組 を次で表す。
⟨ ⋅ , ⋅ ⟩ : X ∗ × X → R . {\displaystyle \langle \cdot ,\cdot \rangle :X^{*}\times X\to \mathbb {R} .} 拡大実数 に値を取る函数
f : X → R ∪ { + ∞ } {\displaystyle f:X\to \mathbb {R} \cup \{+\infty \}} に対する凸共役
f ⋆ : X ∗ → R ∪ { + ∞ } {\displaystyle f^{\star }:X^{*}\to \mathbb {R} \cup \{+\infty \}} は、上限 を用いて次のように定義される。
f ⋆ ( x ∗ ) := sup { ⟨ x ∗ , x ⟩ − f ( x ) ∣ x ∈ X } . {\displaystyle f^{\star }\left(x^{*}\right):=\sup \left\{\langle x^{*},x\rangle -f(x)\mid x\in X\right\}.} あるいは、同値であるが、下限 を用いて次のように定義される。
f ⋆ ( x ∗ ) := − inf { f ( x ) − ⟨ x ∗ , x ⟩ ∣ x ∈ X } . {\displaystyle f^{\star }\left(x^{*}\right):=-\inf \left\{f(x)-\langle x^{*},x\rangle \mid x\in X\right\}.} この定義は、函数のエピグラフ の凸包 の、支持超平面 （英語版 ） [1] [2]
アフィン函数
f ( x ) = ⟨ a , x ⟩ − b , a ∈ R n , b ∈ R {\displaystyle f(x)=\left\langle a,x\right\rangle -b,\,a\in \mathbb {R} ^{n},b\in \mathbb {R} } の凸共役は
f ⋆ ( x ∗ ) = { b , x ∗ = a + ∞ , x ∗ ≠ a . {\displaystyle f^{\star }\left(x^{*}\right)={\begin{cases}b,&x^{*}=a\\+\infty ,&x^{*}\neq a.\end{cases}}} である。冪函数
f ( x ) = 1 p | x | p , 1 < p < ∞ {\displaystyle f(x)={\frac {1}{p}}|x|^{p},\,1<p<\infty } の凸共役は
f ⋆ ( x ∗ ) = 1 q | x ∗ | q , 1 < q < ∞ {\displaystyle f^{\star }\left(x^{*}\right)={\frac {1}{q}}|x^{*}|^{q},\,1<q<\infty } である。ここで 1 p + 1 q = 1 {\displaystyle {\tfrac {1}{p}}+{\tfrac {1}{q}}=1}
絶対値 函数
f ( x ) = | x | {\displaystyle f(x)=\left|x\right|} の凸共役は
f ⋆ ( x ∗ ) = { 0 , | x ∗ | ≤ 1 ∞ , | x ∗ | > 1 {\displaystyle f^{\star }\left(x^{*}\right)={\begin{cases}0,&\left|x^{*}\right|\leq 1\\\infty ,&\left|x^{*}\right|>1\end{cases}}} である。指数函数 f ( x ) = e x {\displaystyle f(x)=\,\!e^{x}}
f ⋆ ( x ∗ ) = { x ∗ ln x ∗ − x ∗ , x ∗ > 0 0 , x ∗ = 0 ∞ , x ∗ < 0 {\displaystyle f^{\star }\left(x^{*}\right)={\begin{cases}x^{*}\ln x^{*}-x^{*},&x^{*}>0\\0,&x^{*}=0\\\infty ,&x^{*}<0\end{cases}}} である。指数函数の凸共役とルジャンドル変換は、凸共役の定義域が厳密に大きいことを除いて一致する。ルジャンドル変換は正の実数に対してのみ定義されるためである。
期待ショートフォール（リスク平均値）との関係
編集
F を確率変数 X の累積分布函数 とする。このとき、部分積分により
f ( x ) := ∫ − ∞ x F ( u ) d u = E [ max ( 0 , x − X ) ] = x − E [ min ( x , X ) ] {\displaystyle f(x):=\int _{-\infty }^{x}F(u)\,du=\operatorname {E} \left[\max(0,x-X)\right]=x-\operatorname {E} \left[\min(x,X)\right]} は次の凸共役を持つ。
f ⋆ ( p ) = ∫ 0 p F − 1 ( q ) d q = ( p − 1 ) F − 1 ( p ) + E [ min ( F − 1 ( p ) , X ) ] = p F − 1 ( p ) − E [ max ( 0 , F − 1 ( p ) − X ) ] . {\displaystyle f^{\star }(p)=\int _{0}^{p}F^{-1}(q)\,dq=(p-1)F^{-1}(p)+\operatorname {E} \left[\min(F^{-1}(p),X)\right]=pF^{-1}(p)-\operatorname {E} \left[\max(0,F^{-1}(p)-X)\right].} 特別な解釈により次の変換が考えられる。
f inc ( x ) := arg sup t t ⋅ x − ∫ 0 1 max { t − f ( u ) , 0 } d u , {\displaystyle f^{\text{inc}}(x):=\arg \sup _{t}\,t\cdot x-\int _{0}^{1}\max\{t-f(u),0\}\,\mathrm {d} u,} これは初期函数 f の非減少な書き換えである。特に、f に対する f inc = f {\displaystyle f^{\text{inc}}=f}
閉凸函数 の凸共役は再び閉凸函数である。多面体的凸函数 （多面体的エピグラフ を持つ凸函数 ）の凸共役は、再び多面体的凸函数である。
順序の反転
編集
凸共役は、順序を反転させる。すなわち、f ≤ g {\displaystyle f\leq g} f ∗ ≥ g ∗ {\displaystyle f^{*}\geq g^{*}}
( f ≤ g ) : ⟺ ( ∀ x , f ( x ) ≤ g ( x ) ) {\displaystyle (f\leq g):\iff (\forall x,f(x)\leq g(x))} である。函数の族 ( f α ) α {\displaystyle \left(f_{\alpha }\right)_{\alpha }}
( inf α f α ) ∗ ( x ) = sup α f α ∗ ( x ) . {\displaystyle \left(\inf _{\alpha }f_{\alpha }\right)^{*}(x)=\sup _{\alpha }f_{\alpha }^{*}(x).} さらに最大最小不等式 により、次が従う。
( sup α f α ) ∗ ( x ) ≤ inf α f α ∗ ( x ) . {\displaystyle \left(\sup _{\alpha }f_{\alpha }\right)^{*}(x)\leq \inf _{\alpha }f_{\alpha }^{*}(x).} 二重共役
編集
函数の凸共役は常に下半連続 である。二重共役 f ∗ ∗ {\displaystyle f^{**}} 閉凸包 、すなわち、f ∗ ∗ ≤ f {\displaystyle f^{**}\leq f} 真凸函数 f に対し、次が成り立つ。
f = f ∗ ∗ {\displaystyle f=f^{**}} f が凸かつ下半連続であることである（フェンシェル＝モローの定理 ）フェンシェルの不等式
編集
任意の函数 f とその凸共役 f *フェンシェルの不等式 （フェンシェル＝ヤングの不等式 としても知られる）は、すべての x ∈ X p ∈ X *
⟨ p , x ⟩ ≤ f ( x ) + f ∗ ( p ) . {\displaystyle \left\langle p,x\right\rangle \leq f(x)+f^{*}(p).} 二つの函数 f 0 {\displaystyle f_{0}} f 1 {\displaystyle f_{1}} 0 ≤ λ ≤ 1 {\displaystyle 0\leq \lambda \leq 1}
( ( 1 − λ ) f 0 + λ f 1 ) ⋆ ≤ ( 1 − λ ) f 0 ⋆ + λ f 1 ⋆ {\displaystyle \left((1-\lambda )f_{0}+\lambda f_{1}\right)^{\star }\leq (1-\lambda )f_{0}^{\star }+\lambda f_{1}^{\star }} この演算 ⋆ {\displaystyle \star }
極小畳み込み
編集
二つの函数 f と g の極小畳み込み （infimal convolution）は、次で定義される（epi-sum とも呼ばれる）：
( f ◻ g ) ( x ) = inf { f ( x − y ) + g ( y ) ∣ y ∈ R n } . {\displaystyle \left(f\Box g\right)(x)=\inf \left\{f(x-y)+g(y)\mid y\in \mathbb {R} ^{n}\right\}.} f 1 , …, f m は R n 下半連続 な函数とする。このとき、これらの極小畳み込みは凸かつ下半連続である（が、必ずしも真凸ではない）[3]
( f 1 ◻ ⋯ ◻ f m ) ⋆ = f 1 ⋆ + ⋯ + f m ⋆ . {\displaystyle \left(f_{1}\Box \cdots \Box f_{m}\right)^{\star }=f_{1}^{\star }+\cdots +f_{m}^{\star }.} 二つの函数の極小畳み込みは、次のような幾何学的解釈がある：二つの函数の極小畳み込みの（厳密な）エピグラフ は、それらの函数の（厳密な）エピグラフのミンコフスキー和 （英語版 ） [4]
最大化引数
編集
函数 f {\displaystyle f}
f ′ ( x ) = x ∗ ( x ) := arg sup x ⋆ ⟨ x , x ⋆ ⟩ − f ⋆ ( x ⋆ ) {\displaystyle f^{\prime }(x)=x^{*}(x):=\arg \sup _{x^{\star }}{\langle x,x^{\star }\rangle }-f^{\star }(x^{\star })} f ⋆ ′ ( x ⋆ ) = x ( x ⋆ ) := arg sup x ⟨ x , x ⋆ ⟩ − f ( x ) ; {\displaystyle f^{\star \prime }(x^{\star })=x(x^{\star }):=\arg \sup _{x}{\langle x,x^{\star }\rangle }-f(x);} が成り立つ。したがって
x = ∇ f ⋆ ( ∇ f ( x ) ) , {\displaystyle x=\nabla f^{\star }(\nabla f(x)),} x ⋆ = ∇ f ( ∇ f ⋆ ( x ⋆ ) ) , {\displaystyle x^{\star }=\nabla f(\nabla f^{\star }(x^{\star })),} であり、さらに次が成立する。
f ′ ′ ( x ) ⋅ f ⋆ ′ ′ ( x ⋆ ( x ) ) = 1 , {\displaystyle f^{\prime \prime }(x)\cdot f^{\star \prime \prime }(x^{\star }(x))=1,} f ⋆ ′ ′ ( x ⋆ ) ⋅ f ′ ′ ( x ( x ⋆ ) ) = 1. {\displaystyle f^{\star \prime \prime }(x^{\star })\cdot f^{\prime \prime }(x(x^{\star }))=1.} スケーリング性
編集
ある γ > 0 {\displaystyle \gamma >0} g ( x ) = α + β x + γ ⋅ f ( λ x + δ ) {\displaystyle \,g(x)=\alpha +\beta x+\gamma \cdot f(\lambda x+\delta )}
g ⋆ ( x ⋆ ) = − α − δ x ⋆ − β λ + γ ⋅ f ⋆ ( x ⋆ − β λ γ ) . {\displaystyle g^{\star }(x^{\star })=-\alpha -\delta {\frac {x^{\star }-\beta }{\lambda }}+\gamma \cdot f^{\star }\left({\frac {x^{\star }-\beta }{\lambda \gamma }}\right).} さらにパラメータ α が追加される場合は、次が成り立つ。
f α ( x ) = − f α ( x ~ ) . {\displaystyle f_{\alpha }(x)=-f_{\alpha }({\tilde {x}}).} ここで x ~ {\displaystyle {\tilde {x}}}
線型変換の下での挙動
編集
A を X から Y への有界線型作用素 とする。X 上の任意の凸函数 f に対して、次が成り立つ。
( A f ) ⋆ = f ⋆ A ⋆ {\displaystyle \left(Af\right)^{\star }=f^{\star }A^{\star }} ここで
( A f ) ( y ) = inf { f ( x ) : x ∈ X , A x = y } {\displaystyle (Af)(y)=\inf\{f(x):x\in X,Ax=y\}} は f の A に関する原像であり、A * は A の共役作用素 である[5]
閉凸函数 f は、ある与えられた直交線型変換 の集合 G に関して対称である、すなわち
f ( A x ) = f ( x ) , ∀ x , ∀ A ∈ G {\displaystyle f\left(Ax\right)=f(x),\;\forall x,\;\forall A\in G} であるための必要十分条件は、凸共役 f * が G に関して対称であることである。
代表的な凸共役の表
編集
関連項目
編集
参考文献
編集
^ “Legendre Transform ”. 2012年9月13日 閲覧。 ^
“Legendre transformation and information geometry ”. 2015年7月13日 閲覧。
^ Phelps, Robert (1991). Convex Functions, Monotone Operators and Differentiability (2 ed.). Springer. p. 42. ISBN 0-387-56715-1 ^ Bauschke, Heinz H.; Goebel, Rafal; Lucet, Yves; Wang, Xianfu (2008). “The Proximal Average: Basic Theory”. SIAM Journal on Optimization 19 (2): 766. doi :10.1137/070687542 . ^ Ioffe, A.D. and Tichomirov, V.M. (1979), Theorie der Extremalaufgaben . Deutscher Verlag der Wissenschaften. Satz 3.4.3
^ Borwein, Jonathan ; Lewis, Adrian (2006). Convex Analysis and Nonlinear Optimization: Theory and Examples (2 ed.). Springer. pp. 50–51. ISBN 978-0-387-29570-1 外部リンク
編集
![{\displaystyle f(x):=\int _{-\infty }^{x}F(u)\,du=\operatorname {E} \left[\max(0,x-X)\right]=x-\operatorname {E} \left[\min(x,X)\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/5305f9e0bbb2f5dd0fd854f406e0bf4c11e3526c)
![{\displaystyle f^{\star }(p)=\int _{0}^{p}F^{-1}(q)\,dq=(p-1)F^{-1}(p)+\operatorname {E} \left[\min(F^{-1}(p),X)\right]=pF^{-1}(p)-\operatorname {E} \left[\max(0,F^{-1}(p)-X)\right].}](https://wikimedia.org/api/rest_v1/media/math/render/svg/711a66d74ef8ef0fa4974ecb6129a50076503aae)
![{\displaystyle [-1,1]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/51e3b7f14a6f70e614728c583409a0b9a8b9de01)
![{\displaystyle [0,1]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/738f7d23bb2d9642bab520020873cccbef49768d)
