AI.doll

このブログは僕のためのメモです。

$$ \newcommand{\inner}[2]{\langle #1, #2 \rangle} \newcommand{\matr}[1]{\boldsymbol{#1}} \newcommand{\pdif}[2]{\frac{\partial #1}{\partial #2}} \newcommand{\pdifn}[3]{\frac{\partial^{#1} #2}{\partial #3^{#1}}} \newcommand{\dif}[2]{\frac{d #1}{d #2}} \newcommand{\bracket}[1]{\left\langle #1 \right\rangle} $$

Hölder inequality

Hölder 不等式

 p, q>0 \frac{1}{p}+\frac{1}{q}=1を満たすとき

 
\begin{aligned}
  \left\langle |XY| \right\rangle \leq \left\langle |X|^p \right\rangle ^{\frac{1}{p}}  \left\langle |Y|^q \right\rangle ^{\frac{1}{q}}.
\end{aligned}

証明

① まずはYoung inequalityと呼ばれる以下の不等式を示す.  a, b>0に対して,

 
\begin{aligned}
    \frac{1}{p}a^p +\frac{1}{q}b^q \geq ab.
\end{aligned}

 bを定数とみなして,

 
\begin{aligned}
    g(a) = \frac{1}{p}a^p + \frac{1}{q}b^q - ab
\end{aligned}

の最小値を調べる. ただし g(x)は凸関数なので1階微分のみ調べればよい.

 
\begin{aligned}
    g^\prime(a) = a^{p-1} - b.
\end{aligned}

よって gを最小とする a a=b^{\frac{1}{p-1}}

 
\begin{aligned}
    g(b^{\frac{1}{p-1}}) &= \frac{1}{p}b^{\frac{p}{p-1}}+\frac{1}{q}b^q - b^{\frac{p}{p-1}}\\
                         &= \frac{1}{q}b^q - \left(1-\frac{1}{p}\right)b^{\frac{1}{1-\frac{1}{p}}}\\
                         &= 0.
\end{aligned}

よって g(a)\geq 0.
 \left\langle |X|\right\rangle=0または \left\langle |Y|\right\rangle=0のときは明らかに成り立つのでそれ以外の場合を考える.
①で,  a=\frac{|X|}{\left\langle|X|^p\right\rangle^{1/p}},  b=\frac{|Y|}{\left\langle |Y|^q\right\rangle ^{1/q}}とすると,

 
\begin{aligned}
    \frac{1}{p}\frac{|X|^p}{\left\langle |X|^p\right\rangle} + \frac{1}{q}\frac{|Y|^q}{\left\langle |Y|^q\right\rangle} 
    \geq \frac{|X||Y|}{\left\langle |X|^p\right\rangle^{1/p}\left\langle |Y|^q\right\rangle^{1/q}}.
\end{aligned}

両辺の期待値を考えると,

 
\begin{aligned}
    \frac{1}{p} + \frac{1}{q} = 1 
  \geq \frac{\left\langle |X||Y|\right\rangle}{\left\langle |X|^p\right\rangle^{1/p}\left\langle |Y|^q\right\rangle^{1/q}}.
\end{aligned}