内積空間

ここまで離散データ，ベクトル，関数と直交性（自身以外との内積が\(0\)）について説明してきたが，そもそもベクトル以外の対象に内積を行うことに対して不自然さを感じた方もいるかと思う．ここでは内積演算が満たすべき条件（内積の公理）を紹介し，ベクトルだけでなく離散データや関数が内積の公理を満たした内積演算をしていることを確認する．

線形空間の元 \(\mathbf{u}, \mathbf{v} \in \mathcal{L}\) について以下を満たすとき内積 \((\mathbf{u}, \mathbf{v})\) が定義される．

• 内積の正値性

  \[ (\mathbf{u}, \mathbf{u}) \geq 0 \]

• 内積の対称性

  \[ (\mathbf{u}, \mathbf{v}) = (\mathbf{v}, \mathbf{u}) \]

• 内積の線形性

  \[ (c_1 \mathbf{u}_1 + c_2 \mathbf{u}_2, \mathbf{v}) = c_1 (\mathbf{u}_1, \mathbf{v}) + c_2 (\mathbf{u}_2, \mathbf{v}) \]

上記の3つの条件（内積の公理）を満たす演算は 内積 となる．

加えて，内積が定義できるとノルムも定まる．

\[ \left \| \mathbf{u} \right \| = \sqrt{\left ( \mathbf{u}, \mathbf{u} \right )} \]

内積とノルムが定義された線形空間を計量空間 \(\mathcal{L}\) と呼ぶ．計量空間の任意の元 \(\mathbf{u}, \mathbf{v} \in \mathcal{L}\) の内積が \(0\) となるとき（\((\mathbf{u}, \mathbf{v}) = 0\)），これらの元 は 直交する という