行列やベクトル（縦ベクトル、横ベクトル）同士の積を計算したときの結果がスカラーなのか、ベクトルなのか、行列なのかをきちんと理解するために、基本的な公式を整理しました。
$A\overrightarrow{x}$、$\overrightarrow{x}^{\top}A$、$\overrightarrow{x}^{\top}\overrightarrow{y}$、$\overrightarrow{x}\overrightarrow{y}^{\top}$、$\overrightarrow{x}^{\top}A\overrightarrow{y}$ という形の積についてそれぞれ見ていきます。
行列と縦ベクトルの積
行列と縦ベクトルの積は縦ベクトルになります。
例：
$\begin{pmatrix}a_{11}&a_{12}\\a_{21}&a_{22}\end{pmatrix}\begin{pmatrix}b_1\\b_2\end{pmatrix}=\begin{pmatrix}a_{11}b_1+a_{12}b_2\\a_{21}b_1+a_{22}b_2\end{pmatrix}$
なお、このページでは「行ベクトル、列ベクトル」ではなく「横ベクトル、縦ベクトル」という言葉を使います。
横ベクトルと行列の積
横ベクトルと行列の積は横ベクトルになります。
例：
$\begin{pmatrix}a_1&a_2\end{pmatrix}\begin{pmatrix}b_{11}&b_{12}\\b_{21}&b_{22}\end{pmatrix}\\
=\begin{pmatrix}a_1b_{11}+a_2b_{21}&a_1b_{12}+a_2b_{22}\end{pmatrix}$
横ベクトルと縦ベクトルの積
横ベクトルと縦ベクトルの積はスカラーになります。いわゆるベクトルの内積です。
例：
$\begin{pmatrix}a_1&a_2\end{pmatrix}\begin{pmatrix}b_1\\b_2\end{pmatrix}=a_1b_1+a_2b_2$
縦ベクトルと横ベクトルの積
縦ベクトルと横ベクトルの積は行列になります。
例：
$\begin{pmatrix}a_1\\a_2\end{pmatrix}\begin{pmatrix}b_1&b_2\end{pmatrix}=\begin{pmatrix}a_1b_1&a_1b_2\\a_2b_1&a_2b_2\end{pmatrix}$
このように、
「横ベクトル×縦ベクトル」なのか
「縦ベクトル×横ベクトル」なのか
によって結果が全く異なるので、注意が必要です。
ちなみに、縦ベクトルと横ベクトルの積の形で表された行列のランクは必ず１になります。
二次形式
「横ベクトル×行列×縦ベクトル」はスカラーになります。
例：
$\begin{pmatrix}x_1&x_2\end{pmatrix}\begin{pmatrix}a_{11}&a_{12}\\a_{21}&a_{22}\end{pmatrix}\begin{pmatrix}y_1\\y_2\end{pmatrix}\\
=x_1a_{11}y_1+x_1a_{12}y_2+x_2a_{21}y_1+x_2a_{22}y_2$
特に、行列が対称行列で、横ベクトルと縦ベクトルの成分が同じであるようなものを二次形式と言います。
例：
$\begin{pmatrix}x_1&x_2\end{pmatrix}\begin{pmatrix}a_{11}&a_{12}\\a_{12}&a_{22}\end{pmatrix}\begin{pmatrix}x_1\\x_2\end{pmatrix}\\
=a_{11}x_1^2+2a_{12}x_1x_2+a_{22}x_2^2$
次回は 行列の内積の定義と性質 を解説します。
