Lineare Algebra

Die lineare Algebra beschäftigt sich mit Vektoren, Vektorräumen, Transformationen und Matrizen. Diese und weitere Begriffe und das Rechnen mit Matrizen werden unten erklärt. Eine Einführung in die lineare Algebra mit visuellen Erklärungen geben auch 3Blue1Brown in einer Videoreihe auf YouTube (Stand August 2024).

Grundbegriffe

• Eine Matrix ist eine rechteckige Anordnung von Zahlen, Symbolen oder Ausdrücken, die in Zeilen und Spalten angeordnet sind. Sie ist ein grundlegendes Konzept in der linearen Algebra. Sie werden u.a. verwendet, um lineare Transformationen, Gleichungssysteme und lineare Abbildungen darzustellen. Zum Beispiel könnte eine Matrix A mit zwei Zeilen und zwei Spalten so aussehen: $A={\begin{bmatrix}a&b\\c&d\end{bmatrix}}$

• Ein Vektor ist eine mathematische Größe, die durch eine geordnete Menge von Zahlen repräsentiert wird. Vektoren werden verwendet, um Richtung und Betrag (Länge) zu beschreiben. Ein Vektor kann zum Beispiel so aussehen: $A={\begin{bmatrix}a&b&c&d\end{bmatrix}}$. a, b, c und d sind hier die Komponenten des Vektors, wobei die Anzahl der Komponenten der Anzahl der Dimensionen des Vektors entspricht. Der Beispielvektor ist also vierdimensional.

• Skalarprodukt: Das Skalarprodukt zweier Vektoren v und w lässt sich als Summe der Produkte ihrer Komponenten wie folgt berechnen: $\mathbf {v} \cdot \mathbf {w} =v_{1}w_{1}+v_{2}w_{2}+\cdots +v_{n}w_{n}$

• Ein Vektorraum ist eine Menge von Vektoren, auf der bestimmte Operationen (Addition und Skalarmultiplikation) definiert sind und die bestimmte Axiome erfüllt, wie z.B. die Abgeschlossenheit unter Addition und Skalarmultiplikation, das Vorhandensein eines Nullvektors und die Existenz von inversen Elementen. Die Basis eines Vektorraums ist eine Menge von linear unabhängigen Vektoren, die den gesamten Raum aufspannen. Die Dimension eines Vektorraums ist die Anzahl der Vektoren in einer Basis dieses Raums.

• Lineare Transformationen (auch lineare Abbildungen) sind Funktionen zwischen Vektorräumen wie Spiegelungen oder Drehungen. Diese Transformationen sind additiv, das heißt, wenn man Vektoren transformiert und dann addiert erhält man das gleiche Ergebnis wie wenn man die Vektoren addiert und die Summe transformiert. Das gleiche gilt für die Skalarprodukte von zu transformierenden Vektoren (Homogenität). Beispielsweise liegen die Vektoren (1,2) und (2,4) auf in einem zweidimensionalen Raum. Wenn man durch eine lineare Abbildung beide Vektoren verdoppelt, gilt die Additivität: $2\cdot (1,2)+2\cdot (2,4)=(3,6)\cdot 2=(6,12)$ und die Homogenität: $2\cdot 3\cdot (2,4)=2\cdot (6,12)=(12,24)$.

• Eine Menge von Vektoren ist linear unabhängig, wenn keiner der Vektoren als Linearkombination der anderen dargestellt werden kann. Andernfalls sind die Vektoren linear abhängig. Ein Vektor v ist eine Linearkombination von anderen Vektoren $v_{1},v_{2},...,v_{n}$, wenn er als Summe von Skalarmultiplikationen dieser Vektoren dargestellt werden kann.

• Zwei Vektoren sind orthogonal zueinander, wenn ihr Skalarprodukt (siehe unten bei Matrixmultiplikation) Null ist. Orthogonale Vektoren stehen senkrecht zueinander.

Rechnen mit Matrizen

Matrixaddition

Zwei Matrizen können addiert werden, wenn sie die gleichen Dimensionen haben. Dabei wird jedes Element einer Matrix zu dem Element der anderen Matrix hinzugezählt, das an der gleichen Position steht. Man spricht dabei von elementweiser Addition.

${\begin{bmatrix}a_{11}&a_{12}&a_{13}\\a_{21}&a_{22}&a_{23}\end{bmatrix}}+{\begin{bmatrix}b_{11}&b_{12}&b_{13}\\b_{21}&b_{22}&b_{23}\end{bmatrix}}={\begin{bmatrix}a_{11}+b_{11}&a_{12}+b_{12}&a_{13}+b_{13}\\a_{21}+b_{21}&a_{22}+b_{22}&a_{23}+b_{23}\end{bmatrix}}$

Matrizenmultiplikation

Zwei Matrizen A und B können dann multipliziert werden, wenn die Anzahl der Spalten der Matrix A mit der Anzahl der Zeilen der Matrix B übereinstimmt. Dabei wird das Produkt von A*B eine Matrix C mit der Zeilenanzahl von A und der Spaltenanzahl von B. Wenn also zum Beispiel eine Matrix A mit 4 Zeilen und 3 Spalten (4 x 3) und eine Matrix B der drei Zeilen und zwei Spalten (3 x 2), erhält man die Matrix C mit 4 Zeilen und 2 Spalten. Die Matrixmultiplikation funktioniert dabei folgendermaßen:

${\begin{bmatrix}a_{11}&a_{12}&a_{13}\\a_{21}&a_{22}&a_{23}\\a_{31}&a_{32}&a_{33}\\a_{41}&a_{42}&a_{43}\end{bmatrix}}\cdot {\begin{bmatrix}b_{11}&b_{12}\\b_{21}&b_{22}\\b_{31}&b_{32}\end{bmatrix}}={\begin{bmatrix}c_{11}=a_{11}\cdot b_{11}+a_{12}\cdot b_{21}+a_{13}\cdot b_{31}&c_{12}=a_{11}\cdot b_{12}+a_{12}\cdot b_{22}+a_{13}\cdot b_{32}\\c_{21}=a_{21}\cdot b_{11}+a_{22}\cdot b_{21}+a_{23}\cdot b_{31}&c_{22}=a_{21}\cdot b_{12}+a_{22}\cdot b_{22}+a_{23}\cdot b_{32}\\c_{31}=a_{31}\cdot b_{11}+a_{32}\cdot b_{21}+a_{33}\cdot b_{31}&c_{32}=a_{31}\cdot b_{12}+a_{32}\cdot b_{22}+a_{33}\cdot b_{32}\\c_{41}=a_{41}\cdot b_{11}+a_{42}\cdot b_{21}+a_{43}\cdot b_{31}&c_{42}=a_{41}\cdot b_{12}+a_{42}\cdot b_{22}+a_{43}\cdot b_{32}\\\end{bmatrix}}={\begin{bmatrix}c_{11}&c_{12}\\c_{21}&c_{22}\\c_{31}&c_{32}\\c_{41}&c_{42}\\\end{bmatrix}}$

Skalarmultiplikation

Eine Matrix kann mit einem Skalar (einer einzelnen Zahl) multipliziert werden. Dies wird durch Multiplikation jedes Elements der Matrix mit dem Skalar erreicht.

Transposition

Die Transposition einer Matrix wird durch Vertauschen ihrer Zeilen und Spalten erreicht. Wenn $A={\begin{bmatrix}a&b\\c&d\\e&f\end{bmatrix}}$ eine Matrix ist, ist ihre transponierte Matrix $A^{T}={\begin{bmatrix}a&c&e\\b&d&f\end{bmatrix}}$.

Determinante

Die Determinante einer quadratischen Matrix ist eine spezielle Zahl, die zur Beurteilung der Invertierbarkeit der Matrix verwendet wird. Für eine 2x2-Matrix $A={\begin{bmatrix}a&b\\c&d\end{bmatrix}}$ ist die Determinante definiert als das Produkt der Diagonalelemente abzüglich des Produkts der Nebendiagonalelemente: $det(A)=a\cdot d-b\cdot c$
Für eine 3x3-Matrix $B={\begin{bmatrix}a&b&c\\d&e&f\\g&h&i\end{bmatrix}}$ ist die Determinante die Summe der Produkte der Elemente der ersten Zeile mit ihren Kofaktoren: $det(B)=a\cdot cof(a)+b\cdot cof(b)+c\cdot cof(c)$

Der Kofaktor eines Elements ist das Vorzeichen der Unterdeterminante - die Determinante der Matrix die sich ergibt, wenn die Zeile und Spalte dieses Elements entfernt werden (Untermatrix zum Element). Das passiert wie folgt für den Kofaktor des Elements d der Matrix B:

• zuerst ermittelt man die Untermatrix, indem man die Zeile und Spalte, in der d steht, aus B entfernt, die Untermatrix ist somit $B_{21}={\begin{bmatrix}b&c\\h&i\end{bmatrix}}$
• Die Untermatrix heißt $B_{21}$, weil d in der Matrix in der zweiten Zeile und in der ersten Spalte steht
• Die Determinante der Untermatrix $B_{21}$ berechnet sich wie oben durch $det(B_{21})=b\cdot i-c\cdot h$ - das ist die Unterdeterminante zum Element d der Matrix B
• Als nächstes muss das Vorzeichen des Kofaktors bestimmt werden. Dazu nimmt man die Position des Elements d innerhalb seiner Matrix B - das sind die Zeile j = 2 und Spalte k = 1
• Das Vorzeichen des Kofaktors wird berechnet aus $(-1)^{j+k}$, das heißt hier $(-1)^{2+1}=(-1)^{3}=-1$
• Aus der Unterdeterminante und dem Vorzeichen ergibt sich der Kofaktor von d wie folgt: $cof(d)=(-1)^{j+k}\cdot det(B_{21})=-1\cdot (b\cdot i-c\cdot h)$

Für Matrizen höherer Ordnungen wird die Determinante oft durch eine rekursive Formel berechnet, die auf Unterdeterminanten basiert. Diese Formel wird normalerweise nicht direkt verwendet, sondern durch Verwendung der Laplace-Entwicklung oder der Entwicklung nach einer Zeile/Spalte in kleinere Unterdeterminanten aufgeteilt.

Die Determinante einer Matrix ist null, wenn die Matrix singulär ist, was bedeutet, dass sie keine Inverse hat. Sie ändert sich, wenn die Reihen einer Matrix vertauscht werden und das Vorzeichen der Determinante ändert sich, wenn zwei Reihen oder Spalten vertauscht werden.

Inverse

Eine quadratische Matrix hat eine Inverse, wenn ihre Determinante ungleich Null ist. Die Inverse $A^{-1}$ einer Matrix A ist eine Matrix, sodass $A\cdot A^{-1}=A^{-1}\cdot A=I$, wobei I die Einheitsmatrix ist.

Die Inverse einer Matrix kann u.a. genutzt werden, um lineare Gleichungssysteme zu lösen bei denen $Ax=b$ wenn A eine quadratische Matrix ist. Die Lösung ist gegeben durch $x=A^{-1}\cdot b$. Sie ist wichtig, um Koeffizienten in linearen Regressionen zu schätzen und um Eigenwerte und -vektoren zu berechnen.

Einheitsmatrix

Eine Einheitsmatrix ist eine quadratische Matrix, bei der alle Diagonalelemente 1 und alle anderen Elemente 0 sind, z.B. ${\begin{bmatrix}1&0&0&0\\0&1&0&0\\=0&0&1&0\\0&0&0&1\end{bmatrix}}$

Spur

Die Spur einer quadratischen Matrix ist die Summe ihrer Diagonalelemente. Z.B. berechnet sich die Spur der Matrix $A={\begin{bmatrix}2&4&6\\1&3&5\\0&2&7\end{bmatrix}}$ wie folgt: $Spur(A)=2+3+7=12$

Eigenvektor

Ein Eigenvektor einer Matrix ist ein Vektor, der unter einer linearen Transformation durch die Matrix in seiner Richtung unverändert bleibt, jedoch möglicherweise um einen Skalarfaktor skaliert wird. Eigenvektoren sind besonders wichtig, weil sie die Richtungen repräsentieren, entlang derer eine lineare Transformation nur eine Skalierung, aber keine Richtungsänderung verursacht.

Eigenwert

Gegeben sei eine quadratische Matrix A der Größe n x n. Ein Skalar λ ist ein Eigenwert von A, wenn es einen nicht-trivialen Vektor v gibt, genannt Eigenvektor, der unter der Transformation durch A nur um einen Skalar λ skaliert wird. Das heißt, wenn Av = λv gilt, wobei v ≠ 0.

Beispiel: Bei einer 2x2-Matrix A mit $A={\begin{bmatrix}a&b\\c&d\end{bmatrix}}$ und ihrem Eigenvektor $v={\begin{bmatrix}x\\y\end{bmatrix}}$ ist $\lambda$ ein Eigenwert von A, wenn ${\begin{bmatrix}a&b\\c&d\end{bmatrix}}{\begin{bmatrix}x\\y\end{bmatrix}}=\lambda {\begin{bmatrix}x\\y\end{bmatrix}}$ Durch die Auflösung dieses Gleichungssystems lässt sich λ berechnen.

Eigenwerte und -vektoren spielen unter anderem eine wichtige Rolle bei der Lösung von linearen Differentialgleichungen und wird auch in der Hauptkomponentenanalyse verwendet.