Lernzettel: Introduction à l'Algèbre Linéaire

📋 Plan du Cours

1. Systèmes linéaires et méthode de Gauss
2. Applications linéaires et matrices associées
3. Noyau, image et sous-espaces
4. Combinaisons linéaires et bases
5. Déterminant et calculs élémentaires
6. Valeurs propres et vecteurs propres
7. Produit scalaire et orthogonalité
8. Matrices symétriques et décomposition SVD

📖 1. Systèmes linéaires et méthode de Gauss

🔑 Notions clés & Définitions

• Système linéaire : Un système linéaire est un ensemble d’équations linéaires à des inconnues $x_1,\dots,x_n$ de la forme $A x=b$.
• Matrice augmentée : La matrice augmentée d’un système place les coefficients et les seconds membres dans une même matrice, avec les $b_i$ en dernière colonne.
• Élimination de Gauss : L’élimination de Gauss transforme la matrice augmentée en forme échelonnée, puis effectue une remontée pour déterminer les solutions.
• Forme échelonnée réduite par lignes : Une matrice est en RREF quand chaque pivot vaut 1, est le seul terme non nul de sa colonne, progresse de gauche à droite et les lignes nulles sont en bas.

📝 Points essentiels

• L’élimination de Gauss utilise les opérations élémentaires R_i ↔ R_j, R_i ← αR_i (α≠0) et R_i ← R_i + αR_j, qui conservent l’ensemble des solutions.
• Un système est incompatible si la réduction mène à une ligne du type $0= b$ avec $b\neq 0$, par exemple $0=3$.
• La RREF impose que chaque ligne non nulle commence par un 1 (pivot) et que les pivots soient les seuls éléments non nuls de leur colonne.
• Le rang d’une matrice est le nombre de pivots dans sa forme RREF, noté $\mathrm{rang}(A)$.
• Pour obtenir le rang, on réduit en RREF puis on compte les lignes non nulles, ce nombre donne $\mathrm{rang}(A)$.

💡 Astuce mémo

Gauss = avancer (éliminer sous le pivot) puis remonter ; RREF = pivots isolés (1 seuls dans leur colonne).

📖 2. Applications linéaires et matrices associées

🔑 Notions clés & Définitions

• Application linéaire : Application entre espaces vectoriels qui respecte l’additivité et l’homogénéité vis-à-vis des scalaires.
• Matrice associée : Matrice représentant une application linéaire sous la forme T(x)=Ax dans des bases données.
• Vecteurs élémentaires : Vecteurs de base canonique e1,...,en construits pour isoler une coordonnée, avec δij pour les composantes.
• Matrice de composition : Matrice associée à la composée de deux applications linéaires, obtenue par produit matriciel AB.

📝 Points essentiels

• T est linéaire sur Rm vers Rn si elle vérifie T(x+y)=T(x)+T(y) et T(αx)=αT(x) pour tout x,y et tout scalaire α.
• Si T: Rm→Rn est linéaire, alors il existe A∈Rn×m telle que T(x)=Ax pour tout x, avec x pris comme vecteur colonne.
• La matrice associée se construit par A=[T(e1) T(e2) … T(em)], en utilisant les images des vecteurs de la base canonique.
• Pour deux applications linéaires représentées par A (n×m) et B (m×p), la composée a pour matrice AB et vérifie (A◦B)(x)=A(Bx).
• La multiplication A·x peut s’écrire composante par composante comme une combinaison linéaire des colonnes de A avec les coefficients de x.
• Une matrice carrée A est inversible si et seulement s’il existe B telle que AB=I et BA=I, alors B=A^{-1}.

📖 3. Noyau, image et sous-espaces

🔑 Notions clés & Définitions

• Noyau d’une matrice : Le noyau d’une matrice A est l’ensemble des vecteurs x tels que l’on obtient le vecteur nul, donc Ax = 0.
• Image d’une matrice : L’image d’une matrice A est l’ensemble des vecteurs obtenus sous la forme y = Ax pour un certain x, donc Im(A) = {Ax | x ∈ Rm}.
• Sous-espace vectoriel : Un sous-espace vectoriel est un sous-ensemble de Rn contenant 0 et stable par addition et par multiplication par un scalaire.
• ker(A) : ker(A) désigne le noyau de A, c’est-à-dire l’ensemble des x tels que Ax = 0.
• Im(A) : Im(A) désigne l’image de A, c’est-à-dire l’ensemble des vecteurs y = Ax.

📝 Points essentiels

• Pour calculer ker(A), on résout le système homogène Ax = 0 en réduisant A en RREF, puis les variables libres deviennent des paramètres.
• La solution générale du système Ax = 0 s’écrit comme une combinaison linéaire de vecteurs, ce qui donne ker(A) sous forme engendrée.
• Pour calculer Im(A), on réduit A en forme échelonnée (ou RREF) et une base de Im(A) est fournie par les colonnes pivots de A.
• Par définition, Im(A) est aussi l’espace engendré par les colonnes de A.
• Un sous-espace W ⊆ Rn vérifie 0 ∈ W, u + v ∈ W pour tous u,v ∈ W, et αu ∈ W pour tout α ∈ R et tout u ∈ W.
• ker(A) et Im(A) sont automatiquement des sous-espaces vectoriels des espaces de départ/arrivée correspondants.

💡 Astuce mémo

Noyau = “zéro à l’arrivée” (Ax=0) ; Image = “toutes les sorties” (y=Ax) ; Sous-espace = “stable” (0, +, × scalaire).

📖 4. Combinaisons linéaires et bases

🔑 Notions clés & Définitions

• Combinaison linéaire : Une combinaison linéaire est un vecteur obtenu comme somme de vecteurs de départ multipliés par des scalaires réels.
• Étendue ou span : L’étendue (span) est l’ensemble de toutes les combinaisons linéaires d’une famille donnée de vecteurs.
• Base d’un sous-espace : Une base est une famille de vecteurs qui est à la fois génératrice du sous-espace et linéairement indépendante.
• Coordonnées dans une base : Les coordonnées d’un vecteur dans une base sont les scalaires uniques qui permettent de l’écrire comme combinaison linéaire des vecteurs de la base.

📝 Points essentiels

• Pour vérifier si $y\in \text{Span}\{v_1,\dots,v_m\}$, on résout $Ax=y$ où $A$ a les $v_i$ comme colonnes, et le système compatible donne une combinaison linéaire.
• Pour prouver $\text{Span}\{v_1,v_2\}=\text{Span}\{w_1,w_2\}$, on montre les deux inclusions via des réductions (chaque $v_i$ s’exprime en $w$ et réciproquement).
• Si $B=(v_1,\dots,v_m)$ est une base, alors tout $u\in V$ s’écrit de façon unique $u=\sum_{i=1}^m c_i v_i$, donc les coordonnées $[u]_B$ sont uniques.
• Toutes les bases d’un même sous-espace $V$ ont le même nombre d’éléments, nombre appelé dimension $\dim V$.
• Si $u=Ac$ et $u=Ad$ avec $A=[v_1\ \,\dots\ \,v_m]$ et $B$ une base, alors $A(c-d)=0$ implique $c=d$ par indépendance linéaire des colonnes.

📖 5. Déterminant et calculs élémentaires

🔑 Notions clés & Définitions

• Fonction déterminant : Un déterminant est une fonction à n entrées qui associe à une matrice carrée un réel vérifiant multilinéarité, antisymétrie et normalisation.
• Opérations élémentaires : Les opérations élémentaires sur les lignes sont des échanges, des ajouts de multiples et des multiplications d’une ligne par un scalaire non nul, avec effets connus sur le déterminant.
• Forme triangulaire supérieure : Une matrice triangulaire supérieure a tous ses coefficients sous la diagonale nuls, ce qui permet de calculer son déterminant comme produit des termes diagonaux.
• Forme échelonnée réduite : La RREF est la forme échelonnée réduite obtenue par Gauss-Jordan, utilisable pour relier le déterminant de A à celui de sa RREF.

📝 Points essentiels

• Si une matrice a deux lignes identiques, son déterminant vaut 0.
• Ajouter un multiple d’une ligne à une autre ne change pas la valeur du déterminant.
• Pour une matrice triangulaire supérieure A, det(A) vaut le produit des coefficients diagonaux : det(A)=∏{i=1}^n a{ii}.
• Si A est inversible, sa RREF est la matrice identitée I_n, donc det(A)=(−1)^s k1···kr où k1···kr sont les facteurs des multiplications de lignes.
• Si A n’est pas inversible, la RREF possède au moins une ligne nulle et le déterminant de A est 0.
• Exemple : pour A=[[2,5,−1],[0,3,4],[0,0,−2]], det(A)=2·3·(−2)=−12.

💡 Astuce mémo

Triangulaire → produit diagonal ; deux lignes égales → 0 ; Gauss-Jordan : échanges → signe (−1)^s, multiplications → facteurs k, ajout de multiple → rien.

📖 6. Valeurs propres et vecteurs propres

🔑 Notions clés & Définitions

• Valeur propre : Une valeur propre de A est un scalaire λ pour lequel A admet un vecteur non nul u vérifiant Au = λu.
• Vecteur propre : Un vecteur propre associé à λ est un vecteur non nul u tel que Au = λu.
• Espace propre : L’espace propre Eλ associé à λ est l’ensemble des vecteurs v tels que Av = λv.
• Polynôme caractéristique : Le polynôme caractéristique P(λ) de A est défini par P(λ)=det(A−λI), et il a pour degré n.

📝 Points essentiels

• Pour déterminer les valeurs propres d’une matrice A, on calcule P(λ)=det(A−λI) puis on résout P(λ)=0.
• Pour une valeur propre λ, les vecteurs propres associés sont exactement les solutions non nulles de (A−λI)u=0.
• Si A est triangulaire supérieure ou inférieure, ses valeurs propres sont précisément les éléments diagonaux aii.
• Si A est symétrique, toutes ses valeurs propres sont réelles et des vecteurs propres associés à deux valeurs propres distinctes sont orthogonaux.
• Pour A=[[1,2],[2,4]], les valeurs propres sont λ=0 et λ=5, avec E0=Span{[-2,1]} et E5=Span{[1,2]}.
• Si u vérifie Au=λu, alors A²u=λ²u, donc λ² est valeur propre de A² avec le même vecteur propre u.

💡 Astuce mémo

Au=λu : cherche un vecteur qui « ne change que par un facteur » sous A. (Triangulaire : diagonale = valeurs propres.)

📖 7. Produit scalaire et orthogonalité

🔑 Notions clés & Définitions

• Produit scalaire : Le produit scalaire est une application qui associe à deux vecteurs de Rn le nombre 〈u,v〉=u1v1+…+unvn.
• Orthogonalité : Deux vecteurs u et v sont orthogonaux lorsque leur produit scalaire vaut 0, noté u ⊥ v.
• Norme euclidienne : La norme d’un vecteur u est la longueur définie par ‖u‖=√〈u,u〉=√(u1^2+…+un^2).
• Famille orthonormée : Une famille est orthonormée si elle est orthogonale et si chaque vecteur a une norme égale à 1.
• Complément orthogonal : Le complément orthogonal V⊥ d’un sous-espace V regroupe les vecteurs orthogonaux à tous les vecteurs de V.

📝 Points essentiels

• Des vecteurs orthogonaux non nuls sont linéairement indépendants.
• Si {v1,…,vm} est une base orthonormée de W, alors la projection orthogonale sur W est P_W(v)=∑_{i=1}^m〈v,vi〉vi.
• Pour tout w∈W, on a v−P_W(v) ⊥ w, donc v−P_W(v) est orthogonal à W.
• Pour toute matrice A n×m, on a (Im(A))⊥=ker(A^T).
• Les solutions des moindres carrés de Ax=b sont exactement les solutions de A^T A x = A^T b, et si ker(A)={0} alors x*=(A^T A)^{-1}A^T b.
• Si {u1,…,um} est construit par Gram-Schmidt à partir de vecteurs linéairement indépendants v1,…,vm, alors {u1,…,um} est une base orthonormée du sous-espace engendré.

💡 Astuce mémo

Orthogonalité : 〈u,v〉=0 ; projection : P_W(v)=somme des composantes sur une base orthonormée 〈v,vi〉vi.

📖 8. Matrices symétriques et décomposition SVD

🔑 Notions clés & Définitions

• Matrice symétrique : Une matrice carrée réelle est symétrique si elle est égale à sa transposée, donc aij = aji pour tous les indices.
• Diagonalisation orthogonale : Une matrice réelle est orthogonalement diagonalisable s’il existe une matrice orthogonale S et une diagonale D telles que A = SDST.
• Décomposition en valeurs singulières : Une SVD factorise une matrice réelle A en A = VDU T avec U et V orthogonales et D diagonale rectangulaire contenant les valeurs singulières.
• Valeurs singulières : Les valeurs singulières sont les coefficients diagonaux (positifs ou nuls) de D dans la décomposition SVD A = VDU T.

📝 Points essentiels

• Pour une matrice symétrique, des vecteurs propres associés à deux valeurs propres distinctes sont orthogonaux.
• Pour une matrice symétrique réelle, toutes ses valeurs propres sont réelles.
• Une matrice réelle carrée est symétrique si et seulement si elle est orthogonalement diagonalisable, i.e. A = SDST avec S orthogonale.
• Pour toute matrice A, les valeurs propres de AT A sont positives ou nulles car elles vérifient ‖Ax‖^2 = xT(AT A)x.
• Si U D2 U T est une diagonalisation orthogonale de AT A avec D diagonale inversible (sur les valeurs non nulles) et V = AU D−1, alors A = VDU T.
• En SVD, U diagonalise AT A (U D2 U T = AT A) et les colonnes de V proviennent de V = AU D−1 pour les singularités non nulles.

💡 Astuce mémo

Symétrique : orthogonalement diagonalisable ; SVD : AT A fixe U (via D2), puis A fixe V via AU D−1.

⚠️ Pièges & confusions fréquents

1. Confondre la matrice augmentée (coefficients + seconds membres b en dernière colonne) avec la matrice A seule des équations.
2. Croire qu’une RREF est en « forme échelonnée » sans pivots : en RREF, chaque ligne non nulle commence par un 1 pivot et ce pivot est l’unique élément non nul de sa colonne.
3. Confonde le rang avec la dimension du noyau : dans ce cours, le rang est le nombre de pivots dans la RREF, pas le nombre de variables libres.
4. Prendre à tort les colonnes non pivot comme base de Im(A : la base de Im(A) est donnée par les colonnes pivots de A (après réduction).
5. Penser que ker(A) se lit directement sur A sans résoudre Ax=0 : il faut résoudre le système homogène via Gauss (RREF) et paramétrer les variables libres.
6. Pour les déterminants, oublier que l’échange de deux lignes change le signe (facteur −1) alors que l’ajout d’un multiple d’une ligne ne change pas det.
7. Confondre valeurs propres et vecteurs propres : une valeur propre λ n’est trouvée qu’en résolvant det(A−λI)=0, puis on obtient les vecteurs propres via (A−λI)u=0.

✅ Checklist Examen

1. Construire la matrice augmentée d’un système et appliquer les opérations élémentaires de Gauss (échanges de lignes, multiplications par un scalaire non nul, ajouts de multiples) jusqu’à une forme échelonnée puis résoudre par remontée.
2. Déterminer si un système est incompatible à partir de la réduction (ligne de type 0= b avec b≠0, ex. 0=3) et conclure « pas de solution ».
3. Mettre une matrice en RREF et vérifier les conditions : lignes non nulles commencent par 1 pivot, pivots seuls éléments non nuls de leur colonne, pivots gauche→droite, lignes nulles en bas.
4. Calculer le rang : réduire en RREF puis compter le nombre de pivots (lignes non nulles) pour obtenir rang(A).
5. Pour une application linéaire T donnée, construire sa matrice associée A en utilisant A=[T(e1) … T(em)] (base canonique) et utiliser T(x)=Ax avec x en vecteur colonne.
6. Pour Im(A), réduire A en forme échelonnée/RREF et donner une base de Im(A) à partir des colonnes pivots, puis expliciter Im(A) comme espace engendré par ces colonnes.
7. Pour ker(A), résoudre Ax=0 : utiliser la RREF pour faire apparaître les variables libres comme paramètres et écrire la solution générale sous forme engendrée.
8. Vérifier l’appartenance y∈Span{v1,…,vm} en résolvant Ax=y avec A ayant v1,…,vm comme colonnes, et prouver l’égalité de deux spans par double inclusion via réductions.
9. Calculer det(A) soit par produit diagonal si A triangulaire supérieure, soit via l’enchaînement Gauss-Jordan en traquant les effets des échanges et multiplications de lignes sur det, et conclure det=0 si RREF a une ligne nulle.
10. Pour trouver valeurs propres/vecteurs propres, calculer P(λ)=det(A−λI), résoudre P(λ)=0, puis résoudre (A−λI)u=0 pour chaque λ ; si A est triangulaire, lire directement les valeurs propres sur la diagonale ; si A symétrique, utiliser orthogonalité des vecteurs propres distincts et réalité des valeurs propres.
11. Exploiter le produit scalaire : décider u⊥v via 〈u,v〉=0, construire une base orthonormée (orthonormer par Gram-Schmidt) et écrire la projection P_W(v)=∑ 〈v,vi〉vi pour une base orthonormée.
12. En moindres carrés, écrire les équations normales A^T A x = A^T b et donner la solution unique x*=(A^T A)^{-1}A^T b si ker(A)={0}.