??

en réalité, tu dois chercher la matrice inverse.
Si ta matrice a un déterminant nul, tu ne peux pas résoudre le système.
Sinon, tu obtient P matrice inverse de A
Ce qu'il reste à faire, c'est de multiplier AX=B par P à gauche, ce qui donne PAX=PB d'où X=PB.
Mais je ne sais pas si c'est vraiment efficace.

Et pour le rang?
En fait, je ne comprends pas comment le rang de [A|B] peut être différent du rang de A.

Pour résoudre une équation comme celle-ci, tu as besoin d'une matrice carrée.

Pour ce qui est du rang, tu as rg(A)=dim(Im(Ua)) où Ua est l'endomorphisme associé à ta matrice A.
Je suppose que tu note [A|B] la matrice composée de A à laquelle on ajoute le vecteur B (où même la matrice B dans un cas plus général).
Dans ce cas, il est clair que rg([A|B])<rg(A) (ou égal), car en ajoutant un vecteur supplémentaire, tu ne peux avoir une image plus petite qu'au départ.
Par contre, si B est linéairement indépendant des colonnes de A (mais dans ce cas, det(A)=0), tu auras rg([A|B])=rg(A)+1 (cas d'un simple vecteur) voire plus encore (cas où B est une matrice et non un vecteur).

Pour ce qui est du rang, tu as rg(A)=dim(Im(Ua)) où Ua est l'endomorphisme associé à ta matrice A.

houlà c'est pas du tout mon niveau. Moi je suis au début des matrices. Mes outils sont les inverses, transposées, formes canoniques lignes, et quelques autres.

C'est pourtant la définition du rang d'une matrice. Le rang d'une matrice est le rang des vecteurs colonnes qui la compose. Cela revient à ce que je dis.
Le rang d'une famille de vecteurs est la dimension du sous-espace engendré par ces vecteurs.
Donc, si tu rajoute un vecteur, tu as deux possibilités :
soit il est linéairement indépendants des vecteurs de ta matrice de base, et dans ce cas, la dimension du sous-espace vectoriel engendré augmente.
soit, il n'est pas indépendant et le rang de la matrice [A|B] est le même que celui de A.