Qu'appelles-tu (vecteur OM)² ?

Ecrire :  (vecteur OM)2scalaire (vecteur AM)2 n'a pas de sens.
c'est : (vecteur OM)2 * (vecteur AM)2

(u . v)²
.......... d'après la forme géométrique du produit scalaire
= [||u|| ||v|| cos(u,v)]²
= ||u||² ||v||² cos²(u,v)

c'est égal à ||u||² ||v||²
quand cos²(u,v) = 1
cad quand les vecteurs u et v sont colinéaires

en fait (vecteur OM)²= (distance OM)²

Dans ce cas c'est clairement faux. Si A, M et O forment un triangle rectangle en M, le produit scalaire est nul mais le produit des carrés des distances ne l'est pas si les points ne sont pas confondus.