Salut, déjà il y a un problème de compréhension.

"la ligne de niveau qui à M associe le produit scalaire vecteur AM.u est l'ensemble des plans admettant  pour vecteur normal u"

ne veut rien dire.

"Les lignes de niveau de l'application qui à M ... sont les plans admettant pour vecteur normal u" serait mieux.

Ceci prouve une certaine confusion dans les notions.
Aussi je demande avant de commencer : quelle est l'application étudiée ? (avec ensemble de depart et arrivée) et qu'est-ce qu'une ligne de niveau ?

L'application étudiée est l'application f de l'espace dans qui a M associe le produit scalaire des vecteurs AM et u.

Une ligne de niveau est l'ensemble des points M tels que, pour une application g du plan ou de l'espace dans , f(M)=k avec k un réel.

g(M)=k je veux dire

Pas mal ! Alors pourquoi une formulation si confuse ?

Donc nous fixons un réel k, et nous cherchons l'ensemble des points M=(x,y,z) de R^3
tels que AM.u=k, où A=(x_A, y_A, z_A) et u=(a,b,c).

Donc il reste juste à calculer ?

Tu obtiendras un équation à reconnaître.

La formulation un peu maladroite est seulement due au fait que j'ai recopié bêtement ce que j'avais noté un peu rapidement dans mon cours, et peu rigoureusement je l'avoue, probablement à cause de la vitesse à laquelle le prof allait à ce moment là

Sinon en reprenant vos données on a donc
AM.u=k ax+by+cz=k+ax_A+by_A+cz_A (1)
(1) correspond à l'équation d'un plan (on a bien k+ax_A+by_A+cz_A et (a,b,c)(0,0,0) en admettant bien sûr au départ que u n'est pas le vecteur nul) de vecteur normal u.
On en déduit que l'ensemble recherché est l'ensemble des plans de vecteur normal u.

Est-ce aussi simple? Cela me paraît étonnant vu mon prof, mais bon les élèves ont souvent tendance à surestimer les exigences des professeurs donc bon...

Parfait !

Sinon autre possibilité. Considère la droite D passant par A et de vecteur directeur u et soit H le projeté orthogonal de M sur cette droite.

Alors

AM.u=(AH+HM).u=AH.u

Donc AM.u = k ssi AH.u = k.

Vu que A, H sont sur la droite et u est son vecteur directeur il est facile de montrer l'unicité du point H_k de D vérifiant AH_k.u=k.

L'ensemble des M cherché est l'ensemble des points M dont le projeté orthogonal sur D est H_k, et ça c'est un plan orthogonal à D.

Il est vrai que c'est une méthode moins calculatoire et un peu plus géométrique, c'est une question de goût après

merci beaucoup pour votre aide précieuse et le temps que vous m'avez accordé

Bonne soirée à vous