Soit x un élément de E, alors on a :
Or par définition de l'adjoint,
donc
Application :
Pour tout x de S, par bilinéarité du produit scalaire, on a
où u est l'endomorphisme de E défini par
D'après la question précédente,
où
Donc
Or v est un endomorphisme symétrique de l'espace euclidien E, donc ce sup est égale à la plus grande valeur propre de v.
On commence par déterminer l'adjoint de u :
Soient x et y deux vecteurs de E, alors
donc
Ainsi,
la restriction de v à l'orthogonal de vect(a,b) est nul. Il reste à savoir ce que vaut v sur vect(a,b)
1er cas : (a,b) est une famille libre
Vect(a,b) est donc un plan et son orthogonal est de dimension n-2 et donc 0 est valeur propre d'ordre au moins n-2.
vect(a,b) est clairement stable par v donc il suffit de s'intéresser à l'endomorphisme de Vect(a,b) induit par v (que l'on va aussi appeler v par abus de notation).
on a
et
, donc dans la base (a,b), la matrice de v est a suivante :
la trace de cette matrice vaut (a|b) et son déterminant vaut ((a|b)²-1)/4, donc ses valeurs propres sont ((a|b)-1)/2 et ((a|b)+1)/2.
Ainsi, les propres v (celui défini sur E tout entier) sont 0, (a|b)-1, (a|b)+1.
comme a et b formes une famille libre, alors dans l'inégalité de Cauchy-Schwarz, l'inégalité est stricte et donc (a|b) est strictement compris entre -1 et 1 donc ces deux dernières valeurs propres sont respectivement strictement négative et strictement positive.
Ainsi, le sup recherché est
.
remarque : comme la sphère est compacte, alors ce sup est atteint. On peut même donner les vecteurs pour lesquels c'est atteint :
2e cas : (a,b) est une famille liéé
On peut régler ce problème en reprenant l'étude précédente, mais on peut le faire dès le début.
En effet, dans ce cas, a et b étant de norme 1, on a soit a=b, soit a=-b.
Si a=b, alors pour tout x de S,
(Cauchy-Schwarz)
mais 1 est atteint avec x=a ou -a (et il n'y a que ces deux vecteurs, d'après le cas d'égalité de C-S)
Si a=-b, alors
0 est atteint pour un vecteur normé x qui se trouve dans l'orthogonal de a (c'est possible car n étant de dimension au moins 2, cet orthogonal est de dimension au moins 1)
Conclusion : Dans tous les cas,