Plutot que de travailler avec des endomorphisme, il vaut mieux utiliser des matrices et donc chercher l'ensemble des matrices qui commuttent avec M et prouver que cet ensemble est bien C(M)={P(M),P appartenant à R2[X]} :

C(M) est un sous-espace vectoriel de M3(R) car :
   I3 appartient à C(M)
   pour tout A et B appartenant à C(M) et tout a et b rééls, on a (aA+bB)M = aAM+bBM = aMA+bMB = MaA+MbB = M(aA+bB) donc aA+bB appartient aussi à C(M)

C(M) est au plus de dimension 2 car C(M) n'est pas égal à M3(R) puisque la matrice 3*3 composée d'un seul 1 dans la "première case" et des 0 ailleurs ne fait pas partie de l'ensemble C(M).

I3 est dans C(M);
M aussi car MM = MM ;
M² aussi pour la même raison.
Donc E={aM²+bM+cI3, (a,b,c) appartenant à R3} est inclu dans C(M). Pour prouver la réciproque, il suffit de prouver que E est de dimension 2.
Il faut pour cela prouver que I3, M et M² sont linéairement indépendantes : Soit (a,b,c) un triplet de réels tel que aM²+bM+cI3 = 0 alors on doit avoir:
|64a+16b+c    16a+4b     -16a-4b|    |0 0 0|
|-66a-18b   -16a-4b+c     17a+5b| =  |0 0 0|
|126a+30b     32a+8b   -31a-7b+c|    |0 0 0|

ce qui amène à a=b=c=0 donc I3, M et M² sont indépendantes et ainsi E est de dimension 2 donc, il contient tous les éléments de C(M).
Or E est exactement l'ensemble des polynomes du second degré à coefficients réels de variable M.

C(M) est au plus de dimension 3 car
C(M) n'est pas égal à M3(R) puisque les 6 matrices 3*3 composées d'un seul 1 dans les 6 "premières cases" et 8 zéros ailleurs ne font pas partie de l'ensemble C(M) et que ces matrices réunies avec I3, A et A² sont linéairement indépendantes.(Il faut "résoudre" un système 9*9, enfin il faut plutot bien l'"observer")

Deuxième boulette, plus loin j'ai écris "il suffit de prouver que E est de dimension 2", c'est bien sûr de dimension 3 puisque les 3 matrices I3, A et A² sont dans C(M) et lin&éairement indépendantes.

Voilà, pardon pour ces erreurs.