a)

vect(OI) = (0 ; 0 ; 1)
vect(OA) = (0 ; 0 ; 3)
-> A(0;0;3)

vect(IA) = (0 ; 0 ; 2)
vect(IM) = (V5 ; 0 ; -1)    avec V pour racine carrée.
avec M'(X;Y;Z)
vect(IM') = (X ; Y; Z-1)

vect(IA) + vect(IM) + vect(IM') = (X + V5 ; Y ; Z) = 0

-> X = -V5 ; Y = 0 et Z = 0
on a
M'(-V5 ; 0 ; 0)

MM'² = (2.V5)² + 0 + 0 = 20
IM² = (V5)² + 0 + 1 = 6
IM'² = (-V5)² + 0 + 1 = 6
IA² = 0 + 0 + 2² = 4

MM'² - IM² - IM'² = 20 - 6 - 6 = 8
et donc on a bien: MM'²-IM²-IM'²= 2IA²

on a vect(IM') = (-V5 ; 0 ; -1)
-----
b)

A(0 ; 0 ; 3)
I(0 ; 0 ; 1)
vect(IA) = (0 ; 0 ; 2)

Soit M(a;b;c) et M'(X;Y;Z)
vect(IM) = (a ; b ; c-1)
vect(IM') = (X ; Y ; Z-1)

vect(IA) + vect(IM) + vect(IM') = (a + X ; b + Y ; c + Z) = 0
->
a = -X , b = -Y et c = -Z

on a alors M'(-a ; -b ; -c)

MM'² = (2a)² + (2b)² + (2c)²
IM² = a² + b² + (c-1)²
IM'² = a² + b² + (c+1)²
IA² = 4

MM'²-IM²-IM'²= 2IA²
4a² + 4b² + 4c² - 2a² - 2b² - (c-1)² - (c+1)² = 8
2a² + 2b² + 4c² - c² + 2c - 1 - c² - 2c - 1 = 8
2a² + 2b² + 2c²  = 10
a² + b² + c²  = 5

L'ensemble des points M est donc une sphère de centre de coordonnées (0 ; 0
; 0) et de rayon = V5
-----
c)
C'est quoi M'' ?
Je suppose que tu as voulu écrire :
Quelle est alors la position de M' par raport a cette sphere?

On a M(a ; b ; c) et M'(-a ; - b ; - c) avec (0 ; 0 ; 0 ) le centre
de la spère.

-> M' est le point de la sphère diamétralement opposé à M.
-----
Sauf distraction.