Une idée mais je ne sais pas si cela peut te servir :

MA²-2MC²=(MA-V2MC).(MA+V2MC)
= (1-V2)MG.(1+V2)MH
= -MG.MH
avec G le barycentre de (A;1)(B;-V2)
et H le barycentre de (A;1)(B;V2)
Soit K le milieu de [GH].
MG.MH=(MK+KG).(MK+KH)=MK²-KG²=MK²-GH²/4

@+

merci victor
mais est ce que quelqu'un a autre idée?

Par la géométrie analytique:

En prenant AB comme axe des abscisses d'un repère orthonormé d'origine
A.

On a:
A(0 ; 0)
B(8 ; 0)

cercle de centre A et de rayon AC = 5:
x² + y² = 25

cercle de centre B et de rayon BC = 5:
(x - 8)² + y² = 36

Les coordonnées de C se trouvent en résolvant le système:
x² + y² = 25
(x - 8)² + y² = 36

x² + y² = 25
x² - 16x + 64 + y² = 36

-16x + 64 + 25 = 36
16x = 53
x = 53/16

y² = 25 - (53/16)² = 3591/256
Je prends arbitrairement y > 0

y = V(3591)/16

-> C(53/16 ; (V3591)/16)

On a donc:
A(0 ; 0)
B(8 ; 0)
C(53/16 ; (V3591)/16)
M(X ; Y)

MA² = X² + Y²
MC² = (X - (53/16))² + (Y -((V3591)/16))²

MA² - 2MC² = X² + Y² - 2.[(X - (53/16))² + (Y -((V3591)/16))²]
MA² - 2MC² = X² + Y² - 2.[X² - (53/8)X + (2809/256)  + Y² - ((V3591)/8)Y
+ (3591/256)]
MA² - 2MC² = X² + Y² - 2X² + (53/4)X - (2809/128)  - 2Y² + ((V3591)/4)Y
- (3591/128)
MA² - 2MC² = -X² - Y² + (53/4)X  + ((V3591)/4)Y - (6400/128)
MA² - 2MC² = -X² - Y² + (53/4)X  + ((V3591)/4)Y - 50

Si MA² - 2MC² = 61
->  -X² - Y² + (53/4)X  + ((V3591)/4)Y - 50 = 61
X² + Y² - (53/4)X  - ((V3591)/4)Y + 111 = 0

(X - (53/2))² + (Y - ((V3591)/2)² = -111 + (53/2)² + ((V3591)/2)²
(X - (53/2))² + (Y - ((V3591)/2)² = 1489

C'est un cercle de centre (53/2 ; (V3591)/2) et de rayon = V(1489)

----
Si MA² - 2MC² = 82
->  -X² - Y² + (53/4)X  + ((V3591)/4)Y - 50 = 82
X² + Y² - (53/4)X  - ((V3591)/4)Y + 132 = 0

(X - (53/2))² + (Y - ((V3591)/2)² = -132 + (53/2)² + ((V3591)/2)²
(X - (53/2))² + (Y - ((V3591)/2)² = 1468

C'est un cercle de centre (53/2 ; (V3591)/2) et de rayon = V(1468)

----
Le lieu de M est l'espace compris entre les cercles de centre (53/2
; (V3591)/2) et de rayon respectif V(1489) et V(1468)

----------
Sauf distraction.  
Tu as intérêt à vérifier tous les calculs.