Je suppose que ton point M est un point quelconque de l'ensemble que tu cherches et que A et B sont deux points fixes.
Dans ce cas,
Soit G le barycentre de (A;1) et (B;2) et G' le barycentre de (A;1) et (B;-2). Alors, l'ensemble des points M tels que AM=2BM est le cercle de diamètre GG'.
Malheureusement, ceci est un résultat de géométrie élémentaire qui n'est, à ma connaissance, plus enseigné avant le BAC (de mon temps, il y a longtemps, très longtemps, oui, mais plus aujourd'hui).
Peut-être peux-tu trouver ce cercle en définissant un repère orthonormé et en trouvant une équation de cercle vérifée par les coordonnées de M !