Citation :
le point p doit être assimilé à AM

ça ne veut rien dire !
je comprends qu'on a un carré ABCD, et un point M variable, on pose AM = x
et on veut l'aire de ENFO en fonction de x en fait ?
(ton point P est plus une gêne qu'autre chose)
avec geogebra c'est simple, tu poses le point M, tu construis la figure comme demandé en utilisant les fonctions parallèle et intersection.
une fois que tu as ENFO, tu traces le polygone ENFO avec la fonction polygone et dans la fenêtre algèbre, tu as son aire.
quand tu fais bouger M avec ta souris, tu verras comment évolue cette aire en fonction de AM.