Si on appelle  x  la largeur du petit rectangle et  t  l'angle que fait un grand côté du petit rectangle avec un grand côté du grand rectangle, il me semble que la mise en équations n'est pas un problème insurmontable .....

Non je suis désolée mais je ne vois pas comment faire. J'ai utilisé les formules trigo dans tous les sens et je n'aboutis à rien.

As-tu fait une figure (approximative) ?
Si l'on projette un grand côté et un petit côté du petit rectangle sur la ligne de partage du carré, on peut écrire   a cos t + x sin t = a .
N'est-ce pas ?

Oui en effet mais on ne peut rien faire avec une seule relation, il faut en trouver une autre non ?

Pour avoir une seconde relation, projette dans la direction perpendiculaire.

Comme les cotés du carré valent 1, j'ai obtenu les relations suivantes :

x cos t + sin t + x = 1 et x sin t + cos t = 1

Ensuite j'ai exprimé x à l'aide d'une relation, j'ai remplacé dans l'autre mais encore une fois cela ne mène nul part dois je procéder autrement ou il s'agit d'erreurs de calcul ?

C'est juste.
L'élimination de  x  ne t'a mené nulle part ? A quoi, plus précisément, t'a-t-elle mené ?

J'ai donc trouvé x = (1-cos t)/(sin t)

puis (cos t -cos²t + 1-cos t)/(sin t) + sin t = 1

et enfin (- cos²t + sin²t +1- sin t)/(sin t) = 0

alors avec ça je ne sais pas trop quoi faire

N'oublie pas : sin²t + cos²t = 1.

mais la en l'occurence au numérateur c'est -cos²(t)+sin²(t)

Mais il y a aussi  1 - cos²t !

Les formules à utiliser étaient : cos²t- sin²t = cos 2t et cos 2t = 1 - 2 sin²t