Oui, je vois, j'avais négligé le fait que les boules 1 et 2 ne sont pas ponctuelles et se touchent.
Mais alors on ne peut résoudre le problème qu'en faisant l'hypothèse que la symétrie par rapport à l'axe des abscisses est préservée après le choc. Du coup, on a 3 équations (préservation de la quantité de mouvement qui a deux composantes, et préservation de l'énergie cinétique) et 3 inconnues : vitesse de la boule frappeuse après le choc, qui reste dirigée par l'axe des abscisses, et les deux composantes de la vitesse de la boule qui était en (la vitesse de l'autre boule est la symétrique par rapport à l'axe des abscisses). Tout va bien.
Si on ne fait pas cette hypothèse de symétrie, le problème est indéterminé : trop d'inconnues, pas assez d'équations.