cherche une solution de la forme y=u*cos2xe^(-x) qui va donner une équa diff en u':
u"+2u'=cosax/cos2x. Pour la résoudre , même méthode, d'abord l'équation sans second membre, puis une solution particulière en faisant varier la constante. Il ne reste plus qu'à intégrer u' pour obtenir u, donc y...

Première remarque :
une méthode qui rend la résolution plus simple consisterait à considérer l'équation dans le domaine complexe :
y''+2y'+5y = exp(-x).(cos(a.x)+i.sin(a.x)) = exp(x(-1+i.a))
En supposant que vous n'ayez pas appris cela, nous allons procéder autrement.
Seconde remarque :
La méthode habituelle consite à résoudre d'abord l'équation sans second membre, c'est à dire y''+2y'+5y = 0.
Ensuite, on trouve une solution particulière de l'équation avec second membre (si on n'en trouve pas une rapidement par le flair ou l'intuition, on emploira la méthode de la "variation de la constante" qui marche à coup sûr).
Cette méthode habituelle conduit bien au résultat, mais parfois demande un travail important : c'est souvent "le rouleau-compresseur pour écraser une mouche", comme on dit.
Troisième remarque :
Avant de se lancer, il n'est pas inutile de récléchir un peu, pour voir s'il est possible de simplifier l'équation dès le départ, ce qui réduira l'effort à fournir ensuite.
Dans le cas présent, le terme exp(-x) du second membre donne envie de voir si on ne simplifie pas l'équation en posant
y = exp(-x).f  avec f(x) une fonction inconnue.
y' = exp(-x).(-f+f')
y'' = exp(-x).(f-2f'+f'')
y''+2y'+5y = exp(-x).(f-2f'+f''-2f+2f'+5f) = exp(-x).(f''+4f)
donc  exp(-x).(f''+4f) = exp(-x).cos(a.x)
f''+4f = cos(a.x)
ce qui est déjà bien plus sympatique que l'équation du départ.
On va maintenant utiliser la méthode habituelle, qui ne devrait pas être trop dure avec une équation aussi simple.
Equation sans second membre : f''+4f = 0
solutions f = A.sin(2x)+B.cos(2x) avec A et B constantes arbitraires.
Recherche d'une solution particulière de f''+4f = cos(a.x)
On pourrait utiliser la méthode de la variation de la constante, mais il y a plus simple et plus direct :
En effet, en posant f = k.cos(a.x)+h.sin(a.x)
f' = -a.k.sin(a.x)+a.h.cos(a.x)
f'' = -a².k.cos(a.x)-a².h.sin(a.x)
f''+4f = (-a²+4)k.cos(a.x)+(-a²+4)h.sin(a.x) = cos(a.x)
donc h=0 et (-a²+4)k=1 d'où k = 1/(4-a²)
Une solution particulière est donc f = cos(a.x)/(4-a²)
La solution générale de l'équation f''+4f = cos(a.x)
est : f = A.sin(2x) + B.cos(2x) + cos(a.x)/(4-a²)
Par suite, la solution générale de l'équation y''+2y'+5y = exp(-x).cos(a.x) est donc :
y = exp(-x).(A.sin(2x) + B.cos(2x) + cos(a.x)/(4-a²) )
Dernière remarque :
Dans les cas particuliers a=2 ou a=-2, la solution particulière précédente ne convient évidemment pas. Il faut alors revenir à l'équation f''+4f = cos(2x). Si on ne voit pas de solution particulière évidente (autre que cos(2x) ou sin(2x)), il y a plusieurs façons de faire. En tout cas, la méthode de la variation de la constante, c'est à dire en posant par exemple f = k(x).sin(2x), marche comme d'habitude : elle permet de passer d'une équation du second odre à une du premier ordre que l'on résout par la méthode habitiuelle et qui donne alors une solution particulière convenable.

merci bcp à toi JJa pour ta réponse!ca m'aide vraiment bcp!
bonne soirée