salut la dérivée de f est
f'=3x²-52x+160

pour étudier le signe tu regardes quand f' est positive et qd elle
est négative ensuite si c positif sur tel intervalle f est croissante
sur cet intervalle si c'est négatif sur cet intervalle f est
décroissante!

voila! à toi de jouer!

f(x)=x3-26x2+160x
f'(x)=3x2-52x+160

delta=b2-4ac=(-52)²-4*3*160=2704-1920=784

delta est positif la fonction admet donc deux racines:
x1=(52-racine de 784)/6=4
x2=(52+racine de 784)/6=13.6666...

comme delta est positif le signe de f'(x) est donc celui de a (ici
+) sauf entre les racines:
TABLEAU DE VARIATION :

x                 0                        4                      
           10      

f'(x)                          +           0               -          
                

f(x)            0 une fleche       288        (une qui descend)  0
                      qui monte
pour x=4 la valeur de f(x) est maximal.        

excuse moi mais y a une erreur: le 10 , il est à droite sur la 1ere
ligne dans le tableau de variation