interpolation polynomiale versus regression

Posté par ephemeride ephemeride

Bonjour,

mon problème est le suivant : à partir d'un nuage de points quelconques (x,y), déduire la fonction y=f(x).

J'ai voulu utiliser une interpolation polynomiale et j'ai rédigé un programme (en php) qui me permet de calculer cela quelque soit le nombre de couple (x,y) :
_ une première fonction crée à partir du nuage de points la matrice des coefs pour l'interpolation
_ une seconde fonction résoud le système d'équations linéaire par la méthode du pivot de gauss

Tout marche très bien pour les points initiaux qui appartiennent tous à la fonction polynomiale ainsi définie. Par contre, on ne peut pas en dire autant de l'interpolation :
alors que je m'attendais avec de nombreux points à avoir une très bonne approximation, je viens de découvrir ce qui doit être le phénomène de Runge : avec un nombre de points trop importants, j'ai des polynomes de degré trop élevés et un un effet de "cisaillement" avec des amplitudes extremes entre deux points.
par exemple, la série x(0,1,2,3,4,6,10) et f(x)(0,8,20,35,40,36,34) interpolé par un polynome de degré 6 renvoie pour x=9 f(x)=197.25

Je pense désormais utiliser un modèle de regression à la place pour éviter ces cisaillements. Je connais uniquement (vaguement) la regression linéaire. Y a t-il un autre modèle de regression qui permettent d'approximer de façon satisfaisante un nuage de points quelque soit la forme de la courbe ?

Notamment en ce qui concerne mon besoin (ressemblant à la série de valeurs données plus haut): des courbes qui partant de l'origine qui présentent une forte croissance puis une cloche avant de décroitre relativement lentement ?

Posté par Nightmare Nightmare

Bonsoir

Et si tu utilisais des polynômes par morceau? (Des splines je crois que ça s'intitule)

Posté par ephemeride ephemeride

Peut être oui... je suis en train de me documenter et de regarder de quoi il en retourne (splines, b-splines, courbes de bézier) et comment les polynomes y sont définis (pylynomes de Bernstein ?!)

En approfondissant un peu le problème lié à l'interpolation et aux effets dents de scie entre deux valeurs initiales correctement interpolées, j'ai cependant l'impression que l'usage d'un seul polynome n'est pas adéquat dans certains cas et que la regression polynomiale aura le même résultat désastreux que l'interpolation pour certaines formes de courbes :

pour mon nuage de points x(0,1,2,3,4,6,10) et f(x)(0,8,20,35,40,36,34)
il serait par exemple correctement approximé par une parabole type f(x)=x^n sur [0,2] puis sur [2,5] par une autre parabole type f(x)=-x^n+b et enfin sur [5,oo] en supposant que f(x) converge lentement vers 0 par une hyperbole f(x)=c/x. A ce que j'ai commencé à lire des splines, vu qu'on définit plusieurs morceaux, ça pourrait fonctionner (mais le raccordement sera t-il correctement "lissé" ?)

Par contre si on ne cherche à utiliser qu'une seule fonction, il est impossible d'utiliser une approximation polynomiale dès que la courbe converge vers f(x)=0 ou même vers un spectre de valeurs a comprises entre les principaux pics et creux de la courbe ajustée vu que le terme le plus élevé du polynome (x^6 par exemple) tendra toujours vers +oo ou -oo et l'emportera également sur tout membre du polynome de la forme c/x (hyperbole) qui lui converge bien vers 0.

Ai je raison ?
Sinon, y a t-il d'autres méthodes permettant d'approximer correctement un nuage de points avec une seule et unique fonction sans avoir une parabole très prononcée entre deux points ajustés alors qu'à l'oeil nu on aurait eu tendance à ajuster presque linéairement et sans effet de parabole qui tendent vers des valeurs extremes aux extremités du nuages de points ?

Posté par JJa JJa

Bonjour,

Dans les posts précédents, je relève deux questions essentielles :
La première : "Y a t-il un autre modèle de regression qui permettent d'approximer de façon satisfaisante un nuage de points quelque soit la forme de la courbe ?"
La méthode dite "des moindres carrés" permet d'optimiser de nombreuses fonctions. La fonction linéaire, les fonctions polynomiales ne sont pas les seules. On peut optimiser les coefficients d'une somme de fonctions préalablement choisies. On peut donc choisir des fonctions de base (exp, ln, ou autres...) qui se rapprochent de la forme générale du nuage de points, ce qui est un avantage initial considérable pour une meilleure optimisation.
La seconde : "...l'impression que l'usage d'un seul polynome n'est pas adéquat dans certains cas et que la regression polynomiale aura le même résultat désastreux que l'interpolation pour certaines formes de courbes ?"
Quelle que soit la méthode choisie, tout dépend du nombre de paramètres qui interviennent dans l'optimisation par rapport au nombre de points expérimentaux.
S'il y a autant de paramètres à calculer que de points expérimentaux, on obtiendra généralement une courbe qui passe exactement par tous les points. Mais entre les points, ce sera n'importe quoi et le plus souvent des oscillations : du point de vue calcul, l'objectif est pourtant atteint puisque les écarts sont nuls en tous les points donnés. Mais le résultat pratique sera désastreux !
Pour qu'il y ait un effet de "lissage", il faut qu'il y ait largement plus de points expérimentaux que de paramètres à calculer.
Ce genre de questions est discuté dans de nombreux articles de la littérature spécialisée, entre autres dans une publication récente :
"Régression circulaire", Magazine QUADRATURE, n°63, janvier 2007, pp.33-40
Bien que le sujet de cet article soit la régression circulaire, tout une première partie traite, pour mémoire, d'autres régressions (linéaires, polynomiales, etc...) et rappelle certaines méthodes et formules appropriées.