Régression stepwise (ou forward) avec orthogonalisation des variables explicatives

Postez ici vos questions, réponses, commentaires ou suggestions - Les sujets seront ultérieurement répartis dans les archives par les modérateurs

Modérateur : Groupe des modérateurs

Nicolas JAMOIS
Messages : 1
Enregistré le : 07 Oct 2016, 15:57

Régression stepwise (ou forward) avec orthogonalisation des variables explicatives

Messagepar Nicolas JAMOIS » 07 Oct 2016, 16:31

Bonjour,

Nous avons une variable Y à expliquer et N variables explicatives potentielles X_1, ..., X_N. Les variables X_1, ..., X_N sont potentiellement corrélées, c'est pourquoi nous souhaitons les orthogonaliser (pour éviter des problèmes d'instabilité des coefficients au cours du temps, les corrélations des variables pouvant elles-mêmes changer au cours du temps).

Prenons N=3 pour simplifier. Pour procéder à l'othogonalisation, nous pouvons (par exemple) :
[list=]
[*]Régresser X_2 sur X_1 et récupérer le beta de cette régression
[*]Puis calculer un X_2_orth orthogonalisé en définissant X_2_orth = X_2 - beta * X_1
[*]Régresser X_3 sur X_1 et X_2_orth et récupérer le beta et le gamma de cette régression
[*]Puis calculer un X_3_orth orthogonalisé en définissant X_3_orth = X_3 - beta * X_1 - gamma * X_2_orth
[*]Enfin, régresser Y sur X_1, X_2_orth et X_3_orth
[/list]

Le problème de cette méthodologie est que l'ordre dans lequel on rentre les variables va changer considérablement les coefficients de la dernière régression. D'où l'idée d'objectiver l'ordre d'insertion des variables.

Pour ce faire, nous pourrions essayer de faire un stepwise et en l'occurrence une régression forward en prenant par exemple comme critère de sélection le R² ajusté. Y a-t-il une fonction dans R qui permet de faire une régression forward tout en orthogonalisant les facteurs tel que décrit ci-dessus ?

Un collègue m'a dit avoir le souvenir qu'une telle fonction existait telle quelle sous SAS (dans la PROC REG a priori), d'où l'idée de savoir si elle est déjà programmée sous R, ou si je dois développer un code ad hoc ?

Je vous remercie

Retourner vers « Questions en cours »

Qui est en ligne

Utilisateurs parcourant ce forum : Aucun utilisateur enregistré et 1 invité