[resolu] la mesure de la vraisemblance

Postez ici vos questions, réponses, commentaires ou suggestions - Les sujets seront ultérieurement répartis dans les archives par les modérateurs

Modérateur : Groupe des modérateurs

E.H. [compte supprimé]

[resolu] la mesure de la vraisemblance

Messagepar E.H. [compte supprimé] » 15 Juin 2007, 13:30

Bonjour, et désolé par avance pour cette question...

retour sur :

Code : Tout sélectionner

AIC = - 2 log(L) + 2k

ou L est la vraisemblance maximisée.

comment mesure t on concrètement cette vraisemblance... ? j'ai oublié ce détail dans mon étude, j'ai appliqué betement le calcul de l'AIC avec de jolies fonctions toutes prêtes... mais meme le logLik est lui même une fonction, qui lorsque je l'édite ne me parle pas du tout :

Code : Tout sélectionner

-2 * c(object) + k * attr(object, "df")
(dans le cas du logLik pour un calcul avec la fonction AIC(), mais c'est encore différent selon la méthode non ?

J'ai lu d'un autre coté que la vraisemblance etait le rapport entre la proportion observée et la proportion estimée...

en clair je suis largué. ou pourrais je trouver une définition correcte de la vraisemblance, la méthode pour la mesurer...
merci.

Pierre Bady
Messages : 405
Enregistré le : 02 Mai 2006, 07:46

Messagepar Pierre Bady » 15 Juin 2007, 13:51

=@===--------¬-------¬------¬-----¬
liens utiles :
http://www.gnurou.org/Writing/SmartQuestionsFr
http://neogrifter.free.fr/welcomeOnInternet.jpg
]<((((*< -------------------------------

E.H. [compte supprimé]

Messagepar E.H. [compte supprimé] » 15 Juin 2007, 13:54

c'est bien ce que je me disais... boulet, et excuses...

pour information et ce qui m'etonne, c'est que j'ai cherché sur google, mais toujours en ajoutant un mot supplémentaire a vraisemblance pour la pertinence... ce qui au final etait une erreur ;-)

merci pour le lien qui m'a remis sur la bonne piste

Logez Maxime
Messages : 3138
Enregistré le : 26 Sep 2006, 11:35

Messagepar Logez Maxime » 15 Juin 2007, 14:18

Bonjour,

Voici une définition tout droit sortie de l'un de mes cours de stats sur les GLM, néanmoins elle s'applique à tout les modèles je pense :
La vraisemblance de la valeur d ’un paramètre est la probabilité des données si le paramètre a cette valeur.
C ’est donc une quantité qui mesure « l ’accord » des données avec la valeur de ce paramètre.
La méthode du maximum de vraisemblance consiste à choisir pour estimation du paramètre la valeur qui a la vraisemblance maximale.
C ’est donc une méthode générale de construction d ’estimateurs
Pour des raisons techniques on utilise en pratique le logarithme de la vraisemblance.

Un exemple avec le modèle linéaire :

Code : Tout sélectionner

x <- rnorm(100)
y <-(-3)+2.5*x+rnorm(100)
lm1 <- lm(y~x)
logLik(lm1)
'log Lik.' -142.925 (df=3)
proba <- dnorm(y,predict(lm1),sd(residuals(lm1))) # les probabilités de chaque observation
V <- prod(proba) # la vraissemblance
logV <- log(V) # la log vraissemblance
logV
[1] -142.9275


Un autre exemple avec une régression poissonienne :

Code : Tout sélectionner

x <- rnorm(100)
y <- round(exp(0.5+0.8*x))
glm1 <- glm(y~x,family="poisson")
proba <- dpois(y,predict(glm1,type="response"))
V <- prod(proba)
logV <- log(V)
logV
[1] -124.5306
logLik(glm1)
'log Lik.' -124.5306 (df=2)


En espérant t'avoir aidé un peu.

Maxime

E.H. [compte supprimé]

Messagepar E.H. [compte supprimé] » 18 Juin 2007, 09:15

Bonjour,

avec toutes vos indications, voilà ce que j'ai sorti.

que pensez vous de cela :

Code : Tout sélectionner

AIC = -2 log(L) +2k
où L est la vraisemblance maximisée et k le nombre de paramètres du modèles


La vraisemblance d'un modèle par rapport aux données est la probabilité que l'observation soit adaptée au modèle. SOit p(x) une distribution de probabilité quelconque. Pour chaque observation (xi) on mesure la valeur de p(xi) que la distribution prend pour cette observation et on réalise le produit de ces valeurs. Le résultat du produit est la vraisemblance, il s'agit donc d'une mesure d'adéquation entre un échantillon et une distribution de probabilité. La vraisemblance maximisée est donc la valeur de la vraisemblance pour laquelle la probabilité de l'observation dans le modèle est la plus forte.

est ce clair ? n'y a t il pas trop de redondance ? est ce "autosuffisant" pour expliquer ce que représente la vraisemblance et comment la mesurer ?
sachant que je ne doit pas faire un roman non plus... a t'on l'idée essentielle bien retranscrite ?

enfin, juste un détail :

on dit que l'AIC représente un compromis biais/parcimonie. De quel biais parle t on dans ce cas ? le biais des données ? du paramètre estimé ? ou du modèle ?

j'aurais tendance à m'orienter vers le biais du modèle puisque l'AIC permet, entre autre, la sélection d'un modèle vis à vis d'un autre.. me trompe-je ?

Logez Maxime
Messages : 3138
Enregistré le : 26 Sep 2006, 11:35

Messagepar Logez Maxime » 18 Juin 2007, 11:16

Bonjour,


Je ne pense pas que ta définition de la vraissemblance soit correcte. Déjà dans la première phrase il y a une incohérence à mon sens :
Emmanuel Henke a écrit :La vraisemblance d'un modèle par rapport aux données est la probabilité que l'observation soit adaptée au modèle.
Est-ce les observations doivent s'adapter aux modèles, ou le modèle s'adapter aux données. Je pense qu'en cherchant bien tu trouveras facilment une définition de la vraisemblance. Je t'invite à rechercher vraisemblance sut le site : http://pbil.univ-lyon1.fr/R/enseignement.html

A mon avis tu trouveras de quoi réecrire ta définition.

Maxime

E.H. [compte supprimé]

Messagepar E.H. [compte supprimé] » 18 Juin 2007, 11:52

le seul truc convainquant, c'est une définition pour les glm, avec y prenant les valeur 0 ou 1 http://pbil.univ-lyon1.fr/R/fichestd/tdr34.pdf . après, rien ne signale de définition correcte pour d'autres types de modèles et/ou si c'est aussi valable dans d'autres cas.

effectivement, c'est plutot le modèle qui rend compte plus ou moins bien des données et pas l'inverse (edit -- quoi que... j'ai des doutes dans certains cas).

saturation... vivement la fin de ce stage, et merci pour l'aide apportée

Logez Maxime
Messages : 3138
Enregistré le : 26 Sep 2006, 11:35

Messagepar Logez Maxime » 18 Juin 2007, 17:11

Re,


regarde tes mps.

Maxime

E.H. [compte supprimé]

Messagepar E.H. [compte supprimé] » 18 Juin 2007, 18:53

En te remerciant,
je t'ai répondu pour une confirmation.


Retourner vers « Questions en cours »

Qui est en ligne

Utilisateurs parcourant ce forum : Aucun utilisateur enregistré et 1 invité