L'approche standard pour cela utilise la log-vraisemblance de la distribution exponentielle.C'est en fait exactement comment l'entropie croisée est dérivée, c'est la log-vraisemblance de la distribution de Bernoulli.

Dans le cas d'une distribution exponentielle, le pdf est:

$$ f (y; \ lambda) = \ lambda e ^ {- \ lambda y} $$

La log-vraisemblance est donc:

$$ LL (\ lambda_i; y_i) = \ log (f (y_i; \ lambda_i)) = \ log (\ lambda_i) - \ lambda_i y_i $$

Donc, si $ y_i $ sont vos vraies valeurs, et $ \ lambda_i $ sont vos prédictions, un modèle exponentiel minimiserait:

$$ LL (\ {\ lambda_i \}; \ {y_i \}) = \ sum_i \ log (\ lambda_i) - \ lambda_i y_i $$

L'ajustement des modèles en maximisant la log-vraisemblance de cette manière conduit à la théorie des modèles linéaires généralisés;le modèle exponentiel est un cas particulier.

La méthode standard pour évaluer les distributions prédictives consiste à utiliser les règles de notation.La log-vraisemblance que Matthew Drury recommande en est un exemple, c'est la règle de notation logarithmique .Il y en a aussi d'autres. Merkle & Steyvers (2013, Analyse décisionnelle ) explique comment les différentes règles de notation sont liées et comment en choisir une.

Vous trouverez plus d'informations dans le tag wiki, et nous avons un certain nombre de questions portant la balise scoring-rules.