Generalized conditional entropy and decision trees
Dan A. Simovici, Szymon Jaroszewicz · 2003
Nous presentons une extension de la notion de l'entropie conditionnelle de Shannon a une forme plus generale d'entropie conditionnelle qui formalise l'entropie conditionnelle de Shannon et une notion semblable liee a l'index de Gini. La famille proposee des entropies conditionnelles produit d'une collection de metriques sur l'ensemble de partitions des ensembles finis, qui peuvent etre employees pour construire des arbres de decision. Les resultats experimentaux suggerent qu'en changeant le parametre qui definit l'entropie il soit possible d'obtenir de plus petits arbres de decision pour certaines bases de donnees sans sacrifier l'exactitude de la classification.