Introduksjon til maskinlæringHjem

CMD + K

Tilbake til Introduksjon til maskinlæring

TDT4172 • Trær og ensembles

Fra ett split til mange modeller

Mål: begrunn et tres split og følg hvordan bagging, boosting og en lokal forklaring bygger videre på den samme, lille datasituasjonen.

1 av 8 · Finn mulige skillelinjer
ikke beståttbeståttvalgt split

A: 1 studietimer, 5 søvntimer, ikke bestått; B: 2 studietimer, 7 søvntimer, ikke bestått; C: 3 studietimer, 6 søvntimer, ikke bestått; D: 4 studietimer, 8 søvntimer, bestått; E: 5 studietimer, 4 søvntimer, ikke bestått; F: 6 studietimer, 7 søvntimer, bestått; G: 7 studietimer, 6 søvntimer, bestått; H: 8 studietimer, 8 søvntimer, bestått. Beste split med Gini er studietimer mindre enn eller lik 3,5. Forelderens urenhet er 0,500. Venstre side har 3 ikke bestått og 0 bestått, med urenhet 0,000. Høyre side har 1 ikke bestått og 4 bestått, med urenhet 0,320. Vektet urenhet er 0,200, og urenhetsfallet er 0,300.

1 / 8Den beste kandidaten skiller ved studietimer ≤ 3.5. Venstre og høyre side kan nå vurderes hver for seg.
De tre beste splittene
FeatureTerskelVenstre (0/1)Høyre (0/1)VektetFall
studietimer3,53/01/40,2000,300
studietimer5,54/10/30,2000,300
studietimer2,52/02/40,3330,167

Lær mer

Et beslutningstre velger splitten som reduserer urenhet mest. Maksdybde og andre begrensninger styrer hvor detaljert treet kan tilpasse treningsdataene.

Random forest reduserer varians ved å kombinere trær fra ulike bootstrap-utvalg og featurevalg. Boosting bygger i stedet modeller sekvensielt for å korrigere tidligere feil.

Det lokale bidragssteget er en eksplisitt additiv undervisningsdekomponering, ikke en påstand om at bidragene er SHAP-verdier eller kausale effekter.

Relaterte kapitler

6Beslutningstrær og ensembles11Forklarbar maskinlæring