Efter en lång och ringlande harang om overfitting, inser jag att det jag vill säga är:
Det är skillnad på att exakt beskriva någonting i skalan 1:1, och att göra en generalisering. Det är alltså inte så att overfitting är en dålig generalisering - det är helt enkelt inte en generalisering.
Khalifen brukar säga att kartan alltid är en förenkling av verkligheten, men att verkligheten inte kan vikas ihop och stoppas i handskfacket. På samma sätt är en generalisering hanterbar, på ett sätt som verkligheten inte är, och en bra generalisering kan definieras som nyttig i termer av så-bra-som-möjliga prediktioner.
Att beskriva alla individer i gruppen däggdjur, och alla deras egenskaper, är mer svårhanterligt än att försöka hitta gemensamma nämnare för alla de entiteter som vi vill ska ingå i ting-rymds-klustret "däggdjur".
Inga kommentarer:
Skicka en kommentar