Evolutieproces waarbij de toe- of afname van een bepaalde genvariant (allel) niet alleen bepaald wordt door het voor- of nadeel dat het allel aan één individu verleent maar ook in zekere mate door het voor- of nadeel verleend aan alle andere individuen die genetisch aan dat individu verwant zijn
In 1964 formuleerde de Engelse geneticus John Maynard Smith het begrip verwantenselectie ("kin selection"), al bestond het principe al eerder. Het verklaart waarom mensen de neiging hebben om goed te zijn voor hun familie. Namelijk, verwanten hebben deels dezelfde genen. Als jij een genvariant (allel) hebt die bevordert dat je goed bent voor je broers, zal dat allel in frequentie toenemen, ook al is het slecht voor jezelf, omdat in gemiddeld 50% van de gevallen je broers datzelfde allel ook hebben. Verwantenselectie is daarmee een van de verklaringen voor het verschijnsel altruïsme. Een andere manier om hetzelfde te zeggen is dat in de fitness van een individu ook de fitness van alle verwanten van dat individu meegerekend moet worden. Men spreekt ook wel van “inclusive fitness”.
Uiteraard moet je bij jouw “inclusive fitness” je verwanten meerekenen in de mate waarin ze aan jou verwant zijn. De genetische verwantschap tussen broers en zussen, en tussen ouders en kinderen, is ½. Hij is ¼ tussen grootouders en kleinkinderen en ⅛ tussen neven en nichten. De verwantschapsgraad wordt aangegeven met r.
De regel van Hamilton specificeert de condities waaronder altruïsme kan evolueren: een allel dat altruïsme bevordert neemt in frequentie toe als r B > C, waarbij B het voordeel is voor de ontvanger en C de kosten voor de altruïst (uitgedrukt in termen van fitness). J.B.S. Haldane verwoordde de regel van Hamilton omstreeks 1955 door bij wijze van grap te stellen dat “hij zijn leven zou geven voor acht neven of twee broers".
