Maat voor de genetische differentiatie tussen onderdelen van een populatie of voor de genetische afstand tussen populaties
In veel populaties is de kans op een kruising met een ander lid van de populatie niet constant: kruisingen vinden vooral plaats binnen een subgroep en niet met de hele populatie. Dit betekent dat het aantal heterozygoten lager is dan verwacht op basis van de allelfrequenties; er is een zekere mate van inteelt.
Om dit effect te kwantificeren introduceerde Sewall Wright in 1921 de “fixatie-index”: de vermindering van heterozygositeit ten opzichte van wat je verwacht volgens Hardy-Weinberg-evenwicht, in formule: F$$$_{ST}$$$ = (H$$$_{T}$$$ – H$$$_{S}$$$)/H$$$_{T}$$$, waarbij H$$$_{T}$$$ de totale heterozygositeit in de populatie is en H$$$_{S}$$$ de gemiddelde heterozygositeit van de deelpopulaties. De fixatie-index van Wright is beter bekend geworden als de F-grootheid (Engels: F statistic).
Als F$$$_{ST}$$$ = 0 is er geen onderverdeling in de populatie en bij F$$$_{ST}$$$ = 1 zijn de deelpopulaties gefixeerd voor verschillende allelen. F$$$_{ST}$$$-waardes tussen 0.05 en 0.15 duiden op kleine tot matige genetische differentiatie. Voor etnische groepen binnen de menselijke populatie is F$$$_{ST}$$$ ongeveer 0,07, een zeer klein getal waarbij je eigenlijk niet kunt spreken van rassen. Bij F$$$_{ST}$$$ > 0.25 is er sprake van sterke differentiatie.
F$$$_{ST}$$$ wordt ook gebruikt als maat voor de genetische afstand tussen populaties. Als je de F$$$_{ST}$$$-waarde voor twee populaties uitzet tegen hun geografische afstand en dat doet voor veel paren van populaties, krijg je een grafiek met stijgende lijn. Dit geeft aan dat de kans om te kruisen met iemand verderop kleiner wordt naarmate de afstand groter is, een effect dat bekend staat als “isolatie door afstand” {IBD}.