Evolutionair proces waarbij zeldzame fenotypes van een soort in het voordeel zijn omdat een predator steeds de meest algemene fenotypes van die soort uitkiest
Bij veel soorten is er genetische variatie voor verschillende uitwendige verschijningsvormen, bijvoorbeeld ten aanzien van kleur en vlekkenpatroon, denk bijvoorbeeld aan vlinders of huisjesslakken. Als zo’n soort onderworpen is aan predatiedruk zal de predator over het algemeen een voorkeur ontwikkelen voor de meest abundante vorm. De reden is dat predatoren werken met een zoekbeeld. Het zoekbeeld wordt aangeleerd en versterkt, op basis van de prooivorm die de predator het vaakst tegenkomt. Vormen die daarvan afwijken worden niet herkend en hebben dus een voordeel; ze nemen in frequentie toe, totdat ze zo vaak gezien worden dat ze in een zoekbeeld vallen. Op dat moment komt een andere variant in het voordeel.
Bij apostatische selectie is de fitness negatief-frequentie-afhankelijk; het is een vorm van balancerende selectie leidend tot instandhouding of vergroting van de genetische variatie. Door apostatische selectie ontstaat een grote rijkdom aan kleurpatronen en lichaamsvormen in situaties waarbij predatie een belangrijke factor is; men houdt dit effect verantwoordelijk voor de kleurrijke natuur in de tropen.
Vanuit de predator gezien is bij apostatische selectie de functionele respons S-vormig. De functionele respons is een grafiek die het aantal gevangen prooien weergeeft als functie van de prooidichtheid. De S-vorm impliceert dat bij lage dichtheid het predatierisico onevenredig klein is. Het omslagpunt van de curve komt overeen met een “switch” in het zoekbeeld.
Het idee van het zoekbeeld is in 1960 voorgesteld door de Nederlandse etholoog Luuk Tinbergen, op basis van zijn onderzoek naar de regulatie van insectenpopulaties in dennenbossen door insectivore vogels zoals koolmezen.
