theorema, opgesteld door de Engelse wiskundige Thomas Bayes, waarin de waarschijnlijkheidsrekening wordt toegepast op de mogelijke oorzaken van een waargenomen verschijnsel (gebeurtenis).
Beschouw twee produktiemethoden I en II van eenzelfde artikel en veronderstel dat methode I een fractie p1 defecte artikelen oplevert en methode II een fractie p2 . Verder is gegeven de a priori-kans P[I] dat een artikel geproduceerd is volgens methode I. Indien men nu weet dat het artikel defect is (gebeurtenis D), dan kan de a posteriori-kans P[I|D] bepaald worden dat dit artikel geproduceerd is volgens methode I. Men vindt (zie Waarschijnlijkheidsrekening):
P[I|D] = (P[I∩D])/(P[D]) = [I](P[D│I] P[I])/(P[D│I]P + P[D|II]P[II]) = [I](P[I])/(P + (P₂)/(P₁) P[II])
Hieruit blijkt dat de a posteriori-kans P[I|D] groter is dan de a priori-kans P[I] indien methode I een grotere kans heeft een defect artikel te leveren dan methode II (p1> p2).
Beschikt men over een aselecte steekproef van n artikelen, geproduceerd volgens eenzelfde methode, en het aantal defecte artikelen in de steekproef is gelijk k, dan kan een analoge uitdrukking worden afgeleid voor de a posteriori-kans P[I|(n,k)]. Voor het geval de fractie p van defecten een continue a priori-verdeling ƒp(p) bezit, vindt men voor de a posteriori-waarschijnlijkheidsverdeling:
ƒp|(n,k)(p) = P[k = k; n,p]ƒp(p) / ∫_0^1▒ P[k = k; n,p]ƒp(p) dp
= pk(1 − p)n−kƒp(p) / ∫_0^1▒ pk(1 − p)n−kƒp(p) dp
Voor het eenvoudige geval dat de a prioriverdeling van ▁p de uniforme verdeling is
ƒp(p) ≡ 1) vindt men dan:
ƒp|(n,k)(p)| = pk(1 − p)n−k / B(k + 1, n − k + 1)
waarin de noemer een constante is. Het gemiddelde en de variantie van deze a posteriori-verdeling wordt gegeven door:
ξ(p|(n,k) = (k+1)/(n+2)
var (p|(n,k) = ((k+1)(n-k+1))/((n + 2 )²(n + 3))
waaruit blijkt dat voor een grote steekproefuitgebreidheid n de variantie klein is en het gemiddelde ongeveer gelijk is aan de fractie k/n van defecten in de steekproef: de a posteriori-verdeling van ▁p convergeert in waarschijnlijkheid naar het punt
p = k/n (zie afb.). Deze eigenschap is niet beperkt tot de uniforme a prioriverdeling, maar geldt vrij algemeen.
Hoewel er kritiek kan worden uitgeoefend op de methode, in het bijzonder ten aanzien van het bestaan van een a prioriverdeling en zijn gedaante, blijkt de methode in de moderne statische beslissingstheorie (A. Wald, 1950) waardevol te zijn bij de constructie van toelaatbare en optimale beslissingsprocedures.
De beslissingsprocedure van Bayes met betrekking tot een gegeven a priori-verdeling omtrent de parameter van het systeem ten aanzien waarvan een beslissing moet worden genomen, is per definitie de procedure die het risico met betrekking tot deze verdeling minimaliseert. De klasse van alle bayesregels is dan een volledige klasse: alle toelaatbare regels behoren tot deze klasse.
De bayesprocedure met betrekking tot de voor de statisticus minst gunstige a prioriverdeling (de meest nadelige strategie die de natuur als tegenspeler van de statisticus kan kiezen) blijkt onder zeer algemene voorwaarden de zgn. minimax-procedure te zijn.