Deel van de hersenen gelegen tussen de cerebrale hemisferen en de hersenstam dat meerdere kernen bevat betrokken bij de regulatie van primaire levensfuncties en emoties
De Amerikaanse neurowetenschapper Paul D. MacLean stelde in 1965 voor dat de hersenen opgevat konden worden als bestaande uit drie functionele eenheden, het nieuwe zoogdierbrein (de neocortex), het limbisch systeem (het oude zoogdierbrein) en het reptielenbrein (de hersenstam). Dit concept is populair geworden onder de naam het triune brein.
Het limbisch systeem omvat een diverse verzameling onderdelen, zoals thalamus, hypothalamus, hippocampus, nucleus accumbens en amygdala. Het is primair betrokken bij de regulatie van basale lichaamsfuncties zoals temperatuurhomeostase en geheugen, en ook bij emoties zoals agressie en seksualiteit. Het limbisch systeem is echter niet op te vatten als een eenheid die geïsoleerd kan worden van de rest van de hersenen. Het idee van het triune brein heeft geen navolging gevonden onder moderne neurowetenschappers.
Volgens de Amerikaanse neuro-antropoloog Terence Deacon is de evolutie van de hersenen van primaten naar mens gepaard gegaan met sterkere verbindingen tussen de prefrontale cortex en het limbisch systeem. Hij stelde dat voor als een proces van concurrentie tijdens de ontwikkeling van het brein, de zogenaamde verdringingshypothese (“displacement hypothesis”), die inhoudt dat de sterke ontwikkeling van neuronen uit de prefrontale cortex leidt tot verdringing van verbindingen binnen het limbisch systeem. Op deze manier zou de prefrontale cortex meer “grip” gekregen hebben op de regulatie van emoties zoals seksuele drift en agressie.
De verbinding tussen de prefrontale cortex en het limbisch systeem wordt aangevoerd ter verklaring van de typisch menselijke eigenschap om emoties te betrekken bij hogere cognitieve functies. Hiermee zouden uitingen als muziek, poëzie en creativiteit mogelijk geworden zijn.