het oplossen van het wiskundige probleem bestaande in het vinden van een extreme waarde van een functie, de doelfunctie, van meer variabelen, waarbij tevens moet worden voldaan aan een aantal nevenvoorwaarden. De naam is misleidend aangezien dit probleem los staat van het programmeren van een computer, hoewel deze bij het praktisch oplossen van de problemen veel gebruikt wordt.
Mathematische programmeringsproblemen komen o.a. voor in de econometrie en zijn vaak van groot praktisch belang. De meest voorkomende bijzondere gevallen zijn: lineaire programmering: hierbij is de doelfunctie lineair en worden de nevenvoorwaarden bepaald door een aantal lineaire ongelijkheden; kwadratische programmering: hierbij is de doelfunctie kwadratisch en zijn de nevenvoorwaarden lineaire ongelijkheden; onbeperkte maximalisering: hierbij kent de doelfunctie geen beperkingen en zijn er geen nevenvoorwaarden; niet-lineaire programmering: hierbij is de doelfunctie continu en liggen de variabelen in een gesloten, samenhangend gebied; bijzondere gevallen hiervan zijn de convexe programmering, waarbij het gebied convex is en de doelfunctie niet slingert; geheeltallige programmering: hierbij mogen de variabelen slechts discrete (meestal gehele) waarden aannemen; een bijzonder geval hiervan vormt de combinatorische programmering, waarbij de variabelen een eindig aantal gegeven waarden kunnen aannemen en de waarde van de doelfunctie afhangt van de volgorde en combinatie van de variabelen; voorbeelden zijn de netwerkproblemen zoals die voorkomen bij het handelsreizigersprobleem en de PERT-methode; de stochastische programmering: hierbij zijn de coëfficiënten in de optredende functies niet vast bepaald, maar bezitten een waarschijnlijkheidsverdeling. Vanwege het grote praktische nut van mathematische programmering wordt er naar efficiënte numerieke oplossingsmethoden gezocht. Een van de oudste methoden is de veel toegepaste simplexmethode voor lineaire programmeringsproblemen.
