De oudste delen van de huidige A31 zijn relatief oud en dateren van het begin van de jaren 60.
Er werd gestart met de aanleg van een 2x2-autoweg van het centrum van de stad Metz naar het noorden, door de Moezel-vallei.
Van het begin van de jaren 90 tot in 2010 bestond er een project om de A31 te ontdubbelen door de aanleg van een nieuwe snelweg A32 tussen Toul en de grens met België of Luxemburg.
Een tweede tracé zou een stuk meer westelijk lopen van Toul via Étain naar de A30 bij Longwy en zich voornamelijk richten op het afleiden van het internationale vrachtverkeer van de A31 naar deze nieuwe verkeersweg.
In 2005 werd er geconstateerd dat bij de volledige sluiting van de A31 ten zuiden van Thionville voor vijf maanden de verwachte grote files uitgebleven waren door een verplaatsing van het internationale vrachtverkeer naar andere assen.
De verbreding tot 2x3 van het stuk Thionville-Luxemburg werd toegevoegd aan het project, net als de verbreding tot 2x3 van de A4 ten noordoosten van Metz.
