(of onbepaalde vergelijkingen) , aldus genoemd naar de Griekse wiskundige Diophantos, zijn vergelijkingen, welker aantal kleiner is dan het aantal onbekenden. Een oneindig aantal oplossingen is alsdan mogelijk, gewoonlijk laat men echter alleen gehele getallen toe.
Het eenvoudigste geval is dat van de onbepaalde vergelijking van de eerste graad met twee onbekenden ax + by = c, waarin a. b en c gehele getallen zijn. De gehele oplossingen (die enkel mogelijk zijn, indien a en b, nadat de vergelijking zoveel mogelijk vereenvoudigd is, onderling ondeelbaar zijn) worden gemakkelijk gevonden, zodra één oplossing (x1y1) bekend is; zij zijn dan begrepen in de formule<i>x1 + nb, y1 – na, waarin n een willekeurige gehele coëfficiënt is. Om een eerste oplossing te vinden, maakt men veelal gebruik van de ontwikkeling van a/b in een kettingbreuk (zie breuk).
Behalve de diophantische vergelijking van de 1ste graad is de zgn. Pellse vergelijking x2 − Dy2 = 1 van zeer veel belang. Hier moet eerst voor een bepaalde waarde D het kleinste paar waarden voor x en y gezocht worden, waaruit dan de overige waardeparen gemakkelijk kunnen gevonden worden. Ook hier wordt van kettingbreuken gebruik gemaakt en wel door √D in een zodanige breuk te ontwikkelen.