De oorspronkelijke vorm is Caius met uitspraak van C als G. De naam wordt wel in verband gebracht met Latijns gaudere, 'zich verheugen', dit is echter niet zeker.
Volgens Ernout-Meillet gaat de naam terug op Latijns gaius 'meerkol, vlaamse gaai'. Het is echter niet zeker of de persoonsnaam op de vogel, dan wel de vogelnaam op de persoon is toegepast. Reeds bij de Romeinen was het een voornaam: Caius Caligula. In de vorm Gajus komt hij ook voor in het Nieuwe Testament als de naam van een reisgenoot van Paulus (Handelingen 19 en 20). Ook elders in het Nieuwe Testament komt de naam voor (Romeinen 18, 23). Heiligennaam: Cajus, paus van 282 à 283 tot 295 à 296. Hij leidde de kerk in de tijd tussen de vervolgingen van Valerianus en Diocletianus; kerkelijke feestdag: 22 april. In Friesland was het in de 17e/18e eeuw een 'verlatijnsing' van namen als Gaie, Haie en Kay: Gajus = Haye, Dongnjum 1783 (Genealogysk Jierboekje 1965, 13).
