De Graaf deed tweemaal mee aan de Olympische Zomerspelen, in 1960 en in 1964.
In 1960 deed hij enkel mee aan de sprint en eindigde daar als vijftiende.
In 1964 deed hij naast de individuele sprint ook mee aan de tandemsprint, samen met Piet van der Touw.
Op de sprint behaalde hij de 22e plek, direct achter Van der Touw.
Op de tandemsprint grepen De Graaf en Van der Touw net naast een medaille, ze werden vierde.
Aad de Graaf bleef tot aan zijn dood wielrennen, in de categorie Veteranen.
