Tijdens de reis hoorde Morse zijn medepassagier Charles Jackson spreken over een elektro-magneet, die hij in zijn bezit had. Elektro-magneten waren in die tijd een nieuwigheid en omdat Morse op de universiteit was geweest, interesseerde hij zich voor elektriciteit en magnetisme.
Op een dag vroeg iemand aan Jackson hoeveel tijd elektriciteit nodig had om door de magneet te gaan. Jackson antwoordde dat elektriciteit zó snel is, dat ze daarvoor praktisch geen tijd nodig had. Dat bracht Morse op het idee, dat de elektriciteit dus een uitstekend middel zou kunnen zijn om zeer snel berichten over te brengen. Hij zette zich onmiddellijk aan het werk om dat idee uit te werken.Toen hij in New York van boord ging, had hij al een soort telegraafsysteem ontworpen. Bij het verlaten van het schip zei hij tegen de kapitein: ‘Wel, kapitein; als u ooit van de telegraaf hoort spreken als een nieuw wereldwonder, denk er dan aan dat die vinding gedaan werd aan boord van de ‘Sully’! Morse besteedde al zijn geld aan zijn uitvinding. Het werk was niet gemakkelijk want alles moest nog met de hand worden gemaakt. Het bleek zelfs moeilijk om koperdraad te krijgen. In 1835 echter voltooide Morse zijn eerste telegraaftoestel, dat uitstekend bleek te werken. Toen hij er zeker van was dat zijn idee goed was, stelde Morse het Amerikaanse Congres voor een telegraaflijn aan te leggen tussen New York en Baltimore; hij vroeg tegelijkertijd patent aan op zijn vinding.
Dat patent werd hem pas in 1840 verleend. Hij moest nog drie jaar wachten voor het Congres de gelden beschikbaar stelde voor de aanleg van de telegraaflijn. Tenslotte werd de verbinding echter aangelegd. De eerste boodschap, die overgezonden werd, luidde: ‘Wat heeft God gemaakt?
Samuel Morse was een uitstekend schilder, maar hij werd beroemd door de uitvinding van de telegraaf. Voor zijn dood zag hij alleen al in zijn geboorteland meer dan 150.000 km telegraaflijn tot stand komen.
Nog tijdens zijn leven werd hij een van de grootste uitvinders ter wereld genoemd.