Sången börjar med att berättaren beskriver den gamle mannens utseende:"Gammal man, titta på mitt liv, jag är mycket som du var." Berättaren fortsätter med att berätta om hur han har varit med om mycket i sitt liv, och han har lärt sig mycket av sina erfarenheter. Han erkänner att han inte är perfekt, men han försöker göra så gott han kan.
Berättaren frågar sedan den gamle om råd om hur han ska leva sitt liv. Gubben säger åt honom att "vara snäll" och "ta det lugnt". Han säger också till honom att "gå långsamt" och att "njuta av åkturen". Den gamle mannens råd är enkelt men djupgående, och det speglar hans egen visdom och erfarenhet.
Låten avslutas med att berättaren tackar gubben för hans råd. Han säger till honom att han alltid kommer ihåg sina ord, och han kommer att försöka leva sitt liv enligt den gamle mannens läror.
"Old Man" är en vacker och gripande låt om åldrande och dödlighet. Det är en påminnelse om att vi alla är på en resa, och att vi kan lära oss mycket av dem som har kommit före oss. Låten är också en hyllning till livet, och den uppmuntrar oss att njuta av vår tid på jorden medan vi kan.