Olsson föddes i Wallasey, Cheshire, England. Han började spela trummor vid 12 års ålder och spelade i flera lokala band innan han gick med i Johns band 1970. Han har spelat på alla Johns studioalbum sedan dess och har även turnerat flitigt med honom.
Utöver sitt arbete med John har Olsson även spelat trummor för andra artister, inklusive George Harrison, Ringo Starr och Stevie Wonder. Han har även släppt två soloalbum, "Nigel Olsson" (1975) och "Move the Universe" (1980).
Olsson anses vara en av de bästa trummisarna inom rock and roll. Han är känd för sin gedigna tidtagning, sitt kraftfulla trumspel och sin förmåga att smälta in med de andra instrumenten i bandet. Han har blivit invald i Modern Drummer Hall of Fame och Rock and Roll Hall of Fame.