Hans mest anmärkningsvärda arbete var med Cannonball Adderley Quintet på 1970-talet, men han har också arbetat med många andra anmärkningsvärda jazzmusiker, inklusive Thelonious Monk, Miles Davis, Dizzy Gillespie, Dexter Gordon och Herbie Hancock.
Utöver sitt arbete som sideman har Poole även släppt flera soloalbum, inklusive "The Essence of John Poole" (1977), "Sweet Lucy" (1978) och "Blue Planet Man" (1980).
Poole är också kompositör och arrangör, och han har skrivit musik för film och tv. Han har också undervisat i jazz och latin i slagverk vid University of Southern California och California Institute of the Arts.
Poole tilldelades Jazz Journalists Associations pris "Årets trummis" 2004 och 2005, och han är också medlem i National Academy of Recording Arts and Sciences (NARAS).