Bolin föddes i Sioux City, Iowa. Han började spela gitarr vid sex års ålder och vid 17 års ålder spelade han professionellt i lokala band. 1969 gick han med i bandet Zephyr, som släppte två album innan de upplöstes 1971. Bolin gick sedan med i James Gang och ersatte Joe Walsh. Han spelade in tre album med bandet innan han lämnade 1973.
1975 gick Bolin med i Deep Purple och ersatte Ritchie Blackmore. Han spelade in ett album med bandet, Come Taste the Band, innan han lämnade 1976. Bolin dog av en överdos av droger i Miami Beach, Florida, den 4 december 1976, vid 25 års ålder.
Bolin var en mycket skicklig gitarrist som var influerad av ett brett spektrum av musiker, inklusive Jimi Hendrix, Eric Clapton och Jeff Beck. Han var känd för sin flytande spelstil och sin förmåga att skapa komplexa melodier och solon. Han var också en begåvad låtskrivare och sångare.
Bolins död var en stor förlust för musikvärlden. Han var en begåvad musiker som hade potentialen att bli en av de största gitarristerna i sin generation.