Wilson föddes den 23 juni 1947 i Sioux Indian Reservation i South Dakota. Han var son till en fullblods Sioux-kvinna och en irländsk far. Wilson växte upp på reservatet och han började spela gitarr i tidig ålder. Han var influerad av sitt folks traditionella musik, såväl som av rock and roll på 1950- och 1960-talen.
Efter gymnasiet flyttade Wilson till Minneapolis, Minnesota. där han bildade ett band som heter Sugarloaf med sin svåger Craig Fuller och singer-songwritern Michael Omartian.
Gruppen hade viss framgång och spelade in två album för RCA Records, innan de upplöstes 1971.
Efter upplösningen av Sugarloaf , flyttade Wilson till Los Angeles, Kalifornien där han bildade Pure Prairie League år 1972.
Bandet fick snabbt en efterföljare och de släppte ett antal framgångsrika album under hela 1970-talet.
Några av deras mest populära låtar inkluderar " Amie" , "Fallen änglar" , och " Låt mig älska dig ikväll ".
1979 lämnade Wilson Pure Prairie League för att inleda en solokarriär.
Han släppte två soloalbum, "Jeff Wilson" (1981) och " Never Be the Same" (1983), men de var inte lika framgångsrika som hans arbete med Pure Prairie League.
Wilson fortsatte att turnera och uppträda under hela 1980- och 1990-talen, men hans hälsa började sjunka i slutet av 1980-talet. Han fick diagnosen strupcancer och genomgick flera behandlingsomgångar.
Den 12 december 1991 dog Jeff Wilson i strupcancer vid 44 års ålder .
Han efterlevde sin fru, två döttrar och två söner.