Han föddes den 10 juni 1952 i Jacksonville, Florida, och började spela gitarr i ung ålder. 1971 gick han med i det Jacksonville-baserade bandet Molly Hatchet och turnerade med dem fram till 1980.
Efter att ha lämnat Molly Hatchet fortsatte McKinney att bilda bandet Andy McKinney and the Road Hawgs, som släppte två album på 1980-talet.
Han har också arbetat som sessionsmusiker och har medverkat på album av artister som Gregg Allman och Dickey Betts.
Under de senaste åren har McKinney bott i Jacksonville, Florida, och fortsätter att spela musik då och då.