Efter att The Naked Brothers Band upphörde medverkade Kaye i flera filmer och tv-program, inklusive filmen "The Wackness" (2008) och tv-programmet "Royal Pains" (2009-2010). Han regisserade också flera kortfilmer och dokumentärer.
De senaste åren har Kaye främst fokuserat på sin musikkarriär. Han släppte sitt debutalbum, "Alone Together", 2012, och har fortsatt att släppa musik sedan dess. Han har också turnerat flitigt, både som soloartist och med sitt band, Josh Kaye Experience.
Förutom sin musikkarriär är Kaye också involverad i flera filantropiska strävanden. Han är en förespråkare för ungdomars psykiska hälsa och har arbetat med flera organisationer för att öka medvetenheten om frågan. Han är också en anhängare av konsten och har arbetat med flera skolor och samhällsorganisationer för att ge ungdomar möjligheter att delta i konsten.