Nascido na Flórida, mas sempre viveu na Califórnia, foi influenciado pelo paimaestro da banda da Disneylândia e mãe pianista, começou a tocar bateria aos sete anos de idade. Aos doze já tocava profissionalmente na Disneylândia, e aos quinze já fazia turnês, com Dweezil Zappa (filho de Frank Zappa). Mais tarde começou a tocar na banda The Vandals. Atualmente é membro oficial das bandas The Vandals, Devo, A Perfect Circle e Foo Fighters, mas também está sempre participando de turnês e gravações de estúdio como membro adicional em outras bandas ou cantores solo.[2][3]
Foi membro de turnê da banda de rock alternativo Paramore, no lugar do ex-baterista da banda Zac Farro.[4] Também atua na banda Devo e na banda Sublime with Rome, substituindo o antigo baterista, Bud Gaugh, que saiu da banda pelo fato de estar sendo, novamente, pai.
Já tendo tocado em três álbuns e mais uma canção do The Offspring, entre 2021 e 2023 foi baterista em uma turnê da banda substituindo Pete Parada, que foi demitido após recusar-se a tomar a vacina de COVID-19.[5]
Em maio de 2023, Josh foi anunciado como o novo baterista do Foo Fighters, tocando na turnê do álbum But Here We Are.[6]