Já vendeu mais de 40 milhões de discos em sua extensa carreira, iniciada nos anos 1970. Teve 22 músicas no Top 40 Americano e foi indicado para 13 Grammy Awards, ganhando um pelo trabalho em "American Fool". Fazendo um estilo que mescla rock, folk e country de raiz americano, o artista destaca-se por suas letras engajadas e de cunho social, sendo por muitas vezes comparado com os trabalhos de Bruce Springsteen.
Mellencamp entrou para o Rock and Roll Hall of Fame em março de 2008. Ele também é conhecido como um dos fundadores do Farm Aid, uma organização que começou em 1985 para levantar fundos para fazendeiros e suas famílias que perderam suas terras.
Entre seu discos mais conhecidos estão: "American Fool" (1982), "Scarecrow" (1985), "Life, Death, Love and Freedom" (2008) e o recente "No Better Than This" (2010).