În copilărie a făcut parte dintr-o trupă rock, dar după ce a refuzat un contract cu o casă de discuri, și-a început cariera în teatru și în scurt-metraj la finele anilor '90.
Primele sale roluri importante au fost cele din filmele 28 Days Later (2002), Cold Mountain (2003), Intermission (2003), Red Eye (2005) și Breakfast on Pluto (2005), pentru care a fost nominalizat la Premiile Globul de Aur la categoria Cel Mai Bun Actor Dintr-o Comedie sau Musical și a câștigat premiul IFTA la categoria Cel Mai Bun Actor. Murphy a mai interpretat rolul Dr. Jonathan Crane / Scarecrow în aclamatele filme cu Batman din Trilogia The Dark Knight (2005–2012). La mijlocul anilor 2000, a jucat în filme precum The Wind That Shakes the Barley (2006), Sunshine (2007), The Edge of Love (2008), Inception (2010) și Peacock (2010).
În 2011, Murphy a câștigat premiul IFTA la categoria Cel Mai Bun Actor și premiul DDA pentru filmul Misterman. De asemenea, a devenit afiliat cu Centrul de Cercetare Familială UNESCO de la Universitatea Națională din Irlanda Galway. La începutul anilor 2010, a apărut în In Time (2011), Retreat (2011) și Red Lights (2012).
Între 2013 și 2022, Murphy l-a interpretat pe Thomas Shelby, protagonistul serialului BBCPeaky Blinders, pentru care a câștigat două premii IFTA în 2017 și 2018. Recent, a jucat în Transcendence (2014), In the Heart of the Sea (2015), Anthropoid (2016), Dunkirk (2017) și Oppenheimer (2023).