IFK Malmö har kallats "alla malmöidrotters moder" och introducerade bland annat handboll, bandy, ishockey, bowling och landhockey i staden.
Under många år krigade man med lokalkonkurrenten Malmö FF om stadsbornas fotbollsgunst, vilket kulminerade 1960 då man överträffade Di Blåe med derbyseger och allsvenskt silver. Samma år avancerade det gula laget ända till kvartsfinalen i Europacupen (nuvarande Champions League), ett Sverigerekord som stod sig i 19 år tills MFF 1979 gick till final i denna turnering. 1960 fick IFK Malmö respass av Rapid Wien 2 x 0-2, medan Malmö FF 1979 förlorade finalen mot Nottingham Forest med 0-1.
Vid årsmötet 1987 beslutades att dela upp IFK Malmö i två föreningar, en för fotboll och en för handboll. Till handbollssektionen knöts även bowlingen.
Föreningens fotbollsverksamhet har genom åren beskrivit återkommande och påtagliga pendelrörelser, från allsvensk serieledning till långt ner i divisionerna. I våra dagar spelade IFK Malmö i Superettan fram till 2003, men befinner sig för närvarande i femte divisionen efter två raka degraderingar i sista omgången. Också i slutet av 1980-talet var Di Gule långt nere i divisionerna, men lyckades år 2000 återkomma till Superettan med som bäst en sjundeplacering 2002.
IFK Malmö rankades 2010 som landets 16:e bästa fotbollsförening genom tiderna.[källa behövs] Detta tack vare 13 allsvenska säsonger och många års topplaceringar i näst högsta divisionen. Största profilen genom alla tider är målvaktslegendaren Henry "Chrissian" Christensson 1953–1963.