Strauss tog lektioner i violin och viola men studerade också musik med Johann Polischansky och lyckades så småningom få en plats i en lokal orkester ledd av Michael Pamer, för att senare ansluta sig till en populär stråkkvartett kallas Lanner-kvartetten, bildad av hans blivande rivaler Joseph Lanner och bröderna Karl och Johann Drahanek. Denna stråkkvartett som spelade wienervalser och rustika tyska danser expanderade till en liten stråkorkester 1824.
Strauss blev så småningom biträdande ledare för orkestern och hjälpte Lanner efter ökad popularitet under Fasching 1824 och snart tog Strauss kommandot över en andra mindre orkester, som bildades som ett resultat av framgången av moderorkestern. År 1825 bestämde han sig för att bilda sin egen orkester och började skriva musik (främst dansmusik) efter att han insåg att han också skulle kunna efterlikna Lanners framgång och få bukt med sina ekonomiska problem.
Strauss blev snart en av de mest kända och uppskattade tonsättarna av dansmusik i Wien. Under karnevalen 1826 började han sin långa rad av triumfer genom visa upp sin orkester för allmänheten i Wien vid Schwan, där hans Täuberln-Walzer (op. 1) på en gång etablerat sitt rykte. Orkestern reste från 1833 på turnéer, som spred den wienska dansmusiken över Europa. De besökte även England i samband med drottning Victorias kröning 1838.
Johann Strauss den äldre avled redan vid 45 års ålder av scharlakansfeber och han efterlämnade en omfattande produktion omfattande 251 nummer: 152 valser, 32 kadriljer, 13 polkor och 18 marscher. Av hans kompositioner torde Radetzkymarsch (1848) och valsen Lorelei-Rhein-Klänge vara de mest spelade.