La ciutat es va fundar l'any 1784, durant la conquesta del Caucas pels russos, amb la finalitat d'establir un enclavament estratègic per a controlar la regió i la seva connexió amb Geòrgia. El nom de Vladikavkaz significa en rus Governant del Caucas, mentre que en osset vol dir Reina del Caucas. Durant els períodes de 1931 a 1944 i de 1954 a 1990, la ciutat s'anomenà Ordjonikidze (Орджоники́дзе), en honor del líder bolxevicSergo Ordjonikidze. Vladikavkaz va ser presa l'any 1919, durant la Guerra Civil Russa, per les tropes de l'exèrcit blanc comandades per Anton Ivànovitx Denikin, que hi van resistir un any abans d'ésser derrotades per l'Exèrcit Roig. Durant la Segona Guerra Mundial l'exèrcit nazi va assetjar infructuosament la ciutat, que va marcar l'extrem oriental de l'expansió alemanya.