Nikolaj Rajevskij började sin militära bana mycket tidigt och blev befordrad till överste redan vid 20 års ålder. I rysk-turkiska kriget 1806-12 utmärkte han sig särskilt i slaget vid Silistra. Han deltog även i Napoleonkrigen. Rajevskij förföljde under det finska krigetKlingspors retirerande styrkor genom Finland 1808. Efter nederlaget i slaget vid Lappo i juni 1808 övertog greve Nikolaj Kamenskij ledningen.
Vid slaget vid Saltankova den 23 juli 1812 deltog även hans två söner som då var endast 11 respektive 16 år gamla.