Sajómercse liegt in Nordungarn, 32 Kilometer nordwestlich des Komitatssitzes Miskolc, sechs Kilometer südlich der Kreisstadt Putnok an dem Fluss Mercse-patak. Nachbargemeinden sind Borsodbóta, Uppony, Sajóvelezd und Királd.
Durch Sajómercse verläuft die Landstraße Nr. 2523. Es bestehen Busverbindungen nach Putnok, wo sich der nächstgelegene Bahnhof befindet, sowie nach Ózd.