Mellin war der Sohn eines Geistlichen. Er wuchs in Hämeenlinna auf, wo er auch die Schule besuchte, und studierte dann an der Universität Helsinki. Sein Lehrer war dort der Mathematiker Gösta Mittag-Leffler. 1881 reichte Mellin seine Dissertation ein und wurde 1882 promoviert.[1] 1881/82 studierte er in Berlin unter Karl Weierstraß. Von 1884 bis 1891 war er Dozent in Stockholm, wo er jedoch keine Vorlesungen gab. Danach war er als Lecturer für Mathematik am Polytechnischen Institut Helsinki tätig. Von 1904 bis 1907 war er Direktor des polytechnischen Instituts und wurde 1908 Professor. Er trat 1926 in den Ruhestand. Er war ein Mitbegründer der finnischen Akademie der Wissenschaften.