Après des études secondaires aux lycées de Tourcoing, Arras et Dijon, Serge Lemoine obtient une licence en histoire et géographie à l'université de Dijon et un doctorat d'État en histoire de l'art sur travaux. Spécialiste de l'art abstrait, et particulièrement de l'abstraction géométrique, il est successivement assistant (1969-1978), maître assistant (1978-1984), maître de conférences (1984-1986) à la faculté des sciences humaines de Dijon et professeur à l'École du Louvre (1981-1988) - où il crée la chaire d'Art du XXe siècle[1] - et chargé de cours à l'Université Paris IV - Sorbonne (1983-1986). Il est parallèlement délégué à la création artistique pour la région de Bourgogne (1969-1981).
Nommé conservateur en chef au tour extérieur en 1986, proche d'Alain Carignon, il dirige le Musée de Grenoble, fonction qu'il occupe jusqu'en 2001. Professeur à l'université Paris IV-Sorbonne en 1999, il est appelé à assurer parallèlement la présidence du Musée d'Orsay (2001[2]-2008[3],[4],[5]). Il revendique une liberté de développement pour le musée et se montre extrêmement critique envers la Réunion des musées nationaux, disant notamment : « La RMN est un reste du système ancien. [Elle] n’a plus de raison d’être. Et il serait absurde aujourd’hui de lui rattacher les musées qui sont toujours des « services à compétence nationale » : il ne s’agit pas du tout de la même logique. Quant à ses activités commerciales, avec ses librairies et ses boutiques, la RMN est aujourd’hui uniquement préoccupée de réaliser des bénéfices financiers, oubliant quels devraient être ses objectifs en termes de formation et d’éducation »[6].
Cependant, les relations entre Serge Lemoine et la Rmn-Grand Palais se sont depuis bien apaisées comme le prouve leur collaboration autour de l'exposition "Dynamo" qui se tiendra au Grand Palais à Paris au printemps 2013 et dont il assure le commissariat[7],[8].
Atteint par la limite d'âge en mars 2008, il devient conseiller de la maison de ventes Artcurial[9].