En 1901, il part pour Paris et écrit son premier roman. Le comte Félix-Nicolas Potocki l'engage alors comme précepteur à Varsovie. Il voyage ensuite à Berlin où il demeure six mois puis en Grèce et en Italie et soutient sa thèse en 1904 sur les sépultures et les vases du Dipylon d'Athènes.
Il entre en 1905 à l'École française d'Athènes comme membre étranger et y reste deux années. Il effectue des fouilles à Délos sous la direction de Maurice Holleaux et revient à Copenhague à l'automne 1907 mais n'y obtient pas la chaire d'archéologie. Il travaille alors au Ny Carlsberg Glyptotek dont il sera le directeur de 1926 à 1943.
Poulsen donne de nombreuses leçons, conférences et articles et fait de nombreux voyages en Orient et en Europe. En 1926, il lance les fouilles de Kalydon avec Konstantinos Rhomaios qui s'étaleront jusqu'en 1938.